Не сотвори себе чат-бота. Папа Лев XIV объяснил, чем опасна любовь к ИИ и вера в «цифровых оракулов»

Папа Римский Лев XIV в послании ко Всемирному дню социальных коммуникаций призвал католиков развивать критическое мышление, чтобы противостоять «темной стороне» искусственного интеллекта и не формировать неестественную привязанность к чатботам. Он подчеркнул, что у людей есть обязанность беречь собственный образ - лицо и голос - чтобы снизить риск злоупотреблений, от кибербуллинга до дипфейков. Одновременно понтифик обратился к создателям ИИ и руководителям платформ, призвав их думать не только о максимизации прибыли и вовлеченности, но и о том, какой ценой пополняются наборы данных, включая использование культурного наследия для «кормления» моделей.

Лев XIV напомнил, что «лица и голоса священны», поскольку человек создан по образу и подобию Бога. Затем он перешел к технологическим рискам: имитация голосов и лиц, а также симуляция мудрости, эмпатии, дружбы и ответственности, по его словам, способна не просто нарушать работу информационных экосистем, но и вторгаться на самый глубокий уровень коммуникации - уровень человеческих отношений.

Отдельно папа раскритиковал логику «максимизации вовлеченности» в соцсетях, которая загоняет людей в «пузыри» простого согласия и простого возмущения, ослабляя способность к трезвому анализу и усиливая поляризацию. Он назвал опасной наивную, некритичную веру в ИИ как во всеведущего «друга», источник всех знаний и советов, «архив» памяти и почти «оракул». Такая зависимость, предупреждает Лев XIV, превращает людей в пассивных потребителей чужих, неосмысленных мыслей, а произведения человеческого гения в музыке, искусстве и литературе сводит к роли тренировочной площадки для машин.

Понтифик также указал на проблему непрозрачности алгоритмов и перекосов в данных, включая недостаточную социальную представленность: это может запирать человека в средах, где легче манипулировать его взглядами, и усиливать существующие неравенства и несправедливость. Он подчеркнул угрозу дезинформации и необходимость репортажей из реального мира, иначе общество погружается в недоверие, путаницу и ощущение небезопасности. На фоне того, что этой «огромной невидимой силой» фактически распоряжается небольшое число компаний, возникают вопросы об олигополистическом контроле над алгоритмическими системами и ИИ.

При этом Лев XIV не призывает останавливать цифровые инновации: задача, по его словам, в том, чтобы направлять их, помня об их двойственной природе, и «поднять голос» в защиту человека, чтобы технологии стали союзниками. Для этого, считает он, руководители платформ должны ориентировать бизнес не только на прибыль, но и на общее благо, а разработчики - обеспечивать прозрачность и добиваться информированного согласия. На практическом уровне он призвал четко маркировать сгенерированный и измененный контент, защищать авторство и «суверенное владение» трудами журналистов и других создателей, а медиаграмотность, информационную и ИИ-грамотность внедрять в образование на всех уровнях. В финале папа подчеркнул, что «нам снова нужны лица и голоса, чтобы говорить за людей», и что дар общения - одна из глубочайших истин человеческой природы, на которую должны быть нацелены и технологические новшества.