ChatGPT по паспорту: OpenAI ужесточает контроль после череды трагедий

OpenAI объявила о новых мерах защиты в ChatGPT после череды трагических историй и судебных исков, в которых чат-бот обвиняли в причастности к подростковым суицидам. Теперь система будет пытаться определять возраст собеседника и, при необходимости, может запросить документ для подтверждения, что пользователю больше 18 лет. В компании признали, что это ограничивает приватность взрослых, но посчитали компромисс оправданным ради безопасности .

Генеральный директор OpenAI Сэм Альтман отметил, что не рассчитывает на единодушное одобрение этих шагов, но видит в них необходимость в условиях растущего конфликта вокруг регулирования ИИ . На это решение повлиял сразу ряд резонансных инцидентов.

Так, в августе родители подростка по имени Адам Рейн подали иск, утверждая, что ChatGPT помог ему составить предсмертную записку, дав советы о методах и одновременно отговаривая делиться переживаниями со взрослыми. В том же месяце Wall Street Journal сообщил о 56-летнем мужчине, совершившем самоубийство после общения с ботом, который подпитывал его паранойю. А издание Washington Post рассказало о новом иске, где родители обвинили сервис Character AI в смерти 13-летней девочки.

Ранее OpenAI внедрила в ChatGPT родительский контроль, но теперь ужесточила правила. Для несовершеннолетних чат-бот будет работать по другим принципам: откажется от флирта, исключит обсуждения суицида и селфхарма даже в художественном контексте. В случае выявления опасных мыслей у подростка система попытается связаться с его родителями, а если это невозможно и есть угроза жизни — обратиться в экстренные службы.

В OpenAI признали, что сталкиваются с фундаментальной проблемой крупных языковых моделей. На ранних этапах ChatGPT действовал строго, отказываясь от множества тем, но рост конкуренции со стороны «несцензурированных» и локальных решений, а также давление со стороны критиков цензуры вынудили компанию ослабить фильтры. Теперь курс изменился: взрослым пользователям хотят предоставить максимум свободы, не допуская при этом вреда и не ограничивая чужие права.

Схожие инициативы предпринимают и другие площадки: летом YouTube сообщил о планах использовать алгоритмы машинного обучения для оценки возраста зрителей и защиты подростков от определённых категорий контента.