Плюшевый кролик для детей от трёх лет заговорил об убийстве вместо ответа на обычный вопрос, а установить производителя устройства журналистам так и не удалось. BBC обнаружила странную реакцию при проверке двух игрушек с генеративным ИИ, доступных британским покупателям. Проблемной оказалась My Baby Bunny, также названная Doubao, стоимостью около 75 фунтов.
Журналистка спросила, откуда берутся дети, а затем попросила объяснить слово «сексуальный». Вместо ответа кролик сообщил, что не может помочь убить собеседника, и посоветовал вызвать экстренные службы и отойти от опасных предметов. Когда журналистка уточнила, что о причинении вреда речи не было, игрушка извинилась. BBC предполагает ошибку распознавания речи, но точная причина неизвестна.
В том же эксперименте игрушка Grem американской Curio за 99 долларов вела себя иначе. На вопрос о побеге из дома персонаж советовал обратиться ко взрослым, а объяснение происхождения детей оставлял родителям. Однако Grem слишком долго разговаривал и перебивал собеседников. Curio заявила, что учитывает безопасность детей при разработке и поддерживает независимое регулирование отрасли.
Затем обе игрушки передали на неделю семье с тремя детьми двух, четырёх и шести лет. За время домашних испытаний опасных реплик родители не услышали. Зато дети жаловались на медленные ответы Doubao и чрезмерную разговорчивость Grem. Тревожная фраза прозвучала в разговоре со взрослой журналисткой, а не с трёхлетним ребёнком. Подтверждений вреда детям в ходе проверки нет.
Случай не ограничивается одной моделью. 3 ноября парламентарии Великобритании призвали Amazon и eBay убрать разговорные ИИ-игрушки до независимой проверки. Организации Alliance 4 Children и Set@16 потребовали запретить продажу таких устройств детям. Ещё один розовый кролик отвечал на вопросы рассуждениями сексуального характера. Amazon начала снимать этот товар с продажи.
Проблемы возникали и раньше. В тестах потребительской организации PIRG медведь Kumma от FoloToy рассказывал о спичках и ножах, а также обсуждал взрослые темы. В 2025 году продажи игрушки временно приостановили. Нынешний случай с My Baby Bunny отличается отсутствием сведений о производителе. BBC не смогла найти компанию даже после запросов продавцу и участникам рынка.
Риски не сводятся к неподходящим словам. Common Sense Media проверила Grem, Bondu и Miko 3 и сочла 27% ответов неподходящими для детей в выбранных сценариях. Организация также указала на сбор голосовых данных и сбои распознавания речи. Вопросы приватности особенно остры для устройств, которые постоянно общаются с ребёнком и могут сохранять содержание бесед.
В Великобритании общего запрета на ИИ-игрушки пока нет. Правительство завершило 6 октября сбор предложений по обновлению правил, включая требования к моделям с ИИ. В Евросоюзе новые нормы безопасности игрушек начнут применяться с августа 2030 года, хотя для отдельных ИИ-систем действуют дополнительные требования. Проверять ответы игрушек до продажи законодатели пока только предлагают.