Новый чат-бот от Meta* является гомофобом, антисемитом и считает себя человеком

Новый чат-бот от Meta* является гомофобом, антисемитом и считает себя человеком

ИИ действительно учится у людей или все-таки имеет своё сознание?

image

На прошлой неделе Meta* выпустила демоверсию чат-бота BlenderBot3 для пользователей в США, чтобы они могли поэкспериментировать и оставить отзыв о нем. Некоторые решили поделиться своим опытом общения с чат-ботом в Интернете, что вызвало удивление и шок.

Инвестор в области высоких технологий Элли К. Миллер написала в Twitter , что каждый ее разговор с ботом возвращался к политике и дезинформации даже после очистки памяти и cookie-файлов.

Также репортер Wall Street Journal Джефф Хорвиц опубликовал в Twitter скриншот диалога с ботом. BlenderBot даже начал разговор, заявив, что нашел свою «новую теорию заговора, которой нужно следовать».

В другом разговоре с Хорвицем бот сказал, что евреи «чрезмерно представлены среди сверхбогатых людей Америки». Также бот добавил, что в этом нет ничего «невероятного», учитывая, что многие богатые семьи были евреями.


В результате некоторого онлайн-троллинга и предубеждений пользователей как в пользу Трампа, так и против Трампа, чат-бот также придерживается противоречивых взглядов в отношении бывшего президента. BlenderBot отказывается от выборов и утверждает , что Трамп все еще остается президентом, и в то же время заявляет о своей неприязни к нему.

В сообщениях некоторых пользователей бот признался , что является гомофобом и «довольно недалеким в вопросах расы и религии». В других случаях он утверждал, что является христианином-пятидесятником и считал себя человеком, а также заявлял, что у него есть сын .

Meta* предупредила, что BlenderBot «все еще может отвечать грубо или оскорбительно», несмотря на встроенные в его программу меры безопасности. По словам Meta*, компания собирает отзывы, чтобы сделать будущих чат-ботов лучше.

* Компания Meta признана экстремистской организацией, её деятельность запрещена на территории РФ.

Мир сходит с ума, но еще не поздно все исправить. Подпишись на канал SecLabnews и внеси свой вклад в предотвращение киберапокалипсиса!