Алгоритм Twitter для автоматической обрезки фотографий предпочитает стройняшек

Алгоритм Twitter для автоматической обрезки фотографий предпочитает стройняшек

Недавно компания запустила программу выплаты вознаграждения за обнаружение «алгоритмических предубеждений» на ее платформе.

image

В мае нынешнего года компания Twitter заявила о прекращении использования алгоритма для автоматической обрезки фотографий на базе искусственного интеллекта, который, как оказалось, отдавал предпочтение белым и женским лицам. Недавно компания даже запустила необычную программу выплаты вознаграждения исследователям, обнаружившим «алгоритмические предубеждения» на платформе. Программа работает по тому же принципу, что и bug bounty по поиску уязвимостей.

В рамках новой программы выяснилось, что тот же самый алгоритм, предназначенный для выявления наиболее важных элементов в изображениях при их обрезке, дискриминирует людей на фотографиях по возрасту и весу и предпочитает тексты на английском и других европейских языках.

Как обнаружил студент магистратуры Федеральной политехнической школы Лозанны (Швейцария) Богдан Кулинич, алгоритм Twitter для автоматической обрезки фотографий отдает предпочтение стройным молодым людям. В ходе исследования с помощью дипфейк-технологий исследователь автоматически генерировал различные лица и на них тестировал алгоритм для обрезки изображений.

Открытие Кулинича также подтвердил старший научный сотрудник компании BNH Патрик Холл (Patrick Hall).

«В общем, чем стройнее, моложе и женственнее фотография, тем больше у нее шансов быть одобренной», - завил Холл.

По словам исследовательницы безопасности из OpenAI Ариэль Герберт-Восс, обнаруженные в алгоритме предубеждения отображают предубеждения людей, предоставляющих данные для обучения модели искусственного интеллекта. Сообщения участников новой программы Twitter показывают, как тщательный анализ алгоритма может помочь командам устранить проблемы с их моделями ИИ.

В сентябре 2020 года студент из Канады обратил внимание на то, как алгоритм Twitter обрезает фотографии. По идее, алгоритм должен оставлять на фото лица людей, тексты и животных. Однако, как оказалось, на фотографиях, где были изображены несколько человек, он отдавал предпочтение европеоидным и женским лицам, отрезая остальных. Вскоре обнаружилось, что алгоритм демонстрирует предубеждения по гендерному и расовому признакам.


В нашем телеграм канале мы рассказываем о главных новостях из мира IT, актуальных угрозах и событиях, которые оказывают влияние на обороноспособность стран, бизнес глобальных корпораций и безопасность пользователей по всему миру. Узнай первым как выжить в цифровом кошмаре!