Разработан набор рекомендаций по аудиту инструментов на базе ИИ

Разработан набор рекомендаций по аудиту инструментов на базе ИИ

Исследователи разработали рекомендации по аудиту ИИ, рассмотрев идеи справедливости и предвзятости с разных точек зрения.

При приеме на работу многие организации используют инструменты на базе искусственного интеллекта для сканирования резюме и прогнозирования навыков, необходимых для определенной должности. Колледжи и университеты используют ИИ для автоматического оценивания эссе, обработки зачетных книжек и просмотра внеклассных мероприятий с целью определения потенциально хороших учеников. В ответ на заявления о несправедливости и предвзятости подобных инструментов специалисты Университета Миннесоты и Университета Пердью разработали новый набор рекомендаций по аудиту инструментов на базе ИИ.

Исследователи разработали рекомендации по аудиту ИИ, сначала рассмотрев идеи справедливости и предвзятости с трех основных точек зрения.

  • Как люди определяют, было ли решение справедливым и беспристрастным.

  • Как социальные, правовые, этические и моральные стандарты представляют справедливость и предвзятость

  • Как отдельные технические области, такие как информатика, статистика и психология, определяют внутреннюю справедливость и предвзятость

Структура аудита состоит из двенадцати компонентов по трем категориям, в том числе:

  • Компоненты, связанные с созданием, обработкой и прогнозами, созданными ИИ.

  • Компоненты, связанные с тем, как используется ИИ, на кого влияют его решения и почему.

  • Компоненты, связанные с общими проблемами: культурный контекст, в котором используется ИИ, уважение к людям и научная достоверность исследований, используемых поставщиками ИИ для поддержки своих заявлений.

Исследователи рекомендуют следовать разработанным ими стандартам как внутренним аудиторам при разработке технологий прогнозирующего ИИ, так и впоследствии независимым внешним аудиторам.


Один хакер может причинить столько же вреда, сколько 10 000 солдат! Подпишись на наш Телеграм канал, чтобы узнать первым, как выжить в цифровом кошмаре!