ИИ на коленке: Mozilla отключает функцию AI Explain из-за некомпетентности

Mozilla временно отключила функцию AI Explain на своем сайте документации MDN после обнаружения неточностей в работе этой технологии.

На прошлой неделе MDN представил два новых сервиса искусственного интеллекта - AI Help и AI Explain.

• AI Help позволяет зарегистрированным пользователям MDN задавать вопросы через чат-интерфейс и получать ответы от бота OpenAI GPT-3.5.
• AI Explain позволяет пользователям задавать вопросы о примерах кода на странице документации, и бот предоставляет более подробные разъяснения. Однако пользователи обнаружили неточности в ответах AI Explain и выразили свои опасения относительно технической точности сервиса.

Представитель Mozilla заявил , что компания получила много комментариев от пользователей, включая положительные отзывы, конструктивную критику и опасения по поводу технической точности ответов. Хотя большинство пользователей оценили сервисы положительно (75,8% для AI Help и 68,9% для AI Explain), Mozilla приняла решение временно отключить функцию AI Explain, чтобы провести дополнительное исследование и исправить обнаруженные проблемы.

Пример неправильного ответа AI Explain: ИИ указывает, что код определяет сетку с двумя строками и двумя столбцами, тогда как на самом деле CSS определяет только две строки.

Mozilla продолжит работу над использованием генеративного ИИ. Команда MDN планирует улучшить алгоритмы, чтобы точнее определять некорректные ответы и предоставлять лучшие варианты для сообщения об ошибках. Представитель Mozilla также призвал сообщество активно участвовать в процессе разработки, чтобы обеспечить ответственное и эффективное использование искусственного интеллекта.

Mozilla обещает представить отчет о запуске AI Help и AI Explain, а также о решении временно отключить часть сервиса. Организация призывает пользователей делиться своими мнениями и предложениями, поскольку они считают их важным элементом этого процесса.