Команда будущего: OpenAI оценит безопасность нового поколения общего ИИ

Искусственный интеллект (ИИ) активно развивается, и с этим развитием приходят и новые риски. Компания OpenAI обозначила новый этап своего пути к созданию безопасного искусственного интеллекта общего назначения (Artificial General Intelligence, AGI). В июле 2022 года учёные приняли ряд добровольных обязательств, направленных на укрепление безопасности, надежности и доверия в сфере ИИ.

OpenAI представила план подготовки к предстоящим вызовам. Основное внимание уделяется оценке потенциальных рисков, которые могут представлять системы ИИ нового поколения. Основные вопросы, на которые исследователи попытаются найти ответы:

• Каковы реальные угрозы от новых ИИ-систем при их неправильном использовании?
• Как эффективно контролировать и прогнозировать развитие искусственного интеллекта нового поколения?
• Какие действия могут предпринять злоумышленники, если они получат доступ к передовым ИИ-моделям?

Для борьбы с этими и другими вызовами будет создана специализированная команда готовности (Preparedness team), которая будет заниматься внутренним тестированием новых моделей, а также оценкой их потенциальных возможностей и рисков. Ключевыми направлениями работы станут кибербезопасность, индивидуальное воздействие на людей, угрозы в области химии, биологии и радиации, а также автономное воспроизведение и адаптация систем ИИ.

На данный момент OpenAI на своём сайте приглашает специалистов различных профилей для участия в проекте Preparedness team . Новый этап в разработке ИИ требует объединения усилий лучших мировых экспертов.