Законопроект SB 1047: почему Маск за, а OpenAI против?

Илон Маск выразил поддержку законопроекту Калифорнии SB 1047, который требует от разработчиков крупных ИИ-моделей внедрять и документировать меры безопасности для предотвращения возможного вреда.

По словам Маска, Калифорнии следует принять SB 1047, несмотря на то, что это может вызвать недовольство у некоторых людей. Предприниматель подчеркнул, что на протяжении более 20 лет выступал за регулирование ИИ, так же как регулируются любые другие продукты или технологии, которые могут представлять потенциальный риск.

Твит Илона Маска

Примечательно, что сам Маск уже давно критически относится к неконтролируемому развитию ИИ и не раз предупреждал об опасностях, которые могут возникнуть при отсутствии должного контроля. Под действие законопроекта попадет и его собственная компания xAI, несмотря на заявление Маска о намерении покинуть Калифорнию.

В то же время, компания OpenAI, один из главных конкурентов xAI, недавно заявила о своем несогласии с законопроектом SB 1047. Разработчики OpenAI утверждают, что законопроект может замедлить развитие технологий, и настаивают на том, что регулирование таких вопросов должно осуществляться на федеральном уровне, а не на уровне штатов.

Законопроект SB 1047, предложенный сенатором Винером, направлен на введение «разумных стандартов безопасности» для компаний, разрабатывающих крупные ИИ-модели, превышающие определённые пороги размера и стоимости. В случае принятия закона, компании будут обязаны принимать меры, чтобы их модели не нанесли «критического вреда», такого как создание биологического оружия или нанесение финансового ущерба свыше $500 миллионов.

Законопроект уже столкнулся с критикой со стороны крупных технологических компаний, стартапов и венчурных капиталистов. Они утверждают, что это чрезмерное вмешательство в технологию, которая находится в начальной стадии развития, и что подобные меры могут затормозить технологические инновации в штате. В письме OpenAI также выразила опасения, что принятие закона может вынудить компании, занимающиеся разработкой ИИ, покинуть Калифорнию.

Изначально вызвавший критику в Кремниевой долине, законопроект был смягчен после внесения поправок, предложенных компанией Anthropic. Законопроект в настоящее время ожидает финального голосования, после чего он будет направлен на подпись губернатору Калифорнии. Кроме того, стало известно, что OpenAI временно приостановила планы по расширению своих офисов в Сан-Франциско из-за неопределённости в отношении регулирования в Калифорнии.