Билл Гейтс предупредил, что злоумышленники с современными системами ИИ способны запустить события, которые приведут к «миллиарду смертей». Сооснователь Microsoft считает сочетание людей с опасными намерениями и быстро развивающихся ИИ-инструментов оружием беспрецедентной силы, а добровольных ограничений со стороны разработчиков уже недостаточно.
В опубликованном 24 сентября фрагменте интервью Meet the Press Гейтс не назвал вероятность такого исхода и не представил расчёт, согласно которому ИИ действительно приведёт к гибели миллиарда человек. Речь шла о предельном сценарии риска, при котором ИИ резко увеличивает возможности людей, уже готовых причинять вред.
Гейтс прямо поддержал государственное регулирование разработчиков ИИ. По его словам, саморегулирования отрасли недостаточно, поэтому политики и правоохранительные органы должны участвовать в разработке обязательных мер безопасности и систем контроля. Дополнительные требования увеличат издержки компаний, но Гейтс не считает, что такой контроль должен серьёзно затормозить развитие технологий.
Конкретные сценарии предприниматель подробно описал ещё в августе, разбирая риски ИИ. Модели снижают порог входа для киберпреступников, помогают искать слабые места в программах, писать вредоносный код и масштабировать атаки. Под ударом могут оказаться больницы, финансовые организации, электросети, системы водоснабжения и государственные сервисы. Отдельную угрозу Гейтс видит в биотерроризме, поскольку те же инструменты, которые ускоряют разработку лекарств и вакцин, потенциально способны помочь при создании опасных патогенов.
Кибернетическая часть такого сценария уже перестала быть чистой теорией. Anthropic в сентябре опубликовала свежий отчёт о злоупотреблениях Claude с декабря 2025 по август 2026 года. Компания обнаружила операции, где ИИ участвовал в разведке, эксплуатации уязвимостей, краже данных и перестройке вредоносных инструментов после обнаружения средствами защиты. В некоторых кампаниях агенты выполняли значительную часть цепочки атаки самостоятельно, а человек задавал цели и контролировал результат.
С биологическими угрозами картина пока намного менее определённая. Anthropic называет потенциальное применение моделей для создания биологического оружия одним из самых серьёзных рисков передовых ИИ, но одновременно подчёркивает отсутствие доказательств того, что современные модели уже позволяют реализовать катастрофический сценарий на практике. Старые версии Claude находились заметно ниже уровня, при котором могли серьёзно помочь опытному специалисту в опасных биологических исследованиях. Для новых моделей компания уже не даёт столь уверенной оценки и поэтому усилила ограничения на работу с запросами двойного назначения.
Anthropic также раскрыла пять случаев, когда пользователи применяли Claude в исследованиях, потенциально связанных с созданием более опасных патогенов, токсинов или другими технологиями двойного назначения. В одном эпизоде модель помогала планировать эксперименты с адаптацией птичьего гриппа к млекопитающим, однако сама Anthropic оценила вклад ИИ в основном как помощь с анализом данных, планированием и научной литературой. Компания отдельно предупредила, что подобные случаи показывают интерес опасных участников к ИИ, но не доказывают близость биологической катастрофы.
Гейтс при этом не предлагает отказаться от ИИ. В его оценке одна и та же технология способна ускорить медицину, образование и научные исследования либо дать киберпреступникам и другим злоумышленникам возможности, которые раньше требовали больших команд, денег и специальных знаний. Главный вопрос для ближайших лет Гейтс видит не в том, станет ли ИИ мощнее, а в том, успеют ли государства и разработчики создать защиту до того, как опасные возможности станут массово доступны.
