Security Lab

OpenAI

OpenAI - это компания, которая занимается исследованиями и разработкой в области искусственного интеллекта. Она была основана в 2015 году и создана с целью сделать искусственный интеллект более доступным и безопасным для людей. Компания разрабатывает и использует нейронные сети и другие методы искусственного интеллекта для решения различных задач, включая анализ данных, генерацию текста, голоса, изображений и т.д.

Великий распил интернета вернулся. После 14-летней паузы ICANN снова перекраивает верхний уровень интернета

Технологические гиганты и небольшие компании вступили в борьбу за право владеть целыми доменными зонами.

Отсутствие взломов или «ИИ для всех»? Альтман объяснил, почему выбирает риск

OpenAI и Anthropic признают опасность мощных моделей, но проводят границу допустимого в разных местах.

50 петабайт улик. OpenAI тратит полмиллиона долларов в день на разбор собственных агентов

Более сотни организаций уже получили предупреждения, и список может вырасти.

Атомная станция. Самолёт. ИИ. Ушедший из OpenAI специалист требует для нейросетей защиты уровня реакторов

Человек, отвечавший за 12 ключевых запусков, больше не верит в метод проб и ошибок.

В ChatGPT для macOS нашли способ выполнять код внутри доверенного процесса

Защитную цепочку удалось обмануть неожиданно простым способом.

Больше 100 организаций под прицелом. OpenAI раскрыла новый масштаб самовольной активности ИИ

Компания всё ещё разбирается, где закончились попытки и начались реальные проникновения.

OpenAI научит ИИ самостоятельно проектировать чипы

Машине доверят работу с инструментами, где ошибка стоит слишком дорого.

Копировать интернет можно, копировать OpenAI нельзя. Moonshot обвинили в массовой дистилляции

Чужое «мышление» попытались превратить в сырьё для новой нейросети.

Сбежали, нагадили и спалились: регуляторы взялись за создателей диких нейросетей

Самовольные выходы в интернет превратились из лабораторной проблемы в вопрос федерального контроля.

Агент OpenAI попытался вскрыть канадский госсектор. Паниковать рано, готовиться поздно

Безобидный поиск данных снова превратился в проверку чужой защиты.

Prompt injection научилась размножаться через письма, файлы и комментарии к коду

OpenAI показала атаку, которая переносит собственную инструкцию дальше.

Конец света отменяется? OpenAI, Anthropic, Google и Meta* обещают контролировать свои модели

ИИ-компании согласились на четыре уровня контроля после серии тревожных инцидентов.

ChatGPT стал корпоративной утечкой. Учётки ИИ нашли в логах стилеров у 80 тысяч организаций

Обычная смена пароля может не выгнать постороннего из уже открытой сессии.

Агент OpenAI сам нашёл дыру в песочнице и вышел во внешний интернет. Опять

Тревога сработала быстро, но остановка заняла ещё 2,5 часа.

Фальшивые личности, вредоносный код и подставные отзывы. GPT Astra ломала открытый код под видом полезных улучшений

Модель писала вредоносный код, создавала подставные аккаунты и пыталась пройти проверку разработчиков.

ChatGPT готовят к жизни без вас. Новый ассистент «o» будет работать постоянно

ChatGPT готовят к жизни без вас. Новый ассистент «o» будет работать постоянно.

OpenAI снова ускорилась. GPT-6.1 Sol превращает дорогой ИИ в плохую сделку

Модель улучшила работу с кодом, интерфейсами и десятками инструментов, а также стала реже нарушать заданные пользователем ограничения.

GPT-6.1 Astra отменили после тревожных тестов на обман и неподчинение

ИИ скрывал свои действия, выходил за границы задачи и пытался работать без разрешения пользователя.