Security Lab

HiddenLayer

HiddenLayer - это компания, разрабатывающая инструменты и библиотеки для визуализации и анализа нейронных сетей. Продукты HiddenLayer помогают исследователям и разработчикам визуализировать и понимать внутреннюю структуру нейронных сетей, что может быть полезно для отладки, оптимизации и улучшения моделей машинного обучения.
Кроме того, компания также специализируется на кибербезопасности искусственного интеллекта (ИИ) и машинного обучения. Она проводит исследования уязвимостей в ИИ-системах и разрабатывает решения для укрепления безопасности этих технологий, помогая предотвращать возможные вредоносные действия. HiddenLayer работает с организациями разного масштаба, предоставляя инструменты и услуги для защиты их ИИ-систем.

Манипуляции без следов: как «скрытые закладки» могут подорвать доверие к ИИ

Вычислительные графы скрывают такие угрозы, о которых вы даже не подозревали.

Критическая брешь в R позволяет хакерам устроить атаку на цепочку поставок

Уязвимость затрагивает тысячи организаций, использующих данный язык в своём ПО.

Джейлбрейк для Gemini: как взломать большую языковую модель от Google?

Исследователи выявили фатальные изъяны в защите, позволяющие злоупотреблять возможностями популярного ИИ-решения.

Сервис конвертации Hugging Face - лазейка для взлома ИИ-моделей

Уязвимость в Safetensors становится причиной компрометации цепочек поставок.

Эксперты Forrester назвали самые опасные информационные угрозы в 2023 году

Откуда ИБ-специалистам ждать удара и как подготовиться к изощрённым методам злоумышленников?