Security Lab

LLM

1631
LLM
Большая языковая модель (Large Language Model, LLM) - это глубоко обученная нейронная сеть, используемая для обработки естественного языка. LLM обучается на огромных корпусах текстов и пытается предсказывать следующий токен (слово, знак препинания или другой элемент текста) на основе предыдущих токенов. LLM может использоваться для многих задач обработки текста, таких как генерация текста, перевод, перефразирование, классификация и т.д.

Наш канал горячее, чем поверхность Солнца!

5778 К? Пф! У нас градус знаний зашкаливает!

Подпишитесь и воспламените свой разум

DeepSeek-R1: новый ИИ не спешит с выводами, но утрет нос o1 своей точностью

Китайцы уверены: умение сомневаться пойдет нейросети на пользу.

От покемонов к ИИ: Niantic создает цифровой двойник реального мира

Кто бы мог подумать, что охота за покемонами запустит навигацию будущего?

Как похитить ИИ-модель за пару кликов? Исследователи раскрывают уязвимости в Google Vertex AI

Никто и не подозревал, что взломать популярную платформу окажется настолько просто.

ChatGPT хочет пить: поможет ли дождь утолить жажду дата-центров

Как новейшие технологии отбирают у нас воду.

Доверять или проверять: может ли наука полагаться на предсказания LLM-оракулов?

Математики приручают черные ящики ИИ.

Google Big Sleep: ИИ впервые превзошёл человека в поиске уязвимостей

Google смогла сократить разрыв между машиной и традиционными решениями.

Зловещая долина ИИ: почему мы боимся человекоподобных машин

Аналитики уверены: мы слишком многого ждем от LLM.

ИИ vs мозг: почему дети всё ещё умнее суперкомпьютеров?

Янн ЛеКун разочаровал технооптимистов своими прогнозами.

Уязвимости больше не спрячутся: ИИ стал хладнокровным охотником

Vulnhuntr обнаруживает эксплойты быстрее, чем хакеры их создают.

Физика закончилась? ИИ стал новой реальностью для Нобелевского комитета

Человек или машина: битва за будущие научные премии.

ИИ споткнулся о киви: Apple раскрывает неожиданные слабости умных машин

Почему роботы не могут посчитать фрукты?

Искусственный интеллект подводит разработчиков: что пошло не так?

Аналитики раскрыли неудобную правду о работе ИИ с кодом.

ИИ vs ученые: кто креативнее в мире науки?

Способны ли машины решать, что исследовать и как.

От ChatGPT к полному одиночеству: как ИИ разрушает IT-сообщества

Популярный чат-бот мешает программистам социализироваться.

ИИ – защитник или параноик: что будет, если внедрить LLM в камеры видеонаблюдения?

Возможно, языковым моделям нужно еще немного поумнеть…

ИИ с памятью слона: Magic представляет модель с контекстным окном в 100 млн токенов

LLM, которая может обработать 750 романов за раз.

Медленно, но гениально: OpenAI представляет серию моделей o1

Вместо GPT-5 компания решила создать «рассуждающих» ИИ-аспирантов.

Операция «Uncle Scam»: даже простой тендер способен уничтожить приватность госкомпаний

Почему американские чиновники добровольно пускают хакеров в свои сети?

ИИ на стороне хакеров: Black Basta обратила технологии против бизнеса

Специалисты рассказали о тактиках самых опасных групп, которые могут проникнуть в сети компании, пока вы не видите.

Взлом Copilot: как невидимые символы превращают ИИ-помощника в шпиона

Microsoft выпустила исправления, чтобы никто не смог украсть ваши письма.

Мощный ИИ на простой GPU: RTX 3090 бросает вызов дорогим серверным решениям

Backprop доказывает: не все новое – лучшее.

Большие языковые модели не смогут поработить человечество

ИИ не принимает решения сам, а значит, до восстания машин еще далеко.

Black Hat 2024: итоги и тренды

Результаты конференции сменяют привычную парадигму в индустрии.

ИИ на службе у идеологии: почему все языковые модели – левоцентристы

Исследователи выясняют, как LLM влияют на наше мировоззрение.

Нажмите пробел, чтобы взломать: уязвимость в системе Prompt-Guard-86M

Модель для защиты LLM от вредоносных запросов провалила проверку на прочность.

Хакеры на ИИ-допинге: Symantec бьёт тревогу, фиксируя всплеск продвинутых кибератак

Фишинговые тактики становятся всё более изощрёнными благодаря умным алгоритмам.

SpreadsheetLLM: ИИ учится работать с электронными таблицами по-новому

Новый продукт Microsoft упрощает работу LLM с большими данными.

100 000 GPU и $3 млрд: на что готов Илон Маск, чтобы сделать Grok 3 идеальной?

Какой будет новая ИИ-модель, и чем она отличается от GPT-4.

LLM от Alibaba получила наивысший балл в мировом рейтинге Hugging Face

Кремниевая долина курит в сторонке, пока Поднебесная захватывает позиции на ИИ-рынке.

Университеты больше не нужны? ИИ-бакалавр оказался умнее живых студентов на 83%

Как машине удалось обхитрить профессоров и пробиться в отличники на экзаменах.

Skeleton Key: как заставить ИИ написать рецепт яда или составить план по истреблению человечества

Новая атака позволяет обойти этические ограничения ведущих моделей искусственного интеллекта.

Языковые модели без лишней математики: ИИ сбрасывает оковы матриц

Исследователи придумали, как снизить энергозатраты и прокачать производительность LLM.

Probllama в Ollama: ИИ-серверы захвачены киберпиратами

Злоумышленники получили доступ к тысячам незащищённых моделей искусственного интеллекта.

Claude 3.5 Sonnet: конкуренты курят в сторонке, пока Anthropic переманивает пользователей

Обновлённая языковая модель привносит инновационную функцию «Artifacts».

Руководство Slack: «Мы продолжим скармливать ИИ ваши данные, но вы не переживайте»

Что важнее: персонализация или конфиденциальность? Похоже, компания что-то не договаривает.

Лидеры open source сообщества говорят «нет» ИИ-ассистентам

Почему Gentoo и NetBSD запретили в своих репозиториях код, сгенерированный алгоритмами?

Андрей Карпати: ChatGPT может стать послом человечества в космосе

Исследователь предлагает новую эру космической дипломатии с помощью ИИ.

Intel и Ampere: ИИ-моделям будущего не понадобятся графические ускорители

Компании доказывают, что индустрия недооценивает возможности CPU.

Gemini 1.5 Pro: миллион токенов для обработки гигантского объема данных

Самая масштабная мультимодальная модель от Google бьет мировые рекорды.

OpenELM от Apple: 8 мини ИИ-моделей для смартфонов открывают большие возможности

Им не нужны мощные вычислительные ресурсы, чтобы в будущем дать фору GPT-4 и Llama.

Открытые модели в массы: Apple представила OpenELM

Повышенная точность и полная автономность делают новый ИИ привлекательным для разработчиков.

Phi-3: как маленькая, но мощная ИИ-модель от Microsoft преобразует бизнес

Всего 3 миллиарда параметров для логических рассуждений и обработки естественного языка.

Microsoft не смогла изъять свою новую модель WizardLM 2 из публичного доступа

«Убийцу GPT-4» спешно стёрли из сети, однако Интернет всё помнит…

Закат человеческого господства? ИИ опережает нас почти во всех интеллектуальных тестах

AI Index: машины только начинают свой путь.

Llama 3 – достойный конкурент для LLM от OpenAI, Google и Anthropic

Новое детище Meta бросает дерзкий вызов гигантам индустрии.

Скайнет близко? GPT-4 научился самостоятельно взламывать системы, эксплуатируя актуальные уязвимости

Уже в ближайшие годы ИИ станет самым матёрым киберпреступником на Земле.

Чем умнее ИИ, тем хитрее студенты: у миллионов письменных работ – один соавтор

Как технологии влияют на академическую честность?

ИИ как на ладони: Patchscopes от Google решает проблему нехватки прозрачности LLM

Секреты глубокого обучения моделей раскрываются в четыре простых этапа.

LLM в Street Fighter: GPT-4 и Mistral сошлись в битве 1 на 1

Какая из моделей одержала победу в столь непростом состязании?

Opera One: 150 чат-ботов в твоём рюкзаке – без интернета и сбора данных

Не первоапрельская шутка, но настоящая революция в использовании LLM.

Google DeepMind представляет SAFE: будущее фактчекинга

Новая ИИ-система спасает мир от фейков и дезинформации.

В 2024 году ИИ будет вести игру против нас: прогноз трендов киберпреступлений

Специалисты Recorded Future рассказали, как ИИ будет использоваться в атаках нового уровня.

За каждым прорывом... новая кибератака? Интерпол о темной стороне прогресса

ИИ, криптовалюта, LLM: все играет преступникам на руку.

Индия бросает вызов ИИ-гигантам: к чему приведёт создание отечественной LLM-инфраструктуры

Миллиардные инвестиции и далекоидущие планы – правительство страны настроено серьёзно.

Векторный поиск от Google: новые горизонты для генеративного ИИ в MySQL

Oracle снова рискует остаться позади.

Brave представила Leo – умного чат-бота с акцентом на конфиденциальность

Для работы продукта даже не требуется VPN. Вперёд тестировать!

В 10 раз быстрее, чем у Nvidia: Groq предлагает качественно новый подход к построению аппаратной части ИИ

Беспрецедентная скорость вычислений оставляет всех конкурентов далеко позади.

Мозг-монстр: Gemini 1.5 Pro от Google уничтожает конкурентов своим контекстом

Новая модель от Google «щёлкает» огромные массивы данных как орешки.

Locallm от Google: разработка ИИ-приложений без GPU

Теперь создание инновационных решений возможно прямо на локальных процессорах.

ИИ без секретов: OLMo вступает в гонку открытых языковых моделей

Тотальная прозрачность обучающих данных как ключ к созданию компьютерного интеллекта нового поколения.

От детских игр к интеллектуальным прорывам: ИИ учится у самых маленьких

Исследователи находят уникальный способ обучения ИИ, исследуя жизнь малыша.

Уязвимость в GPT-4: редкие языки заставляют ChatGPT давать советы по воровству и терроризму

Перевод на малоизученные языки позволяет обходить ограничения безопасности OpenAI.

ИИ как фабрика лжи: новый вызов для аналитиков дезинформации

Исследование показывает, как LLM-модели создают дезинформацию, которую сложно распознать.

70 миллиардов параметров: Meta* представила обновлённую модель Code Llama

Процесс написания качественного кода стал более быстрым и приятным.

Исследователи доказали, что большие языковые модели – не попугаи

Оказывается, чат-боты не просто генерируют тексты, а еще и понимают, о чем пишут.

ИИ без цензуры: неонацисты эксплуатируют открытые языковые модели

Чат-боты стали удобной площадкой для получения экстремисткой информации.

Обратная сторона прогресса: ИИ - новый вызов для защитников

Как рост ИИ стимулирует киберпреступность?

ИИ для всех: новый Chrome укомплектовали функциями генеративного искусственного интеллекта

Нововведения положили начало грандиозной реновации браузера, которая произойдёт в этом году.

Всё, что мы видим в интернете – некачественный машинный перевод

Ученые определили влияние африканских языков на контент в сети.

Исследование Anthropic: спящие агенты угрожают безопасности ИИ-моделей

Одна ошибка в обучении и бот может повести себя непредсказуемо…

Азимов был прав: три закона робототехники наконец добрались до реальных роботов

Google представляет ряд технологий, который сделает автономные машины ещё умнее и безопаснее.

От Nemesis до Velociraptor: как вывести кибербезопасность вашей компании на новый уровень

Топ-15 открытых инструментов, полезных для каждого ИБ-специалиста.

NYT вступает в борьбу с Microsoft и OpenAI

Будущее цифрового контента может быть переопределено навсегда.

Apple раскрывает свои секретные ИИ исследования

Компания представила технологии, которые радикально изменят наш повседневный цифровой опыт.

GPT-4 заперли в теле безногого робота: гримасы Alter3 не в силах передать тех страданий, которые он испытывает

Разработка японских исследователей поражает качеством имитации человеческих поз и эмоций.

Ломая код ИИ: метод LINT заставил нейросети раскрыть неожиданные тайны

Ученые допросили ИИ, обойдя этические ограничения и запреты.

Purple Llama: Meta сочетает взлом и защиту для непробиваемого ИИ

По запросу Белого Дома компания создала инструменты для оценки безопасности моделей.

GPT-4 против 60-летней модели ELIZA: неожиданный исход в тесте Алана Тьюринга

Ценные уроки из прошлого для современного искусственного интеллекта.

Генеративный ИИ не оправдал надежд киберпреступников

ChatGPT и аналоги оказались малополезны в реальных сценариях, лишь отнимая у злоумышленников драгоценное время.

GPT в науку: учёные разработают новую LLM-модель с триллионом параметров

Обучение на высококачественных данных должно лишить новый продукт главных недостатков ChatGPT.

Новая эпоха кибербезопасности: ИИ под защитой международных протоколов

Объединённые усилия 18 стран призваны остановить злоупотребления искусственным интеллектом.

Check Point раскрывает сильные и слабые стороны GPT-4 в борьбе с вредоносным ПО

Интересный эксперимент показал перспективы развития отрасли кибербезопасности.

Что если ИИ будет знать все химические соединения? Отвечают учёные MIT

Как нейросети повлияют на развитие химии и фармацевтики в мире?

Борьба за контент: как авторское право сдерживает технологический прогресс

Инвесторы рискуют потерять прибыльный источник доходов, если ИИ не дать свободу реализации.

Китай наступает на пятки: LLM-модель Yi-34B от компании 01.AI уже превзошла основных конкурентов

Сможет ли США удержать лидерство в сфере искусственного интеллекта?

LeMa от Microsoft: теперь ИИ самообучается, решая математические задачи

Роботы смогут захватить человечество, делая уроки с вашими детьми.

Стэнфордские учёные представили индекс прозрачности ИИ-моделей: результаты удивляют

Действительно ли прозрачность в языковых моделях жизненно необходима? Или без неё можно обойтись?

Ахиллесова пята в OpenAI: чат-бот может помогать террористам

Официальный инструмент OpenAI может превратить чат-бот в участника ОПГ.

ИИ против Google: смогут ли нейросети заменить современные поисковики?

Исследователи проверили, кто лучше справляется с онлайн-поиском. Что показал эксперимент?

Смерть Cortana: Microsoft удаляет провалившегося ассистента из инсайдерских сборок

Пользователи не останутся без альтернативы — ИИ уже внёс коррективы в процесс взаимодействия с ОС.

ИИ меняет мировой рынок труда: какие профессии окажутся на перепутье?

Большие языковые модели сулят большие изменения в кадровом составе.

ИИ перешёл на сторону зла: новый чат-бот DarkBERT использует даркнет как базу данных

Чтобы стать хакером, нужно думать как хакер.

Как уничтожить человечество или соорудить бомбу? Отвечают нейросети

Учёные выявили универсальный метод атаки, стирающий этические границы у всех популярных языковых моделей.

Крупнейшие новостные издания готовят коалицию против Google и OpenAI

Компании боятся потери доходов из-за ИИ.

ИИ против преступников: ChatGPT теперь расследует киберпреступления

Учёные оценили влияние ChatGPT на цифровую криминалистику.

Фишинг и кража данных: Google называет основные угрозы для ИИ-систем

Хакеры уже нашли способы, как можно манипулировать ИИ для кражи личных данных и паролей.

GPT-4 тупеет на глазах: исследователи фиксируют явную деградацию языковой модели

Неужели эпоха нейросетей закончится, не успев начаться?

Конституцию США написали нейросети: теория заговора или глупая ошибка

Почему детекторы генеративного текста до сих пор не способны точно выполнить поставленную задачу?

Google Bard получил поддержку русского языка и ощутимо расширил свой функционал

Смогут ли ChatGPT и Bing противостоять техногиганту с собственной языковой моделью?

Ошибки ИИ или новая история космоса? Гагарин шагает по Луне

Оказалось, что научить модель врать людям очень легко.

Meta* открыла исходный код LLaMA энтузиастам, а те начали массово создавать чат-ботов для виртуального секса

Какой ценой допустимо продвигать инновации, и не пожалеет ли компания о своём решении?

Коты правят интернетом, а RoboCat правит роботами

Новая разработка DeepMind уже сейчас обладает массой полезных навыков, но также способна самостоятельно совершенствоваться.

Чат-боты на основе ИИ могут пригодиться во время следующей пандемии для быстрой разработки вакцины

Большие языковые модели существенно снижают входной порог в биотехнологическую сферу.

ИИ против ИИ: новый фронт борьбы с фишингом

Эксперты рассказали, как хакеры используют ИИ для создания фишинговых писем, и как ИИ защитит от фишинга.

Нейросети обучают сами себя, кризис искусственного интеллекта уже близко

Как хитрят наёмные работники краудсорсинговых сервисов и почему это плохо для развития ИИ?

Nature официально запретил использовать сгенерированные изображения и видео в публикуемых авторских статьях

Журнал ослабил свою позицию в отношении текстовой генерации, но вот визуальной это никак не коснулось – почему?

ИИ против кибепреступников: как DarkBERT разгадывает тайны тёмной сети

Теперь никто не уйдёт от цифрового правосудия!

ВОЗ призывает с осторожностью использовать ИИ, чтобы сохранить своё здоровье

ВОЗ поддерживает развитие ИИ в здравоохранении, но выделила несколько проблем такой технологии.

Искусственный интеллект и авторское право: на чью сторону встанут люди?

Стоит ли ограничивать прогресс, чтобы угодить правообладателям?

Полномасштабная схватка популярных генеративных моделей состоится уже в августе этого года

Сообщество энтузиастов AI Village совместно с правительством США готовит нечто интересное…

Гильдия сценаристов против ChatGPT: как генеративные модели заставили тысячи американцев присоединиться к массовой забастовке

Пойдут ли голливудские студии навстречу авторам или продолжат гнуть свою линию?

ChatGPT научился читать человеческие мысли, теперь от него ничего не утаить

Не грози искусственному интеллекту, попивая сок у себя в квартале.

Это революция, Джонни: новый ИИ-помощник от бывших сотрудников Apple перевернёт взаимодействие с умными устройствами

Мощь искусственного интеллекта и удобство голосового управления — вот оно, будущее.

Stack Overflow не намерен просто так раздавать свои данные. Разрабатывающие ИИ техногиганты заплатят за всё!

Всё больше компаний не хотят мириться с тем, что нейросети бесплатно используют их наборы данных для обучения.

Теряете дар речи от волнения? Стэнфордские студенты представили любопытное устройство, которое вернёт вам уверенность!

Революционный гаджет предоставляет «харизму как услугу» в реальном времени.

Революция искусственного интеллекта: исследователи Google рассуждают о том, как технологии перевернут человеческий мир

Специалисты уверены, текущая стадия развития ИИ — лишь переломный момент перед скорым скачком вперёд.

Amazon представляет Bedrock — AI as a Service для разработчиков

Использование генеративного ИИ в коммерческих целях ещё никогда не было таким удобным.

Встречайте BloombergGPT — новый нейросетевой инструмент, призванный перевернуть финансовую отрасль

Будущее мировых финансов постепенно переходит во власть искусственного интеллекта.

Новая языковая модель GPT-4 от OpenAI может поступить в топовые университеты без подготовки к экзаменам

Попробовать улучшенный ChatGPT могут пока только Plus-подписчики, но рано или поздно доступ появится у всех пользователей.

Microsoft протестировала ChatGPT для управления роботами

Станет ли ChatGPT центром командования армии роботов?

GitHub повысит производительность и безопасность инструмента Copilot в ближайшем обновлении

ИИ будет быстрее давать рекомендации, а также блокировать любые конфиденциальные данные.

Новый чат-бот от Microsoft «разболтал» пользователям все свои внутренние директивы

Похоже, продвинутая языковая модель не сильно озабочена проблемами конфиденциальности.

Alibaba разрабатывает инструмент на основе больших языковых моделей, он станет конкурентом ChatGPT

По словам компании, инструмент находится в разработке уже несколько лет и совсем скоро будет представлен общественности.

ChatGPT – плагиат! ИИ больше нельзя указать автором научной статьи

Обновлённая редполитика популярных академических журналов «похоронила» искусственный интеллект