ИИ в кармане: Raspberry Pi 5 делает ИИ доступным для всех

Компания Raspberry Pi, известная своими микрокомпьютерами, объявила о партнёрстве с Hailo для выпуска дополнительного ИИ-модуля. Этот модуль будет интегрирован с программным обеспечением Raspberry Pi и позволит запускать ИИ-приложения, такие как чат-боты, прямо на миниатюрном устройстве.

Ускоритель Hailo-8L M.2 для локальной работы искусственного интеллекта на Raspberry Pi 5 поступит в продажу в ближайшее время через сеть одобренных реселлеров компании по цене в $70.

Ор Данон, генеральный директор и соучредитель Hailo, отметил, что потребление энергии их ускорителя составляет менее 2 Вт, а охлаждается он пассивно.

Ускоритель обеспечивает производительность в 13 TOPS (тераопераций в секунду). Это, конечно, гораздо ниже показателей таких чипов, как Intel Lunar Lake с производительностью 40 TOPS. Однако Raspberry Pi никогда и не позиционировался как высокопроизводительное устройство.

Большинство ИИ-приложений сейчас работают в облаке, поскольку требуют значительных ресурсов для обработки данных. Однако в последнее время наблюдается тенденция к созданию упрощённых и менее энергозатратных ИИ-моделей, что делает возможным их интеграцию в портативные устройства и использование без Интернета.

Тренд тут же подхватили многие ключевые игроки в индустрии, стараясь первыми представить что-то уникальное и интересное.

Так, Microsoft недавно анонсировала выпуск Copilot+ PC, оснащённый встроенными ИИ-опциями, такими как весьма спорная функция Recall. AMD презентовала новые процессоры Ryzen с ИИ-брендингом, подчёркивая их способность обрабатывать задачи генеративного ИИ. А Nvidia уже заявила о планах оснащать ноутбуки сторонних производителей фирменными ИИ-чипами.