Ускоритель Hailo-8L M.2 открывает новую эру доступного ИИ без доступа к Интернету.
Компания Raspberry Pi – серия небольших одноплатных компьютеров (SBC), разработанных в Великобритании Raspberry Pi Foundation совместно с Broadcom . Проект Raspberry Pi изначально был направлен на продвижение обучения основам информатики в школах и в развивающихся странах. В настоящее время платформа используется во многих областях, например, для мониторинга погоды, из-за его низкой стоимости, модульности и открытой конструкции." data-html="true" data-original-title="Raspberry Pi" >Raspberry Pi, известная своими микрокомпьютерами, объявила о партнёрстве с Hailo для выпуска дополнительного ИИ-модуля. Этот модуль будет интегрирован с программным обеспечением Raspberry Pi и позволит запускать ИИ-приложения, такие как чат-боты, прямо на миниатюрном устройстве.
Ускоритель Hailo-8L M.2 для локальной работы искусственного интеллекта на Raspberry Pi 5 поступит в продажу в ближайшее время через сеть одобренных реселлеров компании по цене в $70.
Ор Данон, генеральный директор и соучредитель Hailo, отметил, что потребление энергии их ускорителя составляет менее 2 Вт, а охлаждается он пассивно.
Ускоритель обеспечивает производительность в 13 TOPS (тераопераций в секунду). Это, конечно, гораздо ниже показателей таких чипов, как Intel Lunar Lake с производительностью 40 TOPS. Однако Raspberry Pi никогда и не позиционировался как высокопроизводительное устройство.
Большинство ИИ-приложений сейчас работают в облаке, поскольку требуют значительных ресурсов для обработки данных. Однако в последнее время наблюдается тенденция к созданию упрощённых и менее энергозатратных ИИ-моделей, что делает возможным их интеграцию в портативные устройства и использование без Интернета.
Тренд тут же подхватили многие ключевые игроки в индустрии, стараясь первыми представить что-то уникальное и интересное.
Так, Microsoft недавно анонсировала выпуск Copilot+ PC, оснащённый встроенными ИИ-опциями, такими как весьма спорная функция Recall. AMD презентовала новые процессоры Ryzen с ИИ-брендингом, подчёркивая их способность обрабатывать задачи генеративного ИИ. А Nvidia уже заявила о планах оснащать ноутбуки сторонних производителей фирменными ИИ-чипами.
