Путь вперед для встроенного ИИ

В апреле 2021 года я опубликовал статью в журнале Printed Circuit Design & Fab, где заявил, что будущее ИИ заключается во встраиваемых системах. Короче говоря, мое мнение заключается в том, что встраиваемые системы будут использовать ИИ на конечном устройстве в большей степени, что означает меньшую зависимость от облачных платформ или центров обработки данных для вывода.

Без сомнения, я все еще верю, что будущее ИИ во встраиваемых системах, но не с тем чипсетом или архитектурой системы, о которых я думал ранее. На момент написания предыдущей статьи я все еще был убежден в идее, что комбинационная + последовательная логика может решить все вычислительные проблемы. Опыт показал, что это просто невозможно.

Этот взгляд подтвердился за последние 18 месяцев, особенно учитывая выпуск многих новых чипов-ускорителей ИИ в 2022 году. Для дизайнеров и инженеров печатных плат эти чипы являются отличным вариантом для быстрого добавления возможностей ИИ в дизайн через стандартные интерфейсы. Обычно к ним обращаются через PCIe Gen2 или более быстрый канал, возможно через USB, или даже через что-то настолько медленное, как SPI для ускорителей с низкой вычислительной мощностью. Чипы также поставляются в стандартных корпусах (четырехугольные или BGA), которые вы бы разместили и проложили маршруты обычным способом. Чтобы увидеть, откуда пришел ИИ на устройствах и куда он движется дальше, я решил представить некоторые из самых интересных выпусков ускорителей ИИ за 2022 год.

Выпуски процессоров ИИ в 2022 году

Поскольку мир теперь вступил в эру ИИ, индустрии аппаратного обеспечения предстоит наверстать упущенное, чтобы конкурировать с программной индустрией. Некоторые из новейших продвинутых процессоров, нацеленных на встроенные приложения ИИ, перечислены в таблице ниже.

Эти стартапы и научно-исследовательские институты продвигают вперед встроенный AI благодаря значительным достижениям в их собственных чипах. В то же время, мы не видели значительного дальнейшего развития от установленных продуктов встроенного AI, таких как Google Coral, который был одним из легко используемых модулей или чипов-ускорителей. Помимо этих специализированных процессоров, дизайнеры могут выбрать два других пути для внедрения возможностей встроенного AI в свои проекты.

Три пути к внедрению ИИ

После изучения тенденций среди стартапов, установленных производителей полупроводников и сообщества с открытым исходным кодом, можно выделить три пути реализации встроенного ИИ в новой системе:

Аппаратные ускорители на МК – Самый простой путь вычислений для ускорения вывода ИИ, теггирования/предварительной обработки и обучения находится в прошивке/программном обеспечении. Пакеты вроде TinyML позволяют разработчикам быстро внедрять методы ускорения на основе программного обеспечения, которые ускоряют вывод. Эти методы включают в себя манипуляции с данными или моделями для уменьшения количества необходимых шагов обработки при выводе. С помощью этих техник разработчики теперь могут запускать более простые модели вывода на маленьких МК, используя простую последовательную + комбинированную логику.

Специализированный кремний – Возможности специализированных SoC не исчезнут в ближайшее время, поскольку все крупные технологические компании развивают свои собственные возможности внутренней разработки чипов. С готовыми ядрами от ARM и с открытым стандартом, как RISC-V, дизайнеры чипов могут быстро создать дизайн ядра, который реализует операции вычисления ИИ на уровне логики как аппаратную инструкцию. Это значительно снижает потребление энергии и количество необходимых вычислительных операций.

FPGA – Наблюдается постоянное стремление вывести FPGA из их исторической роли инструментов для прототипирования чипов и ввести в основной поток как процессоры производственного уровня. Производители полупроводников теперь поддерживают реализацию RISC-V и ускорение AI, чтобы создавать высоко настраиваемые ядра FPGA с реализацией задач вывода и обучения AI на уровне инструкций. Все мои последние проекты для клиентов, связанные с передовыми приложениями (системы визуализации на основе AI и слияние данных с датчиков), были построены вокруг FPGA в качестве основного процессора.

Каким будет путь индустрии?

Продукты, перечисленные выше, все построены на пользовательском кремнии. Индустрии FPGA не нужен специальный кремний именно для AI, их клиенты могут использовать инструменты разработки для реализации AI на логическом уровне, не беспокоясь о проектировании логических схем для имитации структуры нейронной сети. Производители полупроводников видят ценность подхода FPGA и предоставляют разработчикам необходимые инструменты разработки (включая ресурсы RISC-V), чтобы реализовать ядро AI в FPGA.

В контексте выбора и размещения компонентов это означает, что некоторые системы могут быть масштабированы до физически более мелких чипов, уменьшенного списка материалов (BOM) и исключения высокорисковой части сборки, а именно чипа ускорителя ИИ. Устранение ускорителя ИИ является отличной идеей на всех уровнях. Для производства общие затраты на компоненты и сборку, вероятно, будут снижены. Для разработчика печатных плат у вас на один чип меньше (обычно с высоким количеством ввода/вывода на BGA) и его периферии, которые вам нужно разместить и проложить маршруты. Для разработчика это устраняет необходимость разрабатывать драйвер для управления внешним ускорителем и затем интегрировать его во встроенное приложение.

Разработчики встроенного ИИ могут реализовать эти варианты ускорителя ИИ на аппаратном уровне в печатных платах с полным набором инструментов для проектирования продуктов в Altium Designer®. Функции САПР в Altium Designer позволяют реализовать все аспекты системного и продуктового проектирования, начиная от упаковки и размещения на печатной плате, и до проектирования кабелей и проводки. Когда вы закончили свой проект и хотите отправить файлы вашему производителю, платформа Altium 365™ упрощает сотрудничество и обмен вашими проектами.

Мы только начали раскрывать возможности Altium Designer на Altium 365. Начните ваш бесплатный пробный период Altium Designer + Altium 365 уже сегодня.