組み込みAIの前進への道

2021年4月、私はPrinted Circuit Design & Fabに記事を発表し、AIの未来は組み込みにあると宣言しました。簡単に言うと、私の見解は、組み込みシステムがエンドデバイスでAIの使用をより多く活用し、推論のためにクラウドプラットフォームやデータセンターに頼ることが少なくなるというものです。

疑いなく、私はAIの未来は依然として組み込みにあると信じていますが、思っていたチップセットやシステムアーキテクチャとは異なります。前の記事を書いた時点では、組み合わせ論理+順序論理がすべての計算問題を克服できるという考えにまだ固執していました。経験から、それが単純に不可能であることが示されました。

この見解は過去18か月間で確認されており、特に2022年に多くの新しいAIアクセラレータチップがリリースされたことを考えると、明らかです。PCBデザイナーやエンジニアにとって、これらのチップは標準インターフェースを介して設計に迅速にAI機能を追加するための優れたオプションです。通常、これらはPCIe Gen2またはそれ以上の速度のレーン、可能性としてはUSB経由、または低計算アクセラレータの場合はSPIのような遅いものを介してアクセスされます。チップは、通常の方法で配置してルーティングする標準パッケージ（クアッドまたはBGA）で提供されます。オンデバイスAIがどこから来て、次にどこへ向かっているのかを見るために、2022年にリリースされた最も興味深いAIアクセラレータのいくつかを紹介することにしました。

2022年のAIプロセッサリリース

世界がAIの世界に入った今、ハードウェア業界はソフトウェア業界に匹敵するために多くの地盤を築く必要があります。以下の表には、組み込みAIアプリケーションを対象とした新しい高度なプロセッサのいくつかがリストされています。

これらのスタートアップと研究機関は、カスタムチップにおけるかなりの進歩で組み込みAIを前進させています。一方で、Google Coralのような使いやすいアクセラレータモジュールやチップとしての確立された組み込みAI製品からは、それ以上の発展はあまり見られませんでした。これらの特殊なプロセッサーに加えて、デザイナーが組み込みAI機能を自分たちの設計に取り入れるための他の2つの道があります。

組み込みAIへの三つの道

これらのスタートアップ、確立された半導体メーカー、オープンソースコミュニティからのトレンドを検討した後、新しいシステムに組み込みAIを実装するための3つの方法があります：

MCU上のソフトウェアアクセラレーター – AI推論、タギング/前処理、およびトレーニングを加速するための最低計算パスは、ファームウェア/ソフトウェア内にあります。TinyMLのようなパッケージを使用すると、開発者は推論を速めるソフトウェアベースの加速技術を迅速に実装できます。これらの方法には、推論で必要な処理ステップの数を減らすために、データまたはモデルの操作が含まれます。これらの技術を使用すると、開発者は、単純な順次+組み合わせ論理を使用して、小さなMCU上でより単純な推論モデルを実行できるようになります。

カスタムシリコン –カスタムSoCが近い将来なくなることはありません。すべてのハイパースケール技術名が独自の内部チップ開発能力を構築しているためです。ARMからの既製のコアと、RISC-Vのようなオープンスタンダードを使用して、チップデザイナーはAIコンピュート操作をロジックレベルでハードウェア命令として実装するコアデザインを迅速に立ち上げることができます。これにより、消費電力と生の計算操作の数が大幅に削減されます。

FPGA – FPGAは、チップのプロトタイピングツールとしての歴史的な役割から離れ、本格的なプロセッサとして主流に移行するための継続的な推進があります。半導体ベンダーは現在、RISC-Vの実装とAIアクセラレーションをサポートしており、AIの推論とトレーニングタスクを命令レベルで実装した高度にカスタマイズされたFPGAコアを構築しています。私の最近のクライアントプロジェクト（AI駆動のイメージングシステムやセンサーフュージョンなどの先進的なアプリケーション）は、主プロセッサとしてFPGAを中心に構築されています。

業界はどの方向に進むのか？

上記の製品はすべてカスタムシリコンに基づいています。FPGA業界はAI専用のカスタムシリコンを特に必要としていません。顧客は開発ツールを使用して、ニューラルネットワークの構造を模倣するロジック回路の設計を心配することなく、ロジックレベルでAIを実装できます。半導体ベンダーはFPGAアプローチの価値を認識しており、デザイナーがFPGA内にAIコアを実装するために必要な開発ツール（RISC-Vリソースを含む）を提供しています。

コンポーネントの選択と配置に関しては、一部のシステムが物理的に小さなチップ、小さなBOM、そして組み立ての高リスク部分、つまりAIアクセラレータチップの除去にスケールできることを意味します。AIアクセラレータを排除することは、あらゆるレベルで素晴らしいアイデアです。製造においては、全体のコンポーネントと組み立てコストがおそらく削減されるでしょう。PCBデザイナーにとっては、配置してルーティングする必要があるチップ（通常は高I/OカウントのBGA）とその周辺機器が1つ少なくなります。開発者にとっては、外部アクセラレータを制御するドライバを開発し、それを組み込みアプリケーションに統合する必要がなくなります。

組み込みAI開発者は、Altium Designer®の製品設計ツールの完全なセットを使用して、これらのハードウェア駆動型AIアクセラレータオプションをPCBに実装できます。Altium DesignerのCAD機能は、パッケージングやPCBレイアウトからハーネスやケーブル設計に至るまで、システムおよび製品設計のすべての側面を可能にします。設計が完了し、製造業者にファイルをリリースしたい場合、Altium 365™プラットフォームを使用すると、プロジェクトを共有して協力することが簡単になります。

Altium DesignerとAltium 365で可能なことの表面をかじっただけです。今日、Altium Designer + Altium 365の無料トライアルを始めましょう。