組み込みAIの前進への道

Zachariah Peterson
|  投稿日 2022/12/16 金曜日  |  更新日 2024/04/18 木曜日
組み込みAI

2021年4月、私はPrinted Circuit Design & Fabに記事を発表し、AIの未来は組み込みにあると宣言しました。簡単に言うと、私の見解は、組み込みシステムがエンドデバイスでAIの使用をより多く活用し、推論のためにクラウドプラットフォームやデータセンターに頼ることが少なくなるというものです。

疑いなく、私はAIの未来は依然として組み込みにあると信じていますが、思っていたチップセットやシステムアーキテクチャとは異なります。前の記事を書いた時点では、組み合わせ論理+順序論理がすべての計算問題を克服できるという考えにまだ固執していました。経験から、それが単純に不可能であることが示されました。

この見解は過去18か月間で確認されており、特に2022年に多くの新しいAIアクセラレータチップがリリースされたことを考えると、明らかです。PCBデザイナーやエンジニアにとって、これらのチップは標準インターフェースを介して設計に迅速にAI機能を追加するための優れたオプションです。通常、これらはPCIe Gen2またはそれ以上の速度のレーン、可能性としてはUSB経由、または低計算アクセラレータの場合はSPIのような遅いものを介してアクセスされます。チップは、通常の方法で配置してルーティングする標準パッケージ(クアッドまたはBGA)で提供されます。オンデバイスAIがどこから来て、次にどこへ向かっているのかを見るために、2022年にリリースされた最も興味深いAIアクセラレータのいくつかを紹介することにしました。

2022年のAIプロセッサリリース

世界がAIの世界に入った今、ハードウェア業界はソフトウェア業界に匹敵するために多くの地盤を築く必要があります。以下の表には、組み込みAIアプリケーションを対象とした新しい高度なプロセッサのいくつかがリストされています。

製品

組織

差別化要因

スパイキングニューラルネットワークチップ

インド工科大学

超低消費電力

階層型学習プロセッサ

Ceromorphic

代替トランジスタ構造

インテリジェントプロセッシングユニット(IPU)

Graphcore

エンドデバイスとクラウドをターゲットにした複数の製品

カタナ エッジ AI

シナプティクス

視覚、運動、音検出を組み合わせる

ET-SoC-1 チップ

エスペラント テクノロジー

AIおよび非AIワークロードのためにRISC-V上に構築

NeuRRAM

CEA–Leti

抵抗性RAM(RRAM)に基づく生物学的にインスパイアされたニューロモルフィックプロセッサ

GrAI VIP チップ

GrAI Matter

イメージ処理のためのイベントベースのセンシング

機械学習SoC(MLSoC)

SiMa.ai

プラグアンドプレイのコンピュータビジョン機能

ECM 3532

エタコンピュート

センサーフュージョンプロセッサー、非常に低い消費電力

EyeQ SoC

モービルアイ

自動車システムをターゲットにする

Easy, Powerful, Modern

The world’s most trusted PCB design system.

 

これらのスタートアップと研究機関は、カスタムチップにおけるかなりの進歩で組み込みAIを前進させています。一方で、Google Coralのような使いやすいアクセラレータモジュールやチップとしての確立された組み込みAI製品からは、それ以上の発展はあまり見られませんでした。これらの特殊なプロセッサーに加えて、デザイナーが組み込みAI機能を自分たちの設計に取り入れるための他の2つの道があります。

組み込みAIへの三つの道

これらのスタートアップ、確立された半導体メーカー、オープンソースコミュニティからのトレンドを検討した後、新しいシステムに組み込みAIを実装するための3つの方法があります:

MCU上のソフトウェアアクセラレーター – AI推論、タギング/前処理、およびトレーニングを加速するための最低計算パスは、ファームウェア/ソフトウェア内にあります。TinyMLのようなパッケージを使用すると、開発者は推論を速めるソフトウェアベースの加速技術を迅速に実装できます。これらの方法には、推論で必要な処理ステップの数を減らすために、データまたはモデルの操作が含まれます。これらの技術を使用すると、開発者は、単純な順次+組み合わせ論理を使用して、小さなMCU上でより単純な推論モデルを実行できるようになります。

カスタムシリコン –カスタムSoCが近い将来なくなることはありません。すべてのハイパースケール技術名が独自の内部チップ開発能力を構築しているためです。ARMからの既製のコアと、RISC-Vのようなオープンスタンダードを使用して、チップデザイナーはAIコンピュート操作をロジックレベルでハードウェア命令として実装するコアデザインを迅速に立ち上げることができます。これにより、消費電力と生の計算操作の数が大幅に削減されます。

Easy, Powerful, Modern

The world’s most trusted PCB design system.

FPGA – FPGAは、チップのプロトタイピングツールとしての歴史的な役割から離れ、本格的なプロセッサとして主流に移行するための継続的な推進があります。半導体ベンダーは現在、RISC-Vの実装とAIアクセラレーションをサポートしており、AIの推論とトレーニングタスクを命令レベルで実装した高度にカスタマイズされたFPGAコアを構築しています。私の最近のクライアントプロジェクト(AI駆動のイメージングシステムやセンサーフュージョンなどの先進的なアプリケーション)は、主プロセッサとしてFPGAを中心に構築されています。

Xilinx Zynq FPGA
Zynq FPGA from Xilinx.

 

業界はどの方向に進むのか?

上記の製品はすべてカスタムシリコンに基づいています。FPGA業界はAI専用のカスタムシリコンを特に必要としていません。顧客は開発ツールを使用して、ニューラルネットワークの構造を模倣するロジック回路の設計を心配することなく、ロジックレベルでAIを実装できます。半導体ベンダーはFPGAアプローチの価値を認識しており、デザイナーがFPGA内にAIコアを実装するために必要な開発ツール(RISC-Vリソースを含む)を提供しています。

コンポーネントの選択と配置に関しては、一部のシステムが物理的に小さなチップ、小さなBOM、そして組み立ての高リスク部分、つまりAIアクセラレータチップの除去にスケールできることを意味します。AIアクセラレータを排除することは、あらゆるレベルで素晴らしいアイデアです。製造においては、全体のコンポーネントと組み立てコストがおそらく削減されるでしょう。PCBデザイナーにとっては、配置してルーティングする必要があるチップ(通常は高I/OカウントのBGA)とその周辺機器が1つ少なくなります。開発者にとっては、外部アクセラレータを制御するドライバを開発し、それを組み込みアプリケーションに統合する必要がなくなります。

組み込みAI開発者は、Altium Designer®の製品設計ツールの完全なセットを使用して、これらのハードウェア駆動型AIアクセラレータオプションをPCBに実装できます。Altium DesignerのCAD機能は、パッケージングやPCBレイアウトからハーネスやケーブル設計に至るまで、システムおよび製品設計のすべての側面を可能にします。設計が完了し、製造業者にファイルをリリースしたい場合、Altium 365™プラットフォームを使用すると、プロジェクトを共有して協力することが簡単になります。

Altium DesignerとAltium 365で可能なことの表面をかじっただけです。今日、Altium Designer + Altium 365の無料トライアルを始めましょう

筆者について

筆者について

Zachariah Petersonは、学界と産業界に広範な技術的経歴を持っています。PCB業界で働く前は、ポートランド州立大学で教鞭をとっていました。化学吸着ガスセンサーの研究で物理学修士号、ランダムレーザー理論と安定性に関する研究で応用物理学博士号を取得しました。科学研究の経歴は、ナノ粒子レーザー、電子および光電子半導体デバイス、環境システム、財務分析など多岐に渡っています。彼の研究成果は、いくつかの論文審査のある専門誌や会議議事録に掲載されています。また、さまざまな企業を対象に、PCB設計に関する技術系ブログ記事を何百も書いています。Zachariahは、PCB業界の他の企業と協力し、設計、および研究サービスを提供しています。IEEE Photonics Society、およびアメリカ物理学会の会員でもあります。

関連リソース

関連する技術文書

ホームに戻る
Thank you, you are now subscribed to updates.
Altium Need Help?