임베디드 AI를 위한 앞으로의 길

2021년 4월, 저는 Printed Circuit Design & Fab에 기고한 글에서 AI의 미래는 내장형에 있다고 선언했습니다. 간단히 말해, 내 생각에 내장 시스템은 종단 장치에서 AI의 사용을 더 많이 활용할 것이며, 이는 그들이 추론을 위해 클라우드 플랫폼이나 데이터 센터에 덜 의존하게 됨을 의미합니다.

의심할 여지 없이, 저는 AI의 미래가 여전히 내장형에 있다고 믿습니다, 하지만 제가 생각했던 칩셋이나 시스템 아키텍처와는 다릅니다. 이전 글을 쓸 당시에는, 조합 논리 + 순차 논리가 모든 컴퓨팅 문제를 해결할 수 있다는 생각에 여전히 갇혀 있었습니다. 경험은 그것이 단순히 불가능하다는 것을 보여주었습니다.

이 관점은 특히 2022년에 많은 새로운 AI 가속기 칩이 출시되면서 지난 18개월 동안 확인되었습니다. PCB 디자이너와 엔지니어에게 이러한 칩은 표준 인터페이스를 통해 설계에 빠르게 AI 기능을 추가할 수 있는 훌륭한 옵션입니다. 일반적으로 이들은 PCIe Gen2 또는 그보다 빠른 레인을 통해 접근되며, USB를 통해서도 가능하거나, 저성능 가속기의 경우 SPI처럼 느린 것을 통해서도 가능합니다. 이 칩들은 표준 패키지(쿼드 또는 BGA)로 제공되어, 평소와 같은 방식으로 배치하고 라우팅할 수 있습니다. 기기 내 AI가 어디에서 왔고 다음에 어디로 가고 있는지 보기 위해, 2022년에 출시된 가장 흥미로운 AI 가속기 몇 가지를 소개하기로 결정했습니다.

2022년 AI 프로세서 출시

이제 세계가 AI의 세계로 들어섬에 따라, 하드웨어 산업은 소프트웨어 산업과 경쟁하기 위해 많은 발전을 이루어야 합니다. 아래 표에는 임베디드 AI 애플리케이션을 타겟으로 하는 새로운 고급 프로세서 중 일부가 나열되어 있습니다.

이러한 스타트업과 연구 기관들은 맞춤형 칩에서 상당한 진보를 이루며 임베디드 AI를 앞당기고 있습니다. 반면에, Google Coral과 같은 사용하기 쉬운 가속 모듈 또는 칩으로서의 기존 임베디드 AI 제품에서는 크게 추가 개발이 이루어지지 않았습니다. 이러한 특수 프로세서 외에도, 디자이너들이 임베디드 AI 기능을 자신의 디자인에 통합할 수 있는 두 가지 다른 경로가 있습니다.

임베디드 AI로 가는 세 가지 경로

이러한 스타트업, 확립된 반도체 제조업체, 그리고 오픈 소스 커뮤니티의 추세를 검토한 후, 새로운 시스템에서 임베디드 AI를 구현하는 세 가지 방법이 있습니다:

MCU에서의 소프트웨어 가속기 – AI 추론, 태깅/전처리 및 훈련을 가속화하는 가장 낮은 계산 경로는 펌웨어/소프트웨어에 있습니다. TinyML과 같은 패키지를 사용하면 개발자들이 추론 속도를 높이는 소프트웨어 기반 가속 기술을 빠르게 구현할 수 있습니다. 이러한 방법은 추론에 필요한 처리 단계의 수를 줄이기 위해 데이터 또는 모델 조작을 포함합니다. 이 기술을 사용하여 개발자들은 이제 간단한 순차적 + 조합 논리를 사용하여 작은 MCU에서 더 간단한 추론 모델을 실행할 수 있습니다.

맞춤형 실리콘 – 모든 하이퍼스케일 기술 이름이 자체 내부 칩 개발 능력을 구축함에 따라 맞춤형 SoC가 곧 사라질 가능성은 없습니다. ARM에서 제공하는 준비된 코어와 RISC-V와 같은 오픈 표준을 사용하여, 칩 디자이너들은 하드웨어 명령으로 논리 수준에서 AI 계산 작업을 구현하는 코어 디자인을 빠르게 시작할 수 있습니다. 이는 전력 소비와 원시 계산 작업의 수를 대폭 줄입니다.

FPGA – FPGA를 칩 프로토타이핑 도구로서의 역사적 역할에서 벗어나 생산급 프로세서로서 주류로 이동시키려는 지속적인 노력이 있었습니다. 반도체 벤더들은 이제 RISC-V 구현과 AI 가속화를 지원하여 AI 추론 및 훈련 작업이 명령어 수준에서 구현된 매우 맞춤화된 FPGA 코어를 구축하고 있습니다. 최근 고객 프로젝트에서 AI 기반 이미징 시스템과 센서 융합과 같은 고급 애플리케이션은 모두 주 프로세서로 FPGA를 중심으로 구축되었습니다.

산업은 어느 방향으로 갈까요?

위에 나열된 제품들은 모두 맞춤형 실리콘 위에 구축되어 있습니다. FPGA 산업은 AI를 위해 특별히 맞춤형 실리콘을 필요로 하지 않으며, 고객은 신경망의 구조를 모방하는 논리 회로를 설계하는 것에 대해 걱정하지 않고 개발 도구를 사용하여 논리 수준에서 AI를 구현할 수 있습니다. 반도체 벤더들은 FPGA 접근 방식의 가치를 인식하고 있으며, FPGA 내에 AI 코어를 구현할 수 있도록 디자이너에게 필요한 개발 도구(리스크-V 자원 포함)를 제공하고 있습니다.

구성 요소 선택과 배치 측면에서, 이는 일부 시스템이 물리적으로 더 작은 칩, 더 작은 BOM으로 확장될 수 있으며, 특히 AI 가속기 칩이라는 조립의 고위험 부분을 제거할 수 있음을 의미합니다. AI 가속기를 제거하는 것은 모든 수준에서 훌륭한 아이디어입니다. 제조 측면에서는 전반적인 구성 요소 및 조립 비용이 감소할 가능성이 높습니다. PCB 디자이너의 경우, 배치하고 라우팅해야 하는 칩(일반적으로 BGA에 고 I/O 수를 가짐)과 그 주변 장치가 하나 줄어듭니다. 개발자의 경우, 외부 가속기를 제어하기 위한 드라이버를 개발하고 이를 임베디드 애플리케이션에 통합할 필요가 없어집니다.

임베디드 AI 개발자는 Altium Designer®의 완벽한 제품 설계 도구 세트를 사용하여 이러한 하드웨어 기반 AI 가속기 옵션을 PCB에 구현할 수 있습니다. Altium Designer의 CAD 기능은 포장 및 PCB 레이아웃부터 하네스 및 케이블 설계에 이르기까지 시스템 및 제품 설계의 모든 측면을 가능하게 합니다. 디자인을 마치고 제조업체에 파일을 릴리스하려는 경우, Altium 365™ 플랫폼을 사용하면 프로젝트를 협업하고 공유하기가 쉽습니다.

우리는 Altium Designer와 Altium 365에서 가능한 것들의 겉면만 긁어봤을 뿐입니다. 오늘 Altium Designer + Altium 365의 무료 체험을 시작하세요.