Настройка ИИ для вашего приложения

Технология искусственного интеллекта быстро меняет способы взаимодействия устройств с миром. Традиционно программист должен предопределить, как система будет реагировать на различные и непредсказуемые обстоятельства, которые могут возникнуть в реальных сценариях. С помощью ИИ можно обучить модель таким образом, чтобы она надежно обеспечивала желаемые реакции на обстоятельства, которые никогда не предвиделись.

Одной из проблем для разработчиков, новичков в области ИИ, является настройка реализации ИИ под их приложение. Если конкретное приложение не имеет достаточного объема, чтобы оправдать собственную реализацию платы, платы ИИ "с полки" обычно ориентированы на общее назначение. Они будут иметь ресурсы и интерфейсы, которые не требуются для каждого приложения, тем самым ненужно увеличивая стоимость.

Например, наборы для разработчиков, такие как Jetson Nano Developer Kit, являются отличным способом познакомиться с созданием базовой реализации ИИ. Jetson Nano поставляется с разнообразными интерфейсами, что делает его простым в настройке тестовой системы за очень короткое время. Набор служит отличной отправной точкой для широкого спектра разнообразных приложений, от обработки сенсорных данных до анализа видео, обработки звука и далее.

Однако, как только вы поймете, как построить общую систему ИИ, вы захотите начать разработку вашего приложения с использованием прототипа, который будет максимально похож на окончательное производственное оборудование. Это особенно важно при переносе ИИ на периферию.
Стоимость, доступность и масштабируемость GPU в облаке чрезвычайно гибкие. Если вы не получаете необходимой отзывчивости или обнаруживаете, что ваша модель требует больше данных, чем изначально предполагалось для эффективной обработки, вы можете легко выделить больше ресурсов облака.

Но не на периферии. На периферии вам нужно определить оптимальное сочетание ресурсов, если вы хотите сбалансировать стоимость, производительность и точность. В идеале вам нужна система, которая легко масштабируется вниз без необходимости значительных изменений оборудования в результате.

Обратите внимание, что компоненты, такие как датчики, камеры, интерфейсы, память и MCU, которые составляют остальную часть приложения, также влияют на удобство проектирования. Это потому, что в какой-то момент вам нужно будет интегрировать вашу систему ИИ с остальной частью приложения.
Рассмотрим изменения, которые потребуются, если вы обнаружите необходимость увеличить размер видеоизображения для достижения желаемого результата. Теперь модель ИИ должна работать с изображением другого размера, что полностью изменяет требования к производительности и памяти всей системы. Кроме того, вам нужно будет интегрировать новую камеру так, чтобы она без проблем работала с существующим программным обеспечением, надеясь избежать необходимости переписывания прошивки. Балансировка, а затем оптимизация этой новой комбинации ресурсов также займет время. Теперь представьте, что вам нужно добавить вторую камеру и увеличить эффективную частоту кадров.

Этап интеграции может быть чрезвычайно времязатратным и раздражающим, если вам приходится делать это вручную. Например, драйверы камер, даже от одного и того же производителя, часто не взаимозаменяемы; вам все равно придется провести обширное тестирование, чтобы подтвердить, что новый драйвер работает точно так же, как и предыдущий.

Подход к проектированию на основе пользовательской платформы, такой как Geppetto, может значительно сократить время разработки. С помощью Geppetto вы можете перетаскивать проверенные блоки функциональности в свою пользовательскую плату. Для приложений искусственного интеллекта вы можете начать с Jetson Nano и убрать любую функциональность, которая вам не нужна. Затем вы можете добавить датчики, интерфейсы, процессоры и другие схемы из обширной библиотеки модулей для создания пользовательского модуля, оптимизированного для вашего приложения.

Одно из ключевых преимуществ этого подхода заключается в том, что вы можете экономично изготовить несколько плат для первоначальной разработки и тестирования. Если вы определите, что вам нужно больше мощности обработки – или меньше – вы можете легко настроить свой дизайн, не прибегая к разработке совершенно новой системы.

Кроме того, ваша пользовательская плата поставляется с предварительно интегрированными ОС и драйверами. Вам не нужно заставлять все компоненты работать вместе, потому что мы уже сделали это за вас.

Технология искусственного интеллекта действительно всего в нескольких кликах. Посетите Gumstix, чтобы узнать больше.