Zaprojektowanie prostego urządzenia Internetu rzeczy (IoT) opartego na czujnikach nie jest trudne, ale zbudowanie urządzenia IoT z możliwościami przetwarzania brzegowego uczenia maszynowego (ML) to zupełnie inna sprawa. Dedykowane serie procesorów, płytki rozwojowe i towarzyszące im oprogramowanie wprowadzone na rynek przez firmę NXP Semiconductors mają na celu rozwiązywanie kluczowych wyzwań w zakresie funkcjonalności, wydajności i rozwoju, pomagając szybciej wdrażać złożone funkcje sztucznej inteligencji na krawędziach w zastosowaniach przemysłowych i IoT.
Projektanci zaczęli wykorzystywać rozwiązania brzegowej sztucznej inteligencji, które mogą przeprowadzać wnioskowanie ML na urządzeniach o niskim poborze mocy bez polegania na zasobach chmury. Funkcje takie jak wykrywanie słów budzących, analiza wzorców danych z czujników i podstawowe wykrywanie obiektów mogą być zazwyczaj obsługiwane przez energooszczędne procesory obsługujące modele ML (zbudowane przy użyciu narzędzi i struktur do optymalizacji modeli). Jednak wąskie gardła powstają, gdy próbujesz rozszerzyć zasoby procesora, aby poradzić sobie z bardziej złożonymi problemami, zwłaszcza tymi, które wymagają reakcji w czasie rzeczywistym lub prawie w czasie rzeczywistym.
Jak procesory wielordzeniowe znacząco przyspieszają wnioskowanie ML
Firma NXP Semiconductors dzięki procesorom aplikacyjnym z serii i.MX 93 może z łatwością sprostać wyzwaniom funkcjonalnym i wydajnościowym pojawiających się projektów brzegowej sztucznej inteligencji działających w czasie rzeczywistym (rysunek 1).
Rysunek 1: Procesor aplikacyjny i.MX 93 integruje zasoby przetwarzania, systemy bezpieczeństwa, pamięć oraz pełną gamę zegarów, timerów, opcji połączeń i interfejsów, kładąc podwaliny pod projektowanie brzegowej sztucznej inteligencji. (Źródło obrazu: NXP Semiconductors)
Ta seria procesorów integruje bogate funkcje, w tym multimedia, pamięć masową, interfejsy i opcje połączeń, a także łączy w sobie przyciągające wzrok zasoby przetwarzania:
Do dwóch wysokowydajnych rdzeni procesora aplikacyjnego ARM Cortex-A55 do zadań przetwarzania aplikacji opartych na systemie Linux
Platforma Arm Cortex-M33 o bardzo niskim poborze mocy, zapewniająca przetwarzanie sterowania w czasie rzeczywistym z niskimi opóźnieniami
Jednostka przetwarzania neuronowego microNPU (NPU) Arm Ethos-U65 do wydajnego wykonywania wnioskowania ML
Zintegrowana w NXP funkcja EdgeLock Secure Enclave (ESE) zapewnia źródło zaufania w zakresie bezpiecznego rozruchu i zarządzania kluczami, szyfrowania w czasie rzeczywistym i innych funkcji wymaganych do ochrony aplikacji brzegowych
Wykorzystując możliwości tych procesorów, duże brzegowe aplikacje AI można podzielić na wiele łatwych w zarządzaniu części: jednostki NPU przejmują zadania obliczeniowe algorytmów gęstej sieci neuronowej, zmniejszając obciążenie rdzeni Cortex-A55 i unikając wywłaszczania działających zasobów kodu aplikacji. Jednocześnie rdzeń Cortex-M33 w dalszym ciągu koncentruje się na przetwarzaniu zadań o niskim opóźnieniu, takich jak pozyskiwanie danych z czujników lub kontrola procesu, podczas gdy wbudowany moduł ESE chroni bezpieczeństwo systemu, kod oprogramowania i krytyczne dane przez cały proces. Poniżej przedstawiono zdolność NPU do odciążania wnioskowania uczenia maszynowego z rdzenia Cortex-A55, który jest kluczowym wsparciem w tworzeniu aplikacji brzegowych AI reagujących niemal w czasie rzeczywistym.
Jak płytki rozwojowe i oprogramowanie przyspieszają tworzenie aplikacji
Chociaż funkcjonalność i wydajność procesora są kluczowe, efektywny rozwój aplikacji brzegowych AI opiera się bardziej na możliwości szybkiego zrozumienia charakterystyki procesora i szybkiego zbudowania skutecznego oprogramowania. Płytka rozwojowa FRDM-IMX93 firmy NXP (rysunek 2) w połączeniu z towarzyszącymi zasobami programistycznymi może zapewnić wszystko, co potrzebne do rozpoczęcia tworzenia aplikacji.