
Un articol de Salil Raje, Vicepreședinte senior și director general al Adaptive and Embedded Computing Group
De ce inteligența artificială fizică impune o nouă definiție a performanței, bazată pe întregul sistem, nu doar pe puterea maximă de calcul.
Inteligența artificială s-a afirmat mai întâi în cloud. Următoarea etapă se desfășoară în lumea reală.
Trecerea de la inteligența artificială din cloud la inteligența artificială fizică determină companiile să își reevalueze modul în care definesc performanța. Indicatorii folosiți pentru antrenarea modelelor și pentru inferență oferă doar o imagine parțială atunci când inteligența artificială trebuie să perceapă mediul, să raționeze și să controleze mașini care funcționează în apropierea oamenilor. În aceste sisteme, performanța trebuie evaluată la nivelul întregului ansamblu. Această schimbare influențează modul în care sunt măsurați și proiectați roboții și, în cele din urmă, arhitecturile de calcul care îi vor pune în funcțiune.
AMD are peste două decenii de experiență în robotică, prin tehnologii integrate în brațe robotice industriale, roboți mobili autonomi, sisteme chirurgicale și platforme aerospațiale. Am furnizat pentru aceste aplicații soluții de viziune artificială, fuziune a datelor de la senzori, control determinist al motoarelor și siguranță funcțională. Aceste tehnologii reprezintă baza pe care se dezvoltă inteligența artificială.
O nouă definiție a performanței
Sistemele de inteligență artificială fizică nu se limitează la a oferi răspunsuri. Ele acționează. Prin urmare, devin esențiale viteza de reacție, predictibilitatea, consumul de energie, siguranța și funcționarea fiabilă în condiții reale. Timpul de răspuns influențează direct fiecare dintre aceste aspecte.
Dacă o decizie de control este aplicată prea târziu, nu mai vorbim doar despre o problemă de performanță. O astfel de întârziere poate provoca o coliziune, instabilitate sau un comportament periculos.
Acest lucru este deosebit de evident în cazul roboților umanoizi. Ei au început să fie folosiți în medii industriale mai devreme decât anticipam cei mai mulți dintre noi și lucrează tot mai des în apropierea oamenilor.
În discuțiile mele cu producătorii de echipamente originale (OEM) din robotică, cerința pe care o aud cel mai des nu este atingerea puterii maxime de calcul. Ei au nevoie să ruleze modele avansate de inteligență artificială în paralel cu sisteme de control determinist, în timp real. Cu alte cuvinte, inteligența artificială trebuie să funcționeze alături de mecanisme care oferă reacții predictibile și respectă limite precise de timp la nivelul întregului sistem. În lumea fizică, depășirea unui astfel de interval nu înseamnă doar o întârziere, ci poate compromite siguranța.
Măsurăm ce nu trebuie
Industria continuă să se concentreze asupra indicatorului greșit. TOPS (mii de miliarde de operații pe secundă) nu este suficient pentru a evalua performanța sistemelor de inteligență artificială fizică. Acest indicator arată volumul operațiilor de calcul pe care le poate executa un sistem, dar nu spune dacă acesta poate detecta un eveniment, lua o decizie și reacționa corect într-un interval de timp prestabilit.
Pentru asta, unitățile de procesare, memoria, conexiunile de rețea, senzorii și software-ul trebuie să funcționeze ca un tot unitar, cu suficientă lățime de bandă a memoriei pentru ca datele să ajungă la locul potrivit, la momentul potrivit. Un model rapid pe un singur procesor nu garantează un sistem rapid dacă transferul de date, planificarea execuției sau o altă etapă îl împiedică să respecte timpul-limită.
De aceea, performanța sistemelor de inteligență artificială fizică trebuie măsurată în toate etapele, de la datele captate de senzori până la acțiunea propriu-zisă. Latența medie nu este suficientă. Contează și latența în situațiile cu cele mai mari întârzieri (tail latency), precum și variațiile timpului de răspuns (jitter), deoarece chiar și un singur vârf de latență poate destabiliza o buclă de control.
Testele de performanță ale modelelor de inteligență artificială au aceeași limitare. Un robot poate elabora un plan excelent, dar acesta devine inutil dacă nu reușește să acționeze la timp. De multe ori, întârzierea nu vine de la model, ci din etapele care fac legătura între componente: timpii de așteptare în cozile de procesare, planificarea sarcinilor, copierea datelor în memorie și transferul acestora.
Același sistem, sarcini diferite
Inteligența artificială fizică nu presupune un singur tip de sarcină de calcul. Percepția și raționamentul cer un debit mare de procesare, iar GPU-urile și NPU-urile se potrivesc bine acestor cerințe. Controlul în timp real trebuie să respecte termene stricte și să ofere o execuție deterministă, domenii în care FPGA-urile și SoC-urile adaptive au avantaje. CPU-urile se ocupă de coordonarea sistemului și mențin sincronizarea între componente.
De la corp până la „creier”, aceste sarcini rulează simultan, dar rezolvă probleme fundamental diferite și necesită arhitecturi de calcul distincte.
Dacă toate fluxurile de date de la senzori și toate deciziile de control trec prin același procesor, apar constrângeri legate de lățimea de bandă, de consumul de energie și de latență. Sunt limite care afectează întregul sistem.
Un robot construit asemenea corpului uman
În general, fiecare sarcină se alocă componentei de calcul potrivite, cât mai aproape de date și de locul unde are loc acțiunea.
În practică, asta înseamnă să proiectăm un robot după modelul corpului uman. Un creier care percepe, analizează și planifică. O coloană vertebrală prin care circulă informațiile ce necesită un răspuns rapid. Articulații care execută mișcări cu timpi predictibili. Mâini capabile de mișcări fine și complexe. Senzori amplasați la extremități.
Rezultatul este un sistem distribuit, cu funcționare în timp real, alcătuit din noduri coordonate, nu dintr-o singură unitate de procesare.
Video: AMD și Generative Bionics discută progresele în inteligența artificială fizică și robotică
Siguranța este o caracteristică a întregului sistem
Indiferent dacă aceste funcții sunt centralizate sau distribuite, siguranța depinde de comportamentul întregului sistem și, mai ales, de modul în care reacționează la o defecțiune.
Această abordare influențează proiectarea încă de la început: unde sunt luate deciziile, cum sunt izolate defecțiunile și ce funcții trebuie să reacționeze în intervale stricte de timp.
Redundanță. Reducerea controlată a funcționalității în caz de defecțiune. Decizii locale care respectă constrângerile întregului sistem. Aceste capabilități permit sistemului să își păstreze comportamentul sub control, să ajungă într-o stare sigură și, în multe cazuri, să continue să funcționeze chiar și atunci când se defectează componenta principală de calcul destinată inteligenței artificiale.
Este o provocare pentru întreaga industrie, de la robotică și industria auto până la automatizarea industrială. Componentele hardware, software-ul și arhitectura sistemului trebuie să funcționeze împreună. Siguranța nu este un adaos ulterior, ci un principiu care determină modul în care este proiectat sistemul.
AMD îi ajută pe dezvoltatori să creeze astfel de arhitecturi cu SoC-uri adaptive și platforme x86. SoC-urile adaptive oferă procesoare dedicate pentru operațiuni în timp real, cu execuție sincronizată în paralel (lockstep), precum și logică programabilă pentru monitorizare și control determinist. Aceste funcții beneficiază de cipuri certificate pentru siguranță funcțională conform standardelor IEC 61508, ISO 26262 și ISO 13849, precum și de fluxuri de proiectare certificate. Inițiative precum ISO/CD 25785-1 evidențiază atenția tot mai mare acordată siguranței la nivel de sistem în cazul roboților industriali cu stabilitate dinamică. Astfel de sisteme trebuie să aibă un comportament predictibil, de la detectarea informațiilor cu ajutorul senzorilor și procesarea acestora până la control și reacția la defecțiuni. Prin urmare, arhitectura sistemului este, încă de la început, o decizie fundamentală pentru siguranță.
Pe platformele AMD x86, Xen, un hipervizor cu consum redus de resurse, care izolează sarcinile unele de altele, poate susține arhitecturi care integrează funcții cu cerințe diferite de siguranță. Xen separă sarcinile în funcție de cerințele lor de siguranță și stabilește limite bine definite pentru accesul la memorie, dispozitive și resurse comune de procesare.
AMD și comunitatea Xen lucrează pentru obținerea certificării de siguranță a hipervizorului Xen atât pe platformele AMD x86, cât și pe cele Arm. Contribuțiile lor vizează nu doar izolarea sarcinilor, ci și cerințele, testarea, introducerea controlată a defecțiunilor și dovezile tehnice necesare certificării. Conceptul de siguranță a primit deja aprobare, iar procesul continuă către certificarea finală.
Ce am dezvoltat
Această abordare axată pe întregul sistem a stat la baza soluției AMD Kria™ AI pentru robotică, ce include o gamă de module de calcul scalabile, de tip system-on-module (SOM):
- Kria AI SOM și o placă de interfață pentru robotică (carrier card), bazate pe procesoarele AMD Ryzen™ AI Embedded din seria X100.
- AMD Kria™ AI Robotics Developer Platform, o platformă deschisă și integrată, care reunește resurse de procesare CPU, GPU, NPU și FPGA.
- AMD Robotics Software Suite și rețeaua deschisă de parteneri AMD Robotics Partner Network.
Kria AI pentru „creier”. SoC-urile adaptive AMD Versal™ pentru „coloana vertebrală”. SoC-urile AMD Zynq™ pentru articulații și mâini. FPGA-urile AMD Spartan™ pentru senzori. Foundation Robotics și Generative Bionics folosesc deja aceste tehnologii.
Testele și analizele realizate de terți ne confirmă convingerea că performanța sistemelor de inteligență artificială fizică trebuie evaluată la nivelul întregului sistem. Modulul Kria AI SOM susține 8.000 de decizii de control pe secundă, iar raționamentul bazat pe inteligență artificială are un timp de răspuns sub 100 de milisecunde. În sarcini reprezentative de robotică, configurațiile AMD Ryzen AI Embedded oferă o fiabilitate de până la 3,4 ori mai mare pentru controlul în timp real, cu respectarea termenelor de execuție și o capacitate de procesare disponibilă pentru alte sarcini de până la 1,6 ori mai mare față de NVIDIA Jetson T5000. O analiză separată realizată de mimik a constatat că sistemul poate susține cu până la 2,3 ori mai mulți agenți de inteligență artificială simultan.
În robotică, „deschis” trebuie să însemne mai mult decât un simplu standard definit pe hârtie. AMD Robotics Software Suite este un pachet software deschis și portabil, bazat pe platforma AMD ROCm™ și pe ROS 2 (Robot Operating System 2), cu suport pentru PyTorch, ONNX și MoveIt. Și specificațiile hardware ale platformei de dezvoltare Kria sunt deschise. Astfel, clienții pot colabora cu parteneri ODM și pot crea produse bazate pe cipuri AMD, în formatul hardware de care au nevoie, fără să depindă de un singur furnizor.
Puterea maximă de calcul contează, dar nu oferă o imagine completă. Dezvoltatorii care optimizează întregul sistem și atribuie fiecare sarcină de calcul componentei potrivite vor crea roboți fiabili în situațiile în care acest lucru contează cu adevărat. Puterea maximă de calcul poate impresiona într-o demonstrație. Performanța întregului sistem transformă demonstrația într-un produs funcțional.