la baza infrastructurii gazdă a Google Cloud TPU 8tx, primul sistem TPU (Tensor Processing Unit) în cloud care oferă calcul confidențial cu protecție asigurată la nivel hardware. Colaborarea extinsă dintre cele două companii reunește performanța procesoarelor AMD EPYC™, funcțiile de securitate AMD Infinity Guard, compatibilitatea cu software-ul x86 și accelerarea sarcinilor de inteligență artificială prin Google Cloud TPU, pentru a ajuta companiile să ruleze sarcini de inferență, ajustare a modelelor (fine-tuning) și învățare prin întărire.[i] Arhitectura Google Cloud de calcul confidențial utilizată de TPU 8tx, susținută de procesoarele gazdă AMD EPYC din generația a 5-a, permite organizațiilor să ruleze în cloud, la scară largă, sarcinile de inteligență artificială cu cele mai stricte cerințe de confidențialitate, fără compromisuri în privința protecției datelor.
Această implementare extinde rolul procesoarelor AMD EPYC ca element de bază al infrastructurii de inteligență artificială cu acceleratoare. În sistemele cu GPU-uri și acceleratoare proiectate pentru cerințe specifice, procesoarele AMD EPYC sunt alese pentru procesarea la nivelul sistemului gazdă: pregătesc datele, coordonează sarcinile de lucru și gestionează comunicarea cu acceleratoarele. Prin TPU 8tx, AMD și Google Cloud asociază aceste capacități cu mecanisme de securitate integrate în hardware, pentru a răspunde unei cerințe esențiale a sistemelor de inteligență artificială din mediile de producție: protejarea datelor în timpul utilizării.
„Cele mai avansate sisteme de inteligență artificială au nevoie de procesoare gazdă care să facă față cerințelor acceleratoarelor pe care le deservesc”, a declarat Dan McNamara, vicepreședinte senior și director general al diviziei Compute and Enterprise AI din cadrul AMD. „De la o generație EPYC la alta, am dezvoltat procesoare cu performanță, lățime de bandă a memoriei și capacități de intrare/ieșire (I/O) de top, care susțin funcționarea eficientă a sistemelor cu acceleratoare. Aceste rezultate se bazează pe ani de colaborare tehnică cu principalii furnizori de servicii cloud din lume. Prin colaborarea cu Google Cloud, aducem aceste avantaje în TPU 8tx și ajutăm clienții să își extindă utilizarea inteligenței artificiale, cu performanța și protecția necesare celor mai importante sarcini de lucru.”
„Atunci când echipele trec la utilizarea agenților de inteligență artificială în medii de producție, au nevoie de certitudinea că datele și proprietatea lor intelectuală rămân confidențiale, fără să fie expuse nici măcar infrastructurii care susține aceste aplicații”, a declarat Mark Lohmeyer, vicepreședinte și director general pentru infrastructura de inteligență artificială și de calcul în cadrul Google Cloud. „Prin asocierea procesoarelor AMD EPYC din generația a 5-a cu arhitectura noastră TPU din generația a 8-a în cadrul AI Hypercomputer, aducem pentru prima dată calculul confidențial cu protecție la nivel hardware pe sistemele TPU din cloud. Clienții beneficiază de protecția datelor direct la nivelul cipurilor, alături de performanța și latența redusă necesare modelelor moderne capabile de raționament.”
Calcul confidențial pentru inteligență artificială cu procesoarele AMD EPYC
În sistemele TPU 8tx, procesoarele AMD EPYC din generația a 5-a coordonează sarcinile de lucru, pregătesc datele și asigură rate ridicate de transfer al datelor în comunicarea cu acceleratoarele TPU. Sistemul utilizează funcțiile AMD Secure Encrypted Virtualization (SEV) ale procesorului AMD EPYC. Împreună cu TPU, aceste funcții extind protecția oferită de calculul confidențial de la CPU la acceleratoarele conectate și contribuie la protejarea datelor sensibile pe durata transferului între aceste componente.
Verificarea identității și a configurației de securitate ale unui accelerator, înainte ca acesta să primească acces direct la memoria protejată, ajută la păstrarea în formă criptată a prompturilor clienților, a ponderilor modelelor și a datelor intermediare în memoria CPU și pe durata transferului între sistemul gazdă și acceleratoare. În timpul execuției pe acceleratoare, izolarea este asigurată la nivel hardware. Aceste măsuri ajută companiile să utilizeze cu încredere informații sensibile în aplicații de inteligență artificială capabile de raționament și în aplicații bazate pe agenți.
Procesoarele AMD EPYC stau și la baza portofoliului mai larg de servicii Google Cloud pentru calcul confidențial: tehnologiile AMD SEV contribuie la protejarea sarcinilor de lucru în Confidential VMs, Confidential GKE, Confidential Space, Confidential Managed Service for Apache Spark și Confidential Dataflow. TPU 8tx extinde această colaborare la accelerarea sarcinilor de inteligență artificială în condiții de confidențialitate.
O platformă de procesoare gazdă cu rezultate dovedite în diverse arhitecturi de inteligență artificială
Pe măsură ce marii furnizori de servicii cloud, laboratoarele de cercetare de vârf și furnizorii de modele dezvoltă infrastructuri de inteligență artificială tot mai specializate, alegerea procesorului rămâne esențială pentru performanța și implementarea sistemelor. Acceleratoarele depind de procesoarele gazdă, care le furnizează date, programează execuția sarcinilor și asigură legătura dintre sarcinile de inteligență artificială și aplicațiile și serviciile asociate. Peste 10 mari furnizori de servicii cloud și laboratoare de cercetare de vârf în inteligență artificială aleg AMD EPYC ca procesoare gazdă pentru sisteme cu GPU-uri sau acceleratoare ASIC de inteligență artificială proiectate pentru cerințe specifice.
Procesoarele AMD EPYC îndeplinesc acest rol în sisteme cu GPU-uri AMD Instinct™, GPU-uri Nvidia și cipuri proiectate pentru cerințe specifice. Astfel, clienții au la dispoziție o platformă CPU cu rezultate dovedite, compatibilă cu diverse acceleratoare și susținută de ecosistemul matur de software x86.
AMD și Google Cloud continuă colaborarea începută cu generațiile anterioare EPYC
AMD și Google Cloud au colaborat de-a lungul mai multor generații de procesoare EPYC pentru a susține sarcini de lucru generale, sarcini cu cerințe ridicate de calcul sau de stocare și sarcini care utilizează acceleratoare. Această colaborare se regăsește în actualele mașini virtuale Google Cloud Compute Engine C4D, N4D, H4D, Z4D și G4. Cele două companii colaborează de mai mulți ani și în domeniul tehnologiilor de securitate, iar experții Google în securitate au analizat în detaliu firmware-ul procesorului de securitate AMD.
Prin extinderea colaborării la TPU 8tx, AMD și Google Cloud ajută companiile să ruleze în medii de producție sarcini moderne de inteligență artificială bazate pe raționament și pe agenți, fără compromisuri în privința protecției datelor.
[i] GD-183A: Funcțiile AMD Infinity Guard diferă în funcție de generația și/sau seria procesoarelor EPYC™. Producătorii de servere (OEM) și/sau furnizorii de servicii cloud trebuie să activeze funcțiile de securitate Infinity Guard pentru ca acestea să poată fi utilizate. Verifică la producătorul echipamentului sau la furnizor dacă sistemul permite utilizarea acestor funcții. Află mai multe despre Infinity Guard la https://www.amd.com/en/technologies/infinity-guard