Autor: Dan Feraru
General Manager Infodava
Inteligența artificială (AI) este pe cale să devină un motor esențial al inovației și eficienței operaționale, cu cheltuieli globale estimate la 151 de miliarde USD în 2023 și peste 308 miliarde USD până în 2026. Aplicațiile AI, de la diagnosticarea bolilor la optimizarea lanțurilor de aprovizionare, au un impact profund asupra diverselor industrii. Totuși, succesul implementării AI depinde de abordarea riscurilor asociate, precum confidențialitatea datelor, discriminarea, lipsa transparenței și nerespectarea reglementărilor.
Guvernanța AI este definită ca un set de procese, politici și instrumente care implică echipe diverse (date, inginerie, conformitate, legal) pentru a maximiza beneficiile și a minimiza riscurile asociate cu sistemele AI. Lipsa guvernării AI a fost identificată ca o barieră majoră în adoptarea acestei tehnologii. În acest context, AI responsabilă (Responsible AI – RAI) joacă un rol central. Aceasta presupune alinierea cu valorile umane, reducerea consecințelor neintenționate și promovarea transparenței.
Companiile din top G2000 folosesc deja sute sau mii de modele AI, iar contribuția acestora la venituri este semnificativă. Totuși, gestionarea complexității acestora depășește capacitatea unei echipe unice de specialiști. Se impune integrarea guvernării AI în ciclul de viață AI/ML, utilizând instrumente avansate precum DataOps și MLOps. Totodată, reglementările emergente, precum GDPR și actul AI al Uniunii Europene, cer un control centralizat, adesea la nivel de consiliu de administrație.
Riscurile principale asociate lipsei guvernării AI includ pierderea confidențialității clienților, scăderea veniturilor, deteriorarea reputației și investigațiile penale. Pentru a contracara aceste efecte, organizațiile trebuie să implementeze componente-cheie ale guvernării AI, inclusiv monitorizarea continuă a modelelor, managementul riscurilor și respectarea reglementărilor.
Platformele de guvernare AI, precum IBM watsonx.governance, sunt esențiale pentru a standardiza procesele, a reduce costurile și a crește transparența. Acestea facilitează colaborarea între departamente și permit adaptarea rapidă la noile reglementări, asigurând o implementare scalabilă și responsabilă.
Exemplele prezentate în document demonstrează beneficiile concrete ale guvernării AI. De exemplu, o companie financiară globală care utilizează AI pentru detectarea fraudei investește semnificativ în instrumente de guvernare, obținând un ROI rapid prin evitarea pierderilor și creșterea productivității. Alte companii folosesc AI pentru optimizarea lanțurilor de aprovizionare sau personalizarea experiențelor clienților, integrând guvernarea încă din faza inițială a proiectelor.
În concluzie, pentru a maximiza beneficiile AI și a minimiza riscurile, companiile trebuie să adopte o guvernare responsabilă și proactivă. Acest lucru implică un angajament la nivel de conducere, procese riguroase de dezvoltare și monitorizare a modelelor, precum și parteneriate cu furnizori de tehnologie inovatoare. Printr-o astfel de abordare, organizațiile pot scala AI cu încredere, contribuind la competitivitate și inovare, asigurând totodată conformitatea legală și responsabilitatea socială.
AI Governance reprezintă setul de principii propuse de IBM pentru o AI responsabilă. Aceste principii includ ideea că scopul AI este de a augmenta inteligența umană, că datele și informațiile aparțin creatorului lor și că sistemele AI trebuie să fie transparente și explicabile. Aceste principii sunt esențiale pentru a construi încrederea în tehnologiile AI și pentru a asigura că deciziile luate de aceste sisteme sunt corecte și justificate.
Provocările scalării AI
Printre provocările AI se numără gestionarea riscurilor și a reputației, având în vedere că modelele AI pot fi adesea percepute ca fiind nedrepte, inexplicabile sau părtinitoare. Aceste probleme pot afecta
clienții și pot dăuna brandului unei organizații. De asemenea, se menționează importanța proceselor explicabile, care ajută auditorii și clienții să înțeleagă cum au fost obținute anumite rezultate analitice.
Un alt aspect important este conformitatea cu reglementările în continuă schimbare. Organizațiile trebuie să se conformeze legilor și reglementărilor locale, regionale și naționale, care devin din ce în ce mai stricte. Nerespectarea acestor reglementări poate duce la amenzi semnificative, cum ar fi cele prevăzute în propunerea de act legislativ al Uniunii Europene privind AI, care preconizează amenzi de până la 30 de milioane de euro sau 6% din venitul global al unei companii.
IBM® watsonx.governance™
Studiul IDC (Why AI Governance Is a Business Imperative for Scaling Enterprise Artificial Intelligence) subliniază și poziția de lider a IBM în domeniul guvernării AI, evidențiată prin platforma sa inovatoare IBM watsonx.governance, care oferă soluții complete pentru monitorizarea, gestiona-rea și respectarea reglementărilor pe întregul ciclu de viață AI. Aceasta consolidează transparența, automatizează procesele complexe și sprijină organizațiile să implementeze AI responsabilă la scară largă, contribuind semnificativ la încrederea stakeholderilor și la crearea de valoare sustenabilă.
Pe măsură ce tot mai multe organizații integrează AI în operațiunile lor, este esențial să existe măsuri de protecție pentru a evita încălcările etice, legale și de reglementare. Printre obstacolele întâmpinate se numără dificultatea de a răspunde la reglementările în continuă schimbare și riscurile de neconformitate, care pot duce la pierderi financiare semnificative și la daune de reputație. Documentul menționează reglementări importante, cum ar fi Actul AI al Uniunii Europene, un ordin executiv al Casei Albe privind dezvoltarea și utilizarea sigură a AI, și cadrul de guvernanță AI din Singapore.
Un alt aspect crucial este gestionarea riscurilor și a reputației. Detectarea proactivă a prejudecăților și a abaterilor în modelele AI este necesară pentru a proteja confidențialitatea clienților, loialitatea și încrederea acestora. Rezultatele modelului care sunt părtinitoare sau neexplicabile pot duce la deteriorarea brandului și la neîncrederea clienților, precum și la audite interne și amenzi. Este important ca organizațiile să aibă vizibilitate asupra faptelor modelului pentru a justifica deciziile analitice în fața managementului, acționarilor și auditorilor externi.
IBM® watsonx.governance™ este prezentat ca o soluție automată pentru guver-nanța atât a AI generative, cât și a mode-lelor de învățare automată (ML) pe platforma IBM® watsonx™. Componentele acestei soluții includ:
1. Conformitate: Gestionarea AI pentru a respecta reglementările și politicile de siguranță și transparență la nivel mondial, având un „eticheta nutrițională” pentru AI. Aceasta include traducerea reglementărilor externe în politici pentru aplicare automată și utilizarea fișelor de date pentru procesele modelului transparente.
2. Gestionarea riscurilor: Detectarea și atenuarea proactivă a riscurilor, monitorizând echitatea, prejudecățile și abaterile, precum și noile metrici LLM. Aceasta implică setarea unor praguri pentru alerte atunci când metricile cheie sunt depășite.
3. Guvernanța ciclului de viață: Gestionarea, monitorizarea și guvernarea modelelor AI din diverse surse, inclusiv comunități open-source. Aceasta include automatizarea și consolidarea instrumentelor și proceselor pentru a promova AI transparent la scară
Important de subliniat este ca watsonx.gov nu este compatibil doar cu watsonx.ai (IBM) ci si cu SageMaker (Aws), iar in curand cu va fi compatibil cu oplatforma de la Azure. Solutia asigura guvernanta si vizibiliate asupra initiativelor de AI ale unei companii indiferent de platforma folosita.
