Meta a prezentat oficial Muse Glimmer, un nou model de inteligență artificială dezvoltat de Meta Superintelligence Labs, care marchează o schimbare importantă de direcție în industria AI. Spre deosebire de modelele gigantice care rulează aproape exclusiv în centre de date, Muse Glimmer a fost conceput pentru a funcționa direct pe dispozitivele utilizatorilor, inclusiv pe laptopuri și PC-uri echipate cu o singură placă video de consum. Totodată, Meta a decis să publice modelul sub licența deschisă Apache 2.0, continuând strategia companiei de a susține ecosistemul AI open-weight.
Modelul are 30 de miliarde de parametri și este optimizat pentru fluxuri de lucru agentice permanente, adică pentru asistenți AI capabili să execute sarcini complexe, să utilizeze instrumente externe și să interacționeze autonom cu aplicațiile utilizatorului. Potrivit Meta, Muse Glimmer poate fi folosit pentru asistenți personali locali, programare, automatizarea sarcinilor sau evaluarea altor modele lingvistice, fără a necesita conectare permanentă la cloud.
Lansarea survine într-un moment în care tot mai multe companii caută alternative la modelele AI exclusiv cloud. Costurile ridicate ale infrastructurii, preocupările privind confidențialitatea datelor și nevoia de funcționare offline au stimulat interesul pentru modelele care rulează local. Meta consideră că această tendință va deveni una dintre cele mai importante direcții de dezvoltare a industriei în următorii ani.
Unul dintre principalele atuuri ale Muse Glimmer este faptul că a fost construit special pentru agenți AI. Modelul este capabil să gestioneze sarcini complexe pe termen lung, să utilizeze instrumente externe prin funcții dedicate, să proceseze imagini și text simultan și să își corecteze singur erorile atunci când o operațiune eșuează. Meta afirmă că modelul poate menține planuri complexe pe perioade extinse și poate adapta execuția în funcție de rezultatele obținute pe parcurs.
Pentru a obține aceste capacități într-un model relativ compact, Meta a folosit o metodă avansată de antrenare bazată pe distilare. Practic, Muse Glimmer a învățat comportamente și procese de raționament de la un model profesor mult mai mare, numit Muse Spark. Compania a combinat pre-antrenarea, antrenarea pe contexte lungi și tehnici de reinforcement learning pentru a crea un sistem eficient, dar suficient de mic pentru a rula pe hardware accesibil.
O altă provocare majoră a fost reducerea consumului de memorie. În forma sa completă, un model de 30 de miliarde de parametri ar necesita peste 55 GB de memorie, mult peste capacitatea majorității plăcilor grafice disponibile consumatorilor. Pentru a rezolva problema, Meta a utilizat tehnici de cuantizare care comprimă modelul la aproximativ 4 biți, reducând dimensiunea acestuia sub 20 GB fără pierderi semnificative de performanță în scenariile agentice.
Compania a introdus și o tehnologie de accelerare denumită „speculative decoding”, prin care un model auxiliar propune secvențe întregi de răspunsuri, iar modelul principal le validează în paralel. Rezultatul este o viteză de generare semnificativ mai mare și o experiență mai fluidă pentru utilizator. Conform Meta, Muse Glimmer poate rula în timp real pe sisteme precum MacBook M4 Max, MacBook M5 Max sau PC-uri echipate cu plăci grafice RTX 5090.
Modelul este de asemenea multimodal și multilingv, fiind antrenat pe date din peste 100 de limbi. El poate interpreta documente, capturi de ecran, grafice și imagini integrate într-o conversație, ceea ce îl transformă într-o bază solidă pentru viitorii agenți personali inteligenți.
Prin Muse Glimmer, Meta transmite un mesaj clar: viitorul inteligenței artificiale nu va fi construit exclusiv în centre de date uriașe, ci și pe dispozitivele utilizatorilor. Dacă această viziune se va confirma, compania ar putea deveni unul dintre principalii promotori ai unei noi generații de AI personale, autonome și accesibile, capabile să funcționeze oriunde, chiar și fără conexiune la internet.
