Cercetătorii Google au publicat o nouă lucrare prin care doresc să avertizeze public despre cum IA generativă afectează părți semnificative ale internetului cu conținutul fals – ceea ce este ironic, având în vedere efortul Google de a face accesibilă această tehnologie bazei sale enorme de utilizatori.
Studiul, o lucrare care încă nu revizuită, a constatat că marea majoritate a utilizatorilor de IA generativă folosesc tehnologia pentru a „ estompa liniile dintre autenticitate și înșelăciune ” prin postarea de conținut AI fals sau falsificat. precum imagini sau videoclipuri, pe internet. Cercetătorii au analizat, de asemenea, cercetările publicate anterior despre IA generativă și aproximativ 200 de articole de știri care raportau despre utilizarea abuzivă a IA generativă.
„Manipularea asemănării umane și falsificarea dovezilor stau la baza celor mai răspândite tactici în cazurile reale de utilizare greșită”, concluzionează cercetătorii. „Majoritatea dintre acestea au fost desfășurate cu o intenție vizibilă de a influența opinia publică, de a permite activități înșelătoare sau frauduloase sau de a genera profit”.
Problema agravează faptul că sistemele AI generative sunt din ce în ce mai avansate și ușor disponibile – „necesită o expertiză tehnică minimă”, potrivit cercetătorilor, iar această situație deformează „înțelegerea colectivă a realității socio-politice sau a consensului științific” a oamenilor.
Ce lipsește din lucrare? Orice referire la propriile gafe jenante ale Google folosind tehnologia – care, fiind una dintre cele mai mari companii de pe Pământ, uneori a avut o amploare enormă.
Dacă citiți lucrarea, nu puteți să nu ajungeți la concluzia că „utilizarea greșită” a IA generativă sună adesea ca și cum tehnologia funcționează în parametri normali. Oamenii folosesc inteligența artificială generativă pentru a crea o multitudine de conținut fals, deoarece este foarte bun la îndeplinirea acestei sarcini și, în consecință, inunda internetul cu conținut fals generat cu IA.
Și această situație este creată chiar de Google, care a permis ca acest conținut fals să prolifereze sau chiar a fost sursa acestuia, fie că este vorba de imagini false sau de informații false. De asemenea, această problemă pune la testare și capacitatea oamenilor de discerne falsul de real, potrivit cercetătorilor.
„La fel, producția în masă de conținut sintetic de calitate scăzută, asemănător spamului și nefast riscă să crească scepticismul oamenilor față de informațiile digitale și să supraîncărce utilizatorii cu sarcini de verificare”, scriu cercetătorii.
Și înfricoșător, pentru că suntem inundați de conținut fals generat cu IA, cercetătorii spun că au existat cazuri în care „persoanele de profil înalt sunt capabile să explice dovezile nefavorabile generate de AI, schimbând sarcina probei în moduri costisitoare și ineficiente”.
Pe măsură ce companii precum Google continuă să forțeze IA în fiecare produs, este de așteptat ca problema să se agraveze
Sursa: https://futurism.com/the-byte/google-researchers-paper-ai-internet