Problema dezinformaţiei generate de sisteme de inteligenţă artificială capătă proporţii tot mai mari pe reţelele de socializare. Utilizatori care dispun de cunoştinţe minime în domeniu reuşesc ușor să identifice conţinuturi evident generate de maşini, în timp ce o parte semnificativă a utilizatorilor răspândeşte fără discernământ asemenea materiale, fie din ignoranţă, fie deliberat, pentru a crea confuzie sau pentru divertisment.
Încrederea în informaţiile oferite de sistemele de AI rămâne o problemă fundamentală, chiar şi după evoluţia tehnologiei din ultimii ani. În perioada timpurie a chatbot-urilor avansate, cum ar fi GPT-3, utilizatorii au observat o problemă recurentă: aceste sisteme generau răspunsuri care suna plauzibil, erau prezentate cu o încredere desnădăjduită, dar adesea erau complet false. Fenomenul a fost numit generic în industrie „halucinaţie AI” – o descriere adecvată pentru o situaţie în care o maşină produce informaţii fictive în condiţii de maximă certitudine.
Peste şase ani mai târziu, după lansarea a numeroase versiuni îmbunătăţite ale unor sisteme precum ChatGPT şi alte instrumente concurente, dilema încrederii persistă. Deşi modurile lingvistice sunt mai sofisticate şi mai nu-mitori, capabilitatea de a genera fapte false rămâne o caracteristică endemică a acestor sisteme. Problema nu este doar tehnică, ci şi socială.
Peisajul digital contemporan evidenţiază o situaţie paradoxală: oameni cu cunoştinţe medii pot deosebi imediat sintagmele greşite generate de AI, iar aceasta, în unele cazuri, conduce la o anumită stare de confuzie. Utilizatorii care detectează conţinuturi false se grăbesc să le semnaleze, uneori cu o anumită satisfacţie. Totuşi, existenţa unor postări intenţionat generate de AI pentru a induce în eroare sau a provoca o stare de neclaritate pe internet demonstrează că problema transcende simpla erorare tehnologică.
Impactul asupra ecosistemului digital este semnificativ. Jumătate din conţinuturile vizibile pe platformele sociale includ materiale questionabile, generate de maşini sau care reproduc mesaje generate de AI. Responsabilitatea ca utilizator devine din ce în ce mai mare pe măsură ce tehnologia devine mai accesibilă şi mai pervazvă. Discernământul critic şi alfabetizarea digitală apar ca abilităţi esenţiale în context în care granita dintre informaţie validă şi fiction se estompează progresiv.
Soluţiile nu pot fi pur tehnologice. Sistemele AI trebuie să fie proiectate cu mecanisme integre de verificare a faptelor şi de semnalare a incertitudinii, dar aceasta necesită investiţii semnificative în cercetare. Paralel cu aceasta, educaţia utilizatorilor şi promovarea unei culturi critice faţă de informaţiile din mediul online rămân cruciale. Întrebarea pe care trebuie să o punem nu este doar cum facem AI mai sigur, ci cum construim o societate capabilă să utilizeze aceste unelte responsabil şi cu conştiinţă.
Surse: spectrum.ieee.org
About the Author
