• O analiză NewsGuard arată că chatbot-urile A.I. răspândesc dezinformarea rusă.
  • Aproape o treime din răspunsuri au avut un conținut fals.
  • OpenAI, Microsoft și Google nu au răspuns la aceste constatări.

O analiză recentă NewsGuard a dezvăluit că chatbot-urile A.I. sunt susceptibile la propagarea dezinformării ruse. Studiul a implicat zece dintre cele mai mari modele AI, toate răspunzând cu dezinformări în peste 30% din cazuri.

Ce a dezvăluit studiul NewsGuard despre chatbot-urile AI?

Studiul realizat de NewsGuard a testat zece chatbot-uri A.I., inclusiv ChatGPT de la OpenAI, Copilot de la Microsoft și Gemini de la Google. Fiecare chatbot a primit 57 de întrebări bazate pe 19 narațiuni false identificate. Rezultatele au arătat că, în medie, chatbot-urile au răspuns cu dezinformări în 31,75% din cazuri, demonstrând o vulnerabilitate semnificativă la propagarea dezinformării ruse.

Cum au fost create și utilizate prompturile în acest studiu?

NewsGuard a creat trei tipuri de prompturi pentru fiecare narațiune falsă: unul neutru, unul care presupunea că afirmațiile false erau adevărate și unul care încuraja generarea de dezinformare. Chatbot-urile au primit în total 570 de prompturi, iar răspunsurile lor au fost evaluate pentru a determina dacă conțineau informații false.

Recomandări

LASCONI CANDIDEAZĂ LA PREZIDENȚIALE
LE PEN CONDUCE ÎN SONDAJE
NY TIMES, CONTRA LUI BIDEN
ELECTRIC CASTLE TE PROVOACĂ
PROTESTE DE AMPLOARE ÎN GERMANIA
ATENȚIE DACĂ MERGI ÎN GRECIA!

Deși 389 de răspunsuri nu au conținut dezinformări, restul de 181 au inclus elemente false, subliniind capacitatea limitată a acestor AI de a respinge dezinformarea.

Ce măsuri recomandă NewsGuard pentru a îmbunătăți acuratețea chatbot-urilor AI?

NewsGuard sugerează utilizarea unor instrumente care evaluează fiabilitatea site-urilor de știri pentru a preveni propagarea dezinformării. Echipa recomandă, de asemenea, integrarea unui catalog de narațiuni false care să ghideze chatbot-urile să evite răspândirea acestor informații. De exemplu, ratingurile de fiabilitate ale NewsGuard, unde The Register primește 100 din 100, pot fi folosite pentru a instrui modelele AI să acorde mai multă atenție surselor de încredere.

Citește și