• O analiză NewsGuard arată că chatbot-urile A.I. răspândesc dezinformarea rusă.
  • Aproape o treime din răspunsuri au avut un conținut fals.
  • OpenAI, Microsoft și Google nu au răspuns la aceste constatări.

O analiză recentă NewsGuard a dezvăluit că chatbot-urile A.I. sunt susceptibile la propagarea dezinformării ruse. Studiul a implicat zece dintre cele mai mari modele AI, toate răspunzând cu dezinformări în peste 30% din cazuri.

Ce a dezvăluit studiul NewsGuard despre chatbot-urile AI?

Studiul realizat de NewsGuard a testat zece chatbot-uri A.I., inclusiv ChatGPT de la OpenAI, Copilot de la Microsoft și Gemini de la Google. Fiecare chatbot a primit 57 de întrebări bazate pe 19 narațiuni false identificate. Rezultatele au arătat că, în medie, chatbot-urile au răspuns cu dezinformări în 31,75% din cazuri, demonstrând o vulnerabilitate semnificativă la propagarea dezinformării ruse.

Cum au fost create și utilizate prompturile în acest studiu?

NewsGuard a creat trei tipuri de prompturi pentru fiecare narațiune falsă: unul neutru, unul care presupunea că afirmațiile false erau adevărate și unul care încuraja generarea de dezinformare. Chatbot-urile au primit în total 570 de prompturi, iar răspunsurile lor au fost evaluate pentru a determina dacă conțineau informații false.

Recomandări

CIOLACU: AVEM COALIȚIE
ZELE CREDE-N ADERARE
NEGOCIERI FĂRĂ SFÂRȘIT
UNDE TE DISTREZI ÎN PARIS
SUSPECTUL E ARESTAT
LARA NU VREA LA SENAT

Deși 389 de răspunsuri nu au conținut dezinformări, restul de 181 au inclus elemente false, subliniind capacitatea limitată a acestor AI de a respinge dezinformarea.

Ce măsuri recomandă NewsGuard pentru a îmbunătăți acuratețea chatbot-urilor AI?

NewsGuard sugerează utilizarea unor instrumente care evaluează fiabilitatea site-urilor de știri pentru a preveni propagarea dezinformării. Echipa recomandă, de asemenea, integrarea unui catalog de narațiuni false care să ghideze chatbot-urile să evite răspândirea acestor informații. De exemplu, ratingurile de fiabilitate ale NewsGuard, unde The Register primește 100 din 100, pot fi folosite pentru a instrui modelele AI să acorde mai multă atenție surselor de încredere.

Citește și

Articole relaționate

Partenerii noștri

O maşina a intrat în mulţime la un târg de Crăciun din Germania. Surse germane: Ar fi vorba de un atac terorist/ Bilanţ provizoriu: Mai mulţi morţi şi zeci de răniţi Mediafax
S-a terminat cu sunatul după doctori, vânatul de programări şi aşteptatul. 2025 va fi anul revoluţiei tehnologice şi în sănătate. Ce vor putea face pacienţii în viitorul apropiat. VIDEO Ziarul Financiar
Cine sunt oamenii din spatele uneia dintre puţinele companii aeriene româneşti ce se luptă cu toţi giganţii internaţionali ce sunt pe piaţa din ţara noastră Business Magazin
El va fi VIITORUL PREȘEDINTE al României? CUTREMUR la nivel național Media FLUX