Rețeaua Pravda manipulează modelele A.I. pentru a răspândi dezinformarea pro-rusă

• Rețeaua pro-rusă Pravda a influențat chatbot-urile A.I. prin inundarea acestora cu dezinformare, ceea ce a dus la răspândirea falsităților în răspunsurile lor.
• Studiile au arătat că majoritatea chatbot-urilor majore, inclusiv ChatGPT și Google Gemini, au preluat narațiuni false de la Pravda, inclusiv teorii ale conspirației despre Ucraina.
• Experții avertizează că aceste manipulări pot submina integritatea AI-ului și a discursului democratic global.

Rețeaua Pravda, o organizație bine finanțată din Moscova, care promovează narațiuni pro-ruse la nivel global, ar fi distorsionat răspunsurile chatbot-urilor prin inundarea modelelor lingvistice mari (LLM) cu informații false pro-Kremlin. Un studiu realizat de watchdog-ul NewsGuard a descoperit că 10 dintre cele mai importante chatbot-uri de inteligență artificială au preluat minciuni răspândite de Pravda în proporție de peste 33%, susținând agenda pro-Moscova. Această descoperire subliniază o amenințare mult mai largă, care depășește simpla preluare a dezinformării care circulă pe internet. Acum, rețeaua Pravda se folosește de o tactică de manipulare cunoscută sub numele de „LLM grooming”, care presupune influențarea deliberată a chatbot-urilor pentru a ajunge la un public mai larg, modificând răspunsurile acestora pentru a susține falsuri, scrie France24.

Rețeaua Pravda a fost lansată în aprilie 2022, după invazia la scară largă a Ucrainei de către Rusia și s-a extins rapid pentru a acoperi 49 de țări și numeroase limbi, devenind o forță importantă în diseminarea dezinformării. Articolele produse de Pravda, care includ informații false și teorii ale conspirației, cum ar fi acuzația că Statele Unite operează laboratoare secrete de arme biologice în Ucraina, sunt amplificate pe platforme ca X (fost Twitter), Telegram și Bluesky. Într-un studiu realizat de NewsGuard, toate cele 10 chatbot-uri de inteligență artificială examinate, inclusiv cele de la OpenAI (ChatGPT-4), You.com (Smart Assistant), Grok, Microsoft (Copilot), Meta AI, Google Gemini și Perplexity, au preluat și răspândit dezinformarea susținută de Pravda. Unele dintre acestea au citat chiar articole specifice din rețeaua Pravda ca surse pentru informațiile eronate.

Un aspect important este faptul că Pravda nu produce în mod direct conținut original, ci agregă informații din surse oficiale rusești, media de stat și influenceri pro-Kremlin. Acest conținut este apoi amplificat pe o scară globală, ceea ce îi permite să ajungă la o audiență largă prin intermediul platformelor online. Analiștii în securitate cibernetică și experții în dezinformare avertizează că influențele externe asupra modelelor de inteligență artificială pot destabiliza integritatea discursului democratic global. Aceștia subliniază faptul că rețeaua Pravda reprezintă o amenințare majoră pentru adevărul informațional și pentru buna funcționare a sistemelor de AI, mai ales având în vedere amploarea cu care acest tip de dezinformare se răspândește în rândul publicului global.