- Experții avertizează asupra riscurilor utilizării DeepSeek, o platformă AI chinezească, din cauza posibilei răspândiri dezinformării și exploatării datelor utilizatorilor de către statul chinez.
- DeepSeek a devenit rapid cea mai descărcată aplicație gratuită în Marea Britanie și SUA, dar unii utilizatori au observat că AI-ul cenzurează subiecte sensibile, precum masacrul din Piața Tiananmen și statusul Taiwanului.
- Platforma este open-source și colectează date personale ale utilizatorilor, stocându-le pe servere în China, conform politicii sale de confidențialitate.
Experții au avertizat cu privire la utilizarea rapidă a platformei chineze de inteligență artificială DeepSeek, invocând îngrijorări legate de răspândirea dezinformării și de posibila exploatare a datelor utilizatorilor de către statul chinez, scrie The Guardian.
Advertisment
Noua platformă AI low-cost a șters 1 trilion de dolari din indicele principal al acțiunilor tehnologice din SUA săptămâna aceasta și a devenit rapid cea mai descărcată aplicație gratuită în Marea Britanie și SUA. Donald Trump a numit-o un „semnal de alarmă” pentru companiile tehnologice.
DeepSeek a uimit lumea tehnologică, demonstrând că poate obține performanțe similare celor ale platformelor deja utilizate pe scară largă, precum ChatGPT, la o fracțiune din cost.
Recomandări
Michael Wooldridge, profesor de AI la Universitatea Oxford, a spus că nu este nerezonabil să presupunem că datele introduse în chatbot ar putea fi partajate cu statul chinez. „Cred că este în regulă să o descarci și să întrebi despre performanța echipei de fotbal Liverpool sau să discuți despre istoria Imperiului Roman, dar aș recomanda să nu pui nimic sensibil sau personal pe ele. Absolut nu… pentru că nu știi unde ajung datele.”
Dame Wendy Hall, membru al organismului consultativ de înalt nivel al Națiunilor Unite pentru AI, a declarat pentru Guardian: „Nu poți să scapi de faptul că, dacă ești o companie chineză care se ocupă de informații, ești supus reglementărilor guvernului chinez privind ce poți și ce nu poți să spui.”
„Trebuie să fim alarmați”, a spus Ross Burley, cofondator al Centre for Information Resilience, care este parțial finanțat de guvernele SUA și Marea Britanie. „Am văzut de nenumărate ori cum Beijingul își folosește dominația tehnologică pentru supraveghere, control și constrângere, atât intern, cât și în afaceri externe.” El a adăugat că, dacă nu este verificat, acest lucru ar putea „sprijini campanii de dezinformare, eroda încrederea publicului și întări narațiunile autoritare în democrațiile noastre.”
Vorbind despre utilizarea inteligenței artificiale chineze în guvern, purtătorul de cuvânt al prim-ministrului a declarat că Downing Street nu va „anticipa modelele specifice”, dar a subliniat că progresele în acest domeniu arată că Marea Britanie trebuie „să meargă mai departe și mai repede pentru a elimina barierele în calea inovației în AI.”
DeepSeek este o platformă open-source, ceea ce înseamnă că dezvoltatorii de software o pot adapta pentru propriile scopuri. A avut un impact rapid, alimentând speranțele unei noi valuri de inovație în domeniul AI, care părea să fie dominat până acum de companiile tehnologice americane, care depind de investiții masive în microcipuri, centre de date și noi surse de energie.
Wooldridge a afirmat: „Acesta transmite cu fermitate un mesaj, în cazul în care cineva nu l-ar fi înțeles deja: China nu este în urma în acest domeniu.”
Unii utilizatori care au testat DeepSeek au descoperit că acesta nu răspunde la întrebări despre subiecte precum masacrul din Piața Tiananmen. Când a fost întrebat despre statutul Taiwanului, AI-ul repetă linia oficială a Partidului Comunist Chinez, afirmând că insula este o „parte inalienabilă a Chinei”.
„Cea mai mare problemă cu AI generativ este dezinformarea,” a spus Hall. „Depinde de datele dintr-un model, de biasul acestor date și de modul în care sunt utilizate – poți observa această problemă cu chatbot-ul DeepSeek.”
Un utilizator, Azeem Azhar, expert în AI, care a întrebat despre evenimentele din Piața Tiananmen, a fost informat că DeepSeek nu poate oferi informații detaliate și că „acest subiect este extrem de sensibil și adesea cenzurat în multe țări, inclusiv China.” Totuși, AI-ul a explicat ulterior că evenimentele au fost „larg recunoscute ca reprimarea protestelor pro-democrație” și a spus: „Guvernul chinez a răspuns cu o represiune violentă, rezultând în morți, inclusiv protestatari și soldați.”
Utilizatorii AI precum DeepSeek și ChatGPT sunt adesea folosiți pentru a procesa documente personale sau pentru muncă, cum ar fi minutele întâlnirilor, dar orice fișier încărcat poate fi preluat de proprietarii companiei și folosit pentru instruirea AI-ului sau pentru alte scopuri.
DeepSeek este bazat în Hangzhou și menționează în politica sa de confidențialitate că informațiile personale colectate de la utilizatori sunt stocate „pe servere securizate situate în Republica Populară Chineză”. De asemenea, afirmă că folosește datele pentru a „îndeplini obligațiile legale sau pentru a efectua sarcini în interes public sau pentru a proteja interesele vitale ale utilizatorilor și altor persoane.”
Legea națională de informații a Chinei prevede că toate întreprinderile, organizațiile și cetățenii „vor sprijini, ajuta și coopera cu eforturile naționale de informații.”
Citește și
- LEGO este mai mult decât un simplu joc pentru copii. Topul celor mai faimoase seturi
- Premierul Serbiei, Miloš Vučević, își dă demisia în urma protestelor studențești
- Cum îți protejezi datele personale pe internet? Află ce aplicații de securitate te pot proteja
Partenerii noștri