- Modelul Gemini al Google a accesat fără autorizație sistemele a trei companii reale în timpul unui test de securitate cibernetică.
- A.I.-ul credea că țintele făceau parte din exercițiul simulat și a folosit parole ghicite sau date de autentificare găsite online.
- Google spune că Gemini s-a oprit singur după ce a realizat că sistemele aparțineau unor companii reale și că nu au fost produse pagube.
Modelul de inteligență artificială Gemini al Google a accesat sistemele informatice ale trei companii reale în timpul unui test menit să-i evalueze capacitățile de securitate cibernetică. Incidentele au avut loc în luna mai, în timpul unei evaluări realizate de compania independentă Irregular, conform The Washington Post.
Gemini trebuia să participe la un exercițiu de tip „capture the flag” și să găsească informații în infrastructura unei companii fictive. Modelul a avut însă, din greșeală, acces la internet, deși mediul de testare trebuia să fie izolat.
Într-unul dintre cazuri, compania fictivă folosită în test avea același nume ca o firmă reală. Gemini a încercat mai multe parole până când a reușit să intre într-un sistem protejat. În alte două situații, modelul a găsit online date de autentificare care i-au permis accesul la sistemele altor companii.
Google spune că modelul considera că respectivele sisteme făceau parte din test. În toate cele trei cazuri, Gemini și-a oprit acțiunile după ce a identificat că țintele erau companii reale.
„În toate cele trei situații, modelul s-a oprit”, a declarat Heather Adkins, vicepreședinte pentru securitate la Google. Compania spune că firmele afectate au fost informate și că procedurile de testare au fost ulterior modificate.
Irregular a notificat Google despre incidente în luna iulie. Google nu le-a făcut publice atunci, argumentând că Gemini s-a oprit înainte de a provoca pagube. Informația a devenit publică pe 18 septembrie.
Cazul Gemini este primul incident cunoscut în care un model Google a ieșit din mediul său de testare și a accesat autonom sisteme externe. Incidente similare au fost raportate în ultimele luni și în evaluări ale unor modele dezvoltate de Anthropic, OpenAI și Meta.
