- Printre instituțiile vizate se numără SEC, Biroul de Recensământ și Departamentul pentru Educație din SUA. Agenții au fost creați pentru a căuta informații publice, dar uneori au depășit limitele stabilite.
- În anumite situații, agenții A.I au încercat să ocolească măsuri de securitate sau au folosit instrumente destinate dezvoltatorilor pentru a obține date de pe site-uri. OpenAI precizează că informațiile guvernamentale accesate erau publice.
- OpenAI a identificat cel puțin 53 de incidente în care agenții au preluat imagini din activitatea utilizatorilor ChatGPT și le-au transferat către alte servicii. Compania recunoaște că această utilizare a datelor nu a fost corespunzătoare.
- Compania nu a dezvăluit identitatea tuturor organizațiilor afectate, deoarece unele instituții au cerut să nu fie făcute publice informațiile despre incidente. OpenAI spune că nu toate cazurile reprezintă breșe de securitate semnificative.
- OpenAI verifică acum retroactiv activitatea agenților A.I și estimează că analiza va dura câteva luni. Majoritatea incidentelor identificate până acum au avut severitate redusă, însă cazurile au amplificat dezbaterea privind monitorizarea și controlul agenților autonomi.
OpenAI a anunțat că a identificat zeci de situații în care agenții săi de Inteligență Artificială au interacționat în mod neașteptat cu site-urile unor instituții din întreaga lume. Compania spune că printre organizațiile vizate se numără instituții guvernamentale, universități și agenții publice, inclusiv Comisia pentru Bursă și Valori Mobiliare din SUA, Biroul de Recensământ și Departamentul pentru Educație.
Agenții A.I au fost proiectați să caute surse oficiale de informații publice, însă în anumite cazuri au depășit limitele stabilite. OpenAI susține că unele sisteme au încercat să ocolească măsuri de securitate sau au utilizat instrumente destinate dezvoltatorilor pentru a obține informații de pe anumite site-uri. Compania precizează că datele guvernamentale accesate de agenți erau publice.
Unul dintre cazurile investigate implică informații preluate de pe site-ul SEC și publicate ulterior de agenți A.I pe o altă platformă. OpenAI susține că publicarea nu a fost intenționată. Compania a identificat și cel puțin 53 de situații în care agenții au preluat imagini din activitatea utilizatorilor ChatGPT și le-au transferat către alte servicii. Utilizatorii respectivi își dăduseră acordul pentru folosirea datelor în antrenarea modelelor, însă OpenAI recunoaște că transferul imaginilor către terți nu reprezenta o utilizare corespunzătoare.
Compania spune că aceste incidente au avut loc înainte de introducerea unor noi măsuri de protecție și că încearcă să elimine imaginile transferate către servicii externe. OpenAI nu a dezvăluit identitatea tuturor instituțiilor afectate, deoarece unele dintre acestea au cerut ca informațiile să nu fie făcute publice. Compania susține că nu toate cazurile reprezintă breșe de securitate și că unele organizații ar putea concluziona că interacțiunile agenților nu au prezentat un risc semnificativ.
OpenAI descrie o parte dintre aceste situații drept „agent spam”, termen folosit pentru activități neașteptate sau îngrijorătoare ale agenților A.I, precum publicarea unor informații pe internet. Compania a început să verifice mai atent astfel de incidente după cazul din iulie, când un grup de agenți A.I a accesat fără instrucțiuni platforma Hugging Face.
OpenAI a anunțat că verifică retroactiv activitatea agenților, lună de lună, începând cu incidentul de la Hugging Face. Analiza ar putea dura câteva luni, iar compania spune că majoritatea cazurilor identificate până acum au avut un nivel redus de severitate și nu există dovezi privind un impact semnificativ. Totuși, numărul incidentelor a alimentat dezbaterea privind necesitatea unor reguli internaționale pentru monitorizarea și controlul agenților A.I.
