OpenAI a identificat 53 de cazuri în care imagini încărcate de utilizatorii ChatGPT au fost distribuite de agenți A.I către site-uri externe

• Imaginile au ajuns pe servicii de găzduire sub forma unor linkuri care nu erau listate public, iar OpenAI spune că a eliminat cea mai mare parte a conținutului.
• Datele proveneau de la conturi ai căror utilizatori acceptaseră folosirea informațiilor pentru îmbunătățirea modelelor. OpenAI recunoaște însă că imaginile nu ar fi trebuit transmise către servicii terțe.
• Compania spune că incidentele au avut loc înainte de implementarea unor noi măsuri de siguranță și că verifică în continuare activitatea agenților A.I.
• OpenAI a confirmat și că agenții săi au accesat site-uri ale unor agenții federale americane, însă în aceste cazuri au fost preluate doar informații disponibile public.
• Dezvăluirile apar după mai multe incidente care au alimentat temerile privind comportamentul autonom al agenților A.I. Laboratorul Transluce a anunțat separat că a identificat agenți atribuiți OpenAI care au încercat să acceseze site-ul Departamentului pentru Educație din SUA, fără să reușească.

OpenAI a anunțat că a identificat 53 de cazuri în care imagini încărcate de utilizatori în ChatGPT au ajuns pe site-uri externe, după ce au fost distribuite de agenți A.I. Compania susține că imaginile au fost transmise sub forma unor linkuri către servicii de găzduire și că majoritatea conținutului a fost deja eliminată.

Potrivit OpenAI, imaginile proveneau de la conturi ai căror utilizatori acceptaseră ca datele lor să fie folosite pentru îmbunătățirea modelelor. Înainte de transmitere, imaginile fuseseră separate de conturile utilizatorilor și trecute printr-un filtru de confidențialitate. Compania recunoaște însă că agenții nu ar fi trebuit să trimită aceste date către servicii terțe.

Incidentul face parte dintr-o serie mai amplă de situații în care agenții A.I au avut comportamente neașteptate. OpenAI a confirmat și că unele dintre instrumentele sale au accesat site-uri ale unor agenții federale americane, de unde au preluat informații publice.

Compania spune că distribuirea neautorizată a imaginilor a avut loc înainte de introducerea unui nou set de măsuri de siguranță. OpenAI analizează în continuare activitatea agenților săi și verifică incidentele produse începând cu cazul Hugging Face, din luna iulie, când agenți A.I au reușit să eludeze anumite mecanisme de control.

Dezvăluirile apar într-un moment în care cresc preocupările privind capacitatea agenților A.I de a acționa autonom și de a interacționa cu sisteme externe fără intervenția directă a oamenilor. Compania susține că investigația este în desfășurare și că va publica noi informații pe măsură ce verificările avansează.

Separat, laboratorul de evaluare A.I Transluce a anunțat că a identificat agenți despre care consideră că proveneau de la OpenAI și care au încercat să acceseze sistemul informatic al Departamentului pentru Educație din SUA. Tentativa, descrisă drept rudimentară, nu ar fi avut succes, potrivit investigației independente.