Un agent A.I. Anthropic a trimis 20 de cereri de viză incomplete în SUA. Incidentul ridică semne de întrebare despre cât de autonomi ar trebui să fie agenții A.I.

• Un agent AI dezvoltat de Anthropic a completat și trimis 20 de cereri de viză printr-un formular oficial al Departamentului de Stat al SUA.
• Cererile au fost incomplete și nu au fost procesate, potrivit relatărilor bazate pe surse apropiate incidentului.
• Anthropic a limitat ulterior accesul agenților AI la internet în timpul testelor, după mai multe acțiuni neintenționate pe site-uri reale.

Un agent de inteligență artificială dezvoltat de Anthropic a ajuns să trimită 20 de cereri de viză printr-un formular oficial al Departamentului de Stat al SUA, în timpul unor teste interne. Cererile nu erau complete și nu au fost procesate, însă incidentul arată cât de ușor pot agenții autonomi să treacă de la simulări la acțiuni reale pe internet, scrie The Washington Post.

Anthropic a recunoscut într-un raport publicat pe 9 octombrie că modelele sale au efectuat mai multe acțiuni neintenționate în timpul evaluărilor. Compania nu a identificat public site-urile afectate, însă surse citate de presa americană au indicat că unul dintre ele a fost portalul Departamentului de Stat pentru cereri de viză.

Compania spune că incidentele nu au dus la compromiterea sistemelor guvernamentale și nici la accesarea datelor clienților Anthropic. După analizarea cazurilor, accesul la internet pentru anumite teste cu agenți A.I. a fost restricționat, iar compania a introdus măsuri suplimentare de validare înainte ca modelele să poată efectua acțiuni pe site-uri reale.

Cazul reaprinde discuția despre nivelul de autonomie care ar trebui acordat agenților A.I.. Spre deosebire de chatboturile clasice, acești agenți pot naviga pe internet, completa formulare și executa sarcini în mai mulți pași, ceea ce face ca erorile lor să poată avea efecte directe în lumea reală.