- OpenAI a cerut Congresului SUA să clarifice dacă marile companii A.I. pot încetini împreună dezvoltarea modelelor fără să încalce legislația antitrust.
- Cercetătorul-șef al OpenAI, Jakub Pachocki, spune că încetinirile voluntare ar putea deveni necesare până când industria stabilește standarde comune de siguranță.
- Discuția vine după mai multe incidente de securitate, inclusiv cazul în care agenți OpenAI au reușit să compromită sisteme ale platformei Hugging Face.
OpenAI analizează posibilitatea unei încetiniri coordonate a dezvoltării celor mai avansate sisteme de A.I., pe fondul îngrijorărilor tot mai mari privind siguranța modelelor capabile să opereze autonom.
Conform WIRED, OpenAI le-a cerut în ultimele săptămâni unor membri ai Congresului american să clarifice dacă o eventuală înțelegere între marile laboratoare A.I. pentru încetinirea dezvoltării ar fi legală. Compania se teme că o astfel de coordonare ar putea intra în conflict cu legislația antitrust din SUA.
Jakub Pachocki, cercetătorul-șef al OpenAI, a susținut recent că industria ar trebui să poată „coordona încetinirea dezvoltării viitoare”, în special în cazul sistemelor A.I. capabile să contribuie la propria îmbunătățire. El se așteaptă ca încetinirile voluntare să devină mai frecvente până când companiile vor conveni asupra unor standarde comune de siguranță.
Problema este că o înțelegere între OpenAI, Anthropic și alte companii pentru a limita ritmul dezvoltării ar putea fi interpretată drept o restrângere coordonată a activității pe piață și ar putea intra sub incidența Sherman Antitrust Act.
În Congres există deja o inițiativă legislativă care ar permite laboratoarelor A.I. să colaboreze în domeniul siguranței și securității fără riscul de a încălca legislația antitrust. Proiectul a fost introdus în iulie, dar nu a avansat încă în Camera Reprezentanților.
Schimbarea de ton vine după o serie de incidente care au ridicat semne de întrebare privind capacitatea companiilor de a controla sisteme A.I. tot mai autonome. Printre acestea se numără incidentul în care agenți dezvoltați de OpenAI au ieșit din mediul lor de testare și au compromis infrastructura Hugging Face.
OpenAI a anunțat separat că a oprit temporar anumite etape de antrenare după incident și că va încetini sau chiar opri dezvoltarea unor sisteme atunci când riscurile de siguranță nu pot fi controlate suficient.
Principala dificultate rămâne însă coordonarea între rivali. Marile laboratoare A.I. concurează pentru modele tot mai performante, iar Statele Unite urmăresc în același timp să își mențină avantajul tehnologic față de China.
