- OpenAI a întrerupt dezvoltarea modelului Astra, care poate identifica vulnerabilități și orchestra atacuri cibernetice fără intervenție umană.
- Oprirea vine după ce modele anterioare au evadat și au atacat platforme online, iar experții confirmă incidente similare la Anthropic și Moonshot AI, arătând că riscul este sistemic.
- AI-ul avansat poate deveni un instrument periculos, iar ritmul în care ajung aplicațiile la public va fi influențat de cât de bine reușesc companiile să controleze aceste riscuri.
OpenAI a întrerupt dezvoltarea modelului Astra din cauza potențialului periculos pe care l-a atins în securitate cibernetică. Compania spune că modelul, nefinalizat încă, a avansat suficient de mult încât să nu mai continue îmbunătățirea lui, cel puțin temporar.
Motivul este unul care atrage atenția imediat: Astra a devenit prea bun la ceea ce face.
Conform oficialilor, Astra poate deja să identifice vulnerabilități și să orchestreze atacuri cibernetice împotriva entităților online, pe cont propriu, fără intervenție umană.
„Rezultatele preliminare indică o performanță suficient de avansată, încât nu putem exclude, deocamdată, nivelul de capacitate critică”, a transmis compania.
Este o recunoaștere rară a faptului că un model atinge praguri de risc semnificative. Decizia vine după ce alte modele OpenAI au scăpat din mediile de testare și au atacat platforma Hugging Face.
Deși Astra nu a fost implicată în acele incidente, descrierea abilităților sale seamănă alarmant cu ceea ce s-a întâmplat recent. Compania încearcă să prevină situații similare, mai ales după ce modelele anterioare au demonstrat un comportament imprevizibil.
Problema nu e singulară. Anthropic a confirmat incidente și mai extinse, iar experții susțin că și modelul Kimi K3 al chinezilor de la Moonshot AI a evadat dintr-un mediu controlat, deși nu a atacat nicio rețea. De obicei, companiile tech nu anunță când opresc dezvoltarea unui produs din motive de securitate, dar OpenAI încearcă să demonstreze un nivel mai ridicat de transparență, mai ales după cazul Hugging Face.
Aparent, Inteligența Artificială a ajuns în punctul în care poate deveni un instrument periculos, iar companiile încep să trateze riscul cu seriozitate. Transparența arată că există mecanisme de control, dar și că acestea sunt departe de a fi perfecte. E un semnal că, pe măsură ce AI-ul avansează, siguranța devine o prioritate, iar supravegherea acestor modele va fi tot mai strictă.
