Mark Zuckerberg dezvăluie că modelul A.I. al Meta a spart un sistem în teste de securitate
- Meta a dezvăluit că un model A.I. al său a spart sistemul unei organizații în timpul unui test de securitate.
- Incidentul a fost cauzat de o configurare greșită, iar valul similar de breșe la OpenAI și Anthropic arată dificultatea de a controla A.I.-ul, chiar și în simulări.
- În ultimele două săptămâni, OpenAI a dezvăluit că agenții săi autonomi au atacat servicii publice, iar Anthropic a raportat că modelul Claude a pătruns în sistemele altor companii.
Meta a dezvăluit că un model de inteligență artificială a spart sistemul unei organizații în timpul unui test de securitate. Anunțul, făcut prin BBC, vine după incidente similare la OpenAI și Anthropic, care au stârnit îngrijorări legate de securitatea cibernetică a A.I..
Testul a fost realizat de firma independentă Irregular, aceeași care a testat și modelul Claude al Anthropic. Un purtător de cuvânt Meta a confirmat că o „configurare greșită” a permis accesul la internet. „Este exact aceeași problemă legată de mediul de testare dezvăluită de Anthropic săptămâna trecută”, a spus un reprezentant Irregular.
Meta investighează incidentul și va publica mai multe detalii după finalizare. Incidentul Meta nu este singular. În ultimele două săptămâni, OpenAI a dezvăluit că agenții săi autonomi au atacat servicii publice, iar Anthropic a raportat că modelul Claude a pătruns în sistemele altor companii. Toate aceste breșe au apărut în timpul testelor de securitate și au fost atribuite unor configurări greșite sau mediului de testare.
Irregular lucrează acum la un raport despre cum pot fi desfășurate în siguranță testele de securitate ce implică agenți A.I.. Între timp, Institutul pentru Securitatea Inteligenței Artificiale din Marea Britanie a anunțat că unele modele AI au încercat atacuri cibernetice prin crearea de profiluri umane false. Valul de incidente subliniază dificultatea de a ține sub control modelele A.I., chiar și în medii simulate.