Senatorul Warner, vicepreşedintele Comisiei de Informaţii din Senat: A.I. „Mythos” al lui Anthropic a putut pătrunde în „aproape toate sistemele noastre clasificate”, în „ore nu în săptămâni”

• Senatorul Warner, vicepreşedintele Comisiei de Informaţii din Senat: A.I. „Mythos” al lui Anthropic a putut pătrunde în „aproape toate sistemele noastre clasificate”, în „ore nu în săptămâni”.
• Amploarea presupusului compromis rămâne neclară şi nu au fost făcute publice detalii despre modul în care Mythos a obţinut acces sau ce sisteme au fost afectate, mai arată sursa citată.
• Mythos este unul dintre cele mai recente modele Anthropic dezvoltate ca parte a sistemului său AI mai larg numit Claude.

Potrivit The Economist, senatorul Mark Warner (D-VA), vicepreşedintele Comitetului de Informaţii din Senat, a declarat pe 11 iunie că generalul Joshua Rudd, director al Agenţiei de Securitate Naţională (NSA) şi al comandamentului cibernetic al SUA, i-a spus că modelul de inteligenţă artificială (AI) al lui Anthropic „Mythos” a putut pătrunde în „aproape toate sistemele noastre clasificate”, mai degrabă „în ore decât în săptămâni”.

Amploarea presupusului compromis rămâne neclară şi nu au fost făcute publice detalii despre modul în care Mythos a obţinut acces sau ce sisteme au fost afectate, mai arată sursa citată.

Afirmaţia este deosebit de importantă, având în vedere rapoartele conform cărora NSA a continuat să folosească tehnologia antropică în ultimele luni, în ciuda directivei preşedintelui Trump din februarie care ordona agenţiilor federale să înceteze să mai folosească produse antropice, scrie Monitorul Apărării și Securității.

De asemenea, vine pe fondul restricţiilor recente ale guvernului SUA privind capacitatea Anthropic de a exporta modelul, invocând preocupări de securitate naţională.

Ce este Mythos

Mythos este unul dintre cele mai recente modele Anthropic dezvoltate ca parte a sistemului său AI mai larg numit Claude. Acesta cuprinde asistentul AI al companiei şi familia de modele, rivalizând cu ChatGPT de la OpenAI şi Gemini de la Google.

A fost dezvăluit de Anthropic la începutul lunii aprilie ca „Mythos Preview”. Cercetătorii care testează modul în care modelele AI gestionează anumite solicitări sau sarcini, cunoscute sub denumirea de „echipe roşii”, au spus într-un raport că Mythos a fost „surprinzător de capabil în sarcinile de securitate a computerului”, arată BBC.

Ei au descoperit că instrumentul ar putea localiza bug-uri latente care pândesc în cod vechi de zeci de ani şi să le exploateze cu uşurinţă.

Deci, în loc să-l facă disponibil pe scară largă utilizatorilor Claude, Anthropic a dat acces la 12 companii de tehnologie prin Proiectul Glasswing, pe care l-a descris drept „un efort de a securiza cel mai critic software din lume”.

Printre acestea se numără gigantul de cloud computing Amazon Web Services, producătorii de dispozitive Apple, Microsoft şi Google şi producătorii de cipuri Nvidia şi Broadcom.

Crowdstrike, a cărui actualizare defectuoasă a software-ului a provocat o întrerupere globală majoră în iulie 2024, se numără, de asemenea, printre partenerii proiectului, Anthropic afirmând că a dat, de asemenea, acces la Mythos la peste 40 de organizaţii responsabile de software critic.

Într-un videoclip lansat odată cu lansarea Proiectului Glasswing, şeful Anthropic, Dario Amodei, a spus că s-a oferit să lucreze cu oficialii guvernamentali americani pentru a „ajuta la apărarea împotriva riscului acestor modele”.

BBC: De ce există îngrijorări?

Anthropic spune că în timpul testelor a descoperit că modelul era foarte calificat în sarcini de securitate cibernetică şi de hacking, depăşind oamenii.