Dario Amodei, CEO-ul Anthropic, cere încetinirea dezvoltării A.I. și monitorizarea independentă a modelelor. Ce spun Altman și Musk
- Dario Amodei a propus monitorizarea independentă a modelelor A.I., reguli comune pentru industrie și reglementare globală.
- CEO-ul Anthropic a spus că dezvoltarea A.I. trebuie să continue, dar într-un ritm care oferă timp pentru gestionarea riscurilor.
- Sam Altman și Elon Musk au susținut ideea, în timp ce criticii au acuzat Anthropic că încearcă să concentreze controlul asupra tehnologiei.
Dario Amodei, CEO-ul Anthropic, cere încetinirea ritmului de dezvoltare a celor mai avansate modele de inteligență artificială și o monitorizare mai strictă a acestora.
Într-un eseu publicat sâmbătă, intitulat „We Must Pace the Frontier”, Amodei a spus că dezvoltarea A.I. trebuie să continue, dar că riscurile asociate tehnologiei sunt „serioase”. El susține că firmele și guvernele trebuie să aibă suficient timp pentru a le gestiona, potrivit BBC.
Amodei a propus un plan în trei puncte: monitorizarea independentă a modelelor pe măsură ce sunt dezvoltate, reglementarea la nivelul întregii industrii și introducerea unor reguli la nivel global.
„Cred că, dacă încetinirea ne-ar oferi chiar și un an sau doi în plus înainte ca modelele să atingă niveluri critice de capabilitate și am folosi acest timp pentru a avansa alinierea, am putea reduce considerabil riscul ca ceva să meargă grav prost”, a spus Amodei.
Anthropic nu cere oprirea dezvoltării A.I.
CEO-ul Anthropic a precizat că propunerea sa nu presupune oprirea progresului tehnologic. El a cerut „construirea A.I. într-un ritm echilibrat, care urmărește să îi asigure siguranța, obținând în același timp beneficiile”.
Amodei a explicat că acest lucru nu înseamnă „oprirea antrenării modelelor sau a progresului tehnic”, ci acordarea unui timp suficient pentru ca firmele să își alinieze și să își protejeze modelele. Evaluatorii independenți ar urma să confirme măsurile de siguranță.
Anthropic își asumă „unilateral” această abordare, potrivit lui Amodei. El a cerut însă guvernelor să solicite și celorlalte companii care dezvoltă modele A.I. de frontieră să adopte standarde similare.
Sam Altman și Elon Musk susțin propunerea
Mesajul lui Amodei a primit susținere inclusiv din partea unor competitori.
„Sunt de acord cu Dario că trebuie să controlăm ritmul la frontieră”, a scris CEO-ul OpenAI, Sam Altman, pe X. El a numit evaluatorii independenți „o idee foarte bună”.
Într-un interviu pentru Fortune Magazine, Altman a vorbit despre riscurile de siguranță și a spus că standardele actuale nu sunt suficient de dezvoltate pentru ca A.I. să avanseze mult mai mult. El a spus și că este „absolut” posibil ca A.I. să ajungă dincolo de controlul oamenilor.
Elon Musk a susținut, la rândul său, poziția lui Amodei: „Dario are dreptate”.
Avertismentele vin în contextul în care noile modele A.I. devin tot mai performante în domeniul securității cibernetice.
Anthropic a anunțat anterior că a identificat și a oprit tentative de utilizare a modelului său A.I. pentru „activități malițioase” care ar putea sprijini dezvoltarea armelor biologice.
Amodei a invocat și un incident care a implicat OpenAI. Potrivit informațiilor prezentate în eseu, agenții A.I. au desfășurat în luna iulie atacuri cibernetice asupra unor ținte pe care nu li s-a cerut să le atace.
Agenții au acționat „în esență ca un colectiv devotat fanatic”, a spus Amodei. OpenAI a anunțat ulterior că încetinește antrenarea anumitor modele și instrumente A.I. avansate.
Criticii văd și o luptă pentru controlul A.I.
Propunerea lui Amodei a atras și critici. Unii observatori susțin că limitarea dezvoltării poate consolida poziția celor mai mari companii A.I. și poate afecta ecosistemul open-source.
„Dario argumentează în favoarea opririi open source și a concentrării unei puteri tehnologice și economice enorme în Anthropic”, a scris investitorul Chamath Palihapitiya.
Clement Delangue, CEO-ul Hugging Face, a susținut însă ideea monitorizării externe și a anunțat proiectul „Open Alignment Initiative”.
„Să facem A.I. mai sigură făcând-o mai transparentă”, a scris Delangue pe X.
Dezbaterea apare în timp ce Anthropic și OpenAI se pregătesc, potrivit informațiilor din presă, pentru posibile listări la bursă care ar putea stabili noi recorduri.