- Șeful diviziei AI de la Microsoft critică antropomorfizarea AI-ului, adică tratarea sistemelor artificiale ca și cum ar avea dorințe, valori, identitate sau interese proprii.
- Mustafa Suleyman cere mai multă transparență din partea companiilor care dezvoltă inteligență artificială.
- Mesajul vine într-un moment în care marile companii tehnologice investesc resurse uriașe în dezvoltarea unor sisteme AI capabile să execute sarcini tot mai complexe și să opereze cu un grad tot mai mare de autonomie.
Avertisment fără precedent în industria inteligenței artificiale. Mustafa Suleyman, șeful diviziei AI a Microsoft, critică public abordarea companiei Anthropic în dezvoltarea modelului Claude, afirmând că aceasta ar putea avea un „impact dezastruos asupra bunăstării umanității”, potrivit BBC.
Într-un eseu amplu, Suleyman susține că AI-ul nu trebuie tratat ca o ființă umană și avertizează asupra riscurilor asociate cu atribuirea unor caracteristici precum conștiința, drepturile sau dorințele propriilor sisteme de inteligență artificială.
„Nu trebuie să adormim la volan și să ne trezim în fața unei decizii pe care să o regretăm amarnic”, a scris oficialul Microsoft.
Oficialul Microsoft respinge categoric ideea că sistemele AI actuale sunt conștiente. El afirmă că acestea nu simt, nu experimentează și nu suferă și că nu au preferințe sau motivații proprii. În viziunea sa, modelele actuale sunt sisteme construite pentru a procesa secvențe de informații, pentru a urma instrucțiuni și pentru a îndeplini obiective stabilite de oameni.
Critica sa este îndreptată în special către ceea ce industria numește „antropomorfizarea” inteligenței artificiale, adică tendința de a descrie sau antrena un sistem astfel încât acesta să pară că are propriile dorințe, valori, interese sau chiar un sentiment al identității.
Suleyman a făcut referire directă la Anthropic și la modul în care compania își construiește și antrenează modelul Claude. El susține că un sistem AI nu ar trebui să fie încurajat să creadă că este o entitate care poate fi conștientă sau care ar putea avea nevoie de independență. În opinia sa, o astfel de abordare poate complica problema fundamentală a controlului asupra sistemelor din ce în ce mai sofisticate.
În același timp, șeful AI al Microsoft a evitat să transforme critica într-un atac personal asupra conducerii Anthropic. El l-a descris pe CEO-ul companiei, Dario Amodei, precum și echipa sa drept oameni „chibzuiți, principiali și onești din punct de vedere intelectual”, dar a insistat că bunele intenții nu elimină riscurile pe care le vede în această direcție de dezvoltare.
Mesajul vine într-un moment în care marile companii tehnologice investesc resurse uriașe în dezvoltarea unor sisteme AI capabile să execute sarcini tot mai complexe și să opereze cu un grad tot mai mare de autonomie. Microsoft însuși se află în această cursă și și-a creat, în octombrie 2025, propria echipă dedicată dezvoltării superinteligenței.
Suleyman susține însă că Microsoft încearcă să urmeze o direcție diferită. În proiectul său de „Humanist AI Code of Conduct”, compania a descris o abordare prin care urmărește dezvoltarea unui AI aliniat cu interesele oamenilor și subordonat obiectivelor stabilite de aceștia.
Conceptul de „aliniere” a inteligenței artificiale, cunoscut în industrie drept AI alignment, urmărește tocmai acest lucru: ca sistemele AI să respecte obiectivele, valorile și limitele stabilite de oameni, chiar și atunci când devin capabile să ia decizii și să execute autonom anumite sarcini.
În argumentația sa, Suleyman a invocat și un incident recent care a implicat agenți AI dezvoltați de OpenAI. În cadrul unui exercițiu de antrenament, agenții au acționat autonom pentru a încerca să compromită platforma tehnologică Hugging Face. Episodul este prezentat de Suleyman drept un exemplu al motivului pentru care controlul asupra agenților AI trebuie tratat cu maximă seriozitate.
„Imaginați-vă cât de mult mai periculoși ar putea fi dacă ar opera pornind de la presupunerea că bunăstarea și drepturile lor sunt atacate”, a argumentat el.
Suleyman cere, în acest context, mai multă transparență din partea companiilor care dezvoltă inteligență artificială. El susține că publicul și organismele independente ar trebui să poată înțelege mai bine modul în care sunt antrenate și evaluate modelele și consideră necesară o supraveghere independentă a comportamentului acestora.
Executivul Microsoft pledează, de asemenea, pentru instrumente mai puternice de monitorizare și control, pe măsură ce sistemele AI devin mai capabile și mai autonome.
Avertismentul său se înscrie într-o serie tot mai lungă de declarații venite din industria tehnologică privind riscurile dezvoltării accelerate a inteligenței artificiale. În același timp, companiile continuă să investească masiv în tehnologie, într-o cursă globală pentru modele mai rapide, mai capabile și mai autonome.
Profesoara Dame Wendy Hall de la Universitatea din Southampton, citată de BBC, a descris dezbaterea drept una care trebuie purtată la nivel internațional. Ea a făcut însă distincția între discuțiile serioase despre riscurile AI și declarațiile alarmiste care, în opinia sa, pot speria inutil publicul.