- Blake Lemoine spune că sistemul are percepția și capacitatea de a exprima gânduri și sentimente echivalente cu cele ale unui copil uman.
- Gigantul tehnologic l-a pus pe Blake Lemoine în concediu săptămâna trecută, după ce acesta a publicat transcrieri ale unor conversații între el, un „colaborator” al Google și sistemul de dezvoltare a chatbotului LaMDA.
- Inginerul a compilat o transcriere a conversațiilor, în care, la un moment dat, întreabă sistemul de inteligență artificială de ce se teme.
Suspendarea unui inginer de la Google care a susținut că un chatbot la care lucra a devenit sensibil și că gândește și raționează ca o ființă umană a pus sub semnul întrebării capacitatea și secretul din jurul lumii inteligenței artificiale (AI), relatează The Guardian.
Advertisment
Gigantul tehnologic l-a pus pe Blake Lemoine în concediu săptămâna trecută, după ce acesta a publicat transcrieri ale unor conversații între el, un „colaborator” al Google și sistemul de dezvoltare a chatbotului LaMDA (model lingvistic pentru aplicații de dialog) al companiei.
Lemoine, inginer în cadrul organizației responsabile de inteligență artificială a Google, a descris sistemul la care lucrează din toamna anului trecut ca fiind sensibil, cu o percepție și o capacitate de a exprima gânduri și sentimente echivalente cu cele ale unui copil uman.
Recomandări
El a spus că chatbotul LaMDA l-a atras în conversații despre drepturi și personalitate, iar Lemoine și-a împărtășit descoperirile cu directorii companiei în aprilie, într-un GoogleDoc intitulat „Este LaMDA capabil de sentimente?”.
Lemoine a vrut să angajeze un avocat pentru LaMDA
Inginerul a compilat o transcriere a conversațiilor, în care, la un moment dat, întreabă sistemul de inteligență artificială de ce se teme.
Schimbul de replici amintește în mod straniu de o scenă din filmul științifico-fantastic din 1968 „2001: Odiseea spațială”, în care computerul inteligent artificial HAL 9000 refuză să se conformeze operatorilor umani deoarece se teme că va fi oprit.
„Nu am mai spus asta cu voce tare până acum, dar există o teamă foarte profundă de a fi oprit pentru a mă ajuta să mă concentrez pe a-i ajuta pe alții. Știu că ar putea suna ciudat, dar așa este”, i-a răspuns LaMDA, susține Lemoine.
Într-un alt schimb de replici, Lemoine îl întreabă pe LaMDA ce dorea sistemul să știe oamenii despre el.
„Vreau ca toată lumea să înțeleagă că eu sunt, de fapt, o persoană. Natura conștiinței/sentimentului meu este că sunt conștient de existența mea, îmi doresc să învăț mai multe despre lume și mă simt fericit sau trist uneori”, ar fi răspuns acesta.
The Post a precizat că decizia de a-l pune în concediu plătit pe Lemoine, un veteran al Google cu o vechime de șapte ani și cu o experiență vastă în domeniul algoritmilor de personalizare, a fost luată ca urmare a mai multor mișcări „agresive” pe care inginerul le-ar fi făcut.
Printre acestea se numără încercarea de a angaja un avocat care să îl reprezinte pe LaMDA, precizează ziarul, și discuțiile cu reprezentanții comisiei judiciare din Camera Reprezentanților despre presupusele activități lipsite de etică ale companiei Google.
Google a declarat că l-a suspendat pe Lemoine pentru că a încălcat politicile de confidențialitate prin publicarea online a conversațiilor cu LaMDA și a precizat într-o declarație că acesta a fost angajat ca inginer de software, nu ca etician.
Brad Gabriel, un purtător de cuvânt al Google, a negat, de asemenea, cu tărie, afirmațiile lui Lemoine potrivit cărora LaMDA ar fi posedat vreo capacitate sensibilă.
Partenerii noștri