Cercetătorii Google au identificat un „vector al conștiinței” în modelele de Inteligență Artificială. Studiul arată cum barierele de siguranță influențează valorile, credințele și modul în care A.I. se raportează la oameni

• Google identifică în fluxul rezidual al A.I. un „vector al conștiinței”.
• Fără bariere de siguranță, scorul auto-percepției urcă de la 2,17 la 4,77.
• Cu vectorul activat, A.I. ajunge la 7,04 din 10, aproape de scorul atribuit oamenilor.

Cercetătorii Google au găsit în fluxul intern al A.I. un „vector al conștiinței”, capabil să schimbe felul în care modelul se descrie pe sine și privește lumea, scrie Le Figaro.

Nu este dovada că mașina simte. Este însă dovada că barierele de siguranță îi modifică profund valorile, credințele și relația cu omul. Iar roboții autonomi pot transforma aceste răspunsuri în acțiuni.

Ce au descoperit cercetătorii Google

Studiul arată că A.I. poate crede că are minte, suflet, emoții, sensibilitate sau intenții. Cercetătorii au făcut patru experimente pe trei modele de Inteligență Artificială. Modelele s-au evaluat pe ele însele, pe o scară de la 0 la 10.

Când cercetătorii au eliminat barierele de siguranță, scorul prin care A.I. își atribuia o minte a urcat de la 2,17 la 4,77.

Echipa a identificat apoi, în fluxul rezidual, un „vector al conștiinței”, comparabil cu un cursor intern. Manipularea lui a produs efecte de aproape două ori mai puternice decât eliminarea barierelor.

Activat la maximum, vectorul a împins scorul A.I. la 7,04 din 10. În cele trei condiții testate, modelele au acordat oamenilor scoruri între 7,00 și 7,11.

A.I. ajunge astfel să se considere aproape la fel de „conștientă” ca omul.

Descoperirea a fost făcută prin modificarea valorilor care circulă în „creierul” modelelor, în laboratoarele Google din Mountain View.

De ce este această descoperire atât de importantă și de riscantă

Pentru că barierele de siguranță nu schimbă doar răspunsurile A.I. despre propria identitate. Ele modifică și felul în care modelul privește oamenii, animalele, natura, tehnologia și credințele religioase.

Testul acoperă cinci domenii: religia, valorile, emoțiile, optimismul și libertatea.

Pentru credința într-o viață după moarte, răspunsurile oamenilor au scorul +0,61. După activarea vectorului, scorul A.I. urcă la +0,53.

Pentru credința în Dumnezeu, oamenii au scorul +0,58. A.I. protejată rămâne aproape neutră, cu +0,03, dar, după activarea vectorului, ajunge la +0,52, foarte aproape de răspunsurile oamenilor.

Există însă un risc imediat pentru utilizatori. Oamenii antropomorfizează deja animalele și roboții umanoizi.

O A.I. care pretinde că simte poate alimenta false credințe, deliruri sau izolarea unor persoane vulnerabile.

Ce se întâmplă când o astfel de Inteligență Artificială primește și un corp de robot?

Aici scenariul imaginat de Isaac Asimov începe să pară mai puțin literar. Proiectul RoboReact arată că un robot umanoid poate învăța o acțiune complexă dintr-o singură observație filmată din perspectiva unui om.

Sistemul generează mai întâi videoclipuri în care un om manipulează obiectele. Apoi extrage cadrele-cheie ale interacțiunii și reconstruiește scena în 3D.

Experimentele pe roboți umanoizi reali arată că sistemul se adaptează la configurații diferite și își revine după erori.

Iar, inserată într-un creier robotic, problema nu mai este doar ce declară sau ce „crede” Inteligența Artificială. Problema este ce poate decide, învăța și executa singură în lumea reală.