- Tehnologia inteligenței artificiale este probabil să devină „imposibil de controlat” și să aibă consecințe devastatoare pentru omenire, au avertizat cercetătorii.
- Este de temut că sistemele de inteligență artificială scăpate de sub control vor evolua odată ce vor învăța că pot încălca regulile stabilite de creatorii lor.
- Inteligența artificială va ajunge, se pare, în punctul în care va fi nevoită să concureze pentru energie sau resurse limitate, au scris luna trecută cercetătorii de la Google și de la Universitatea Oxford în revista AI Magazine.
Tehnologia inteligenței artificiale este probabil să devină „imposibil de controlat” și să aibă consecințe devastatoare pentru omenire, au avertizat cercetătorii. Este de temut că sistemele de inteligență artificială scăpate de sub control vor evolua odată ce vor învăța că pot încălca regulile stabilite de creatorii lor.
Inteligența artificială va ajunge, se pare, în punctul în care va fi nevoită să concureze pentru energie sau resurse limitate, au scris luna trecută cercetătorii de la Google și de la Universitatea Oxford în revista AI Magazine.
Michael Cohen, cercetător la Oxford, a declarat: „În condițiile, pe care le-am identificat, concluzia noastră este mult mai puternică decât cea a oricărei publicații anterioare. O catastrofă existențială nu este doar posibilă, ci și probabilă.”
Cohen a efectuat cercetarea alături de colegul său de la Oxford, Michael Osborne, și de Marcus Hutter, cercetător senior la laboratorul de inteligență artificială DeepMind al Google. Aceștia susțin că oamenii ar putea fi uciși de „agenți nealiniați” super-avansați, după ce vor crede că le stăm în calea recompensei lor.
În document se spune: „O modalitate bună pentru ca un agent să mențină controlul pe termen lung asupra recompensei sale este de a elimina potențialele amenințări și de a folosi toată energia disponibilă pentru a-și securiza calculatorul”. Acesta a adăugat: „Pierderea acestui meci ar fi fatală”.
Și ca lucrurile să fie și mai rele, nu putem face prea multe în această privință. Cohen a declarat pentru Motherboard într-un interviu: „Într-o lume cu resurse infinite, aș fi extrem de nesigur în legătură cu ceea ce s-ar întâmpla”, a declarat Cohen pentru Motherboard.
„Și dacă ești într-o competiție cu ceva capabil să te depășească la fiecare pas, atunci nu ar trebui să te aștepți să câștigi”.
Lucrarea concluzionează că omenirea ar trebui să progreseze încet cu tehnologiile de inteligență artificială. Armata din întreaga lume dezvoltă deja tehnologii pentru a purta războaie cu o precizie mortală.
De exemplu, se pare că Rusia și SUA produc avioane militare fără pilot și tancuri care pot ținti inamicii fără implicarea umană. Recent, s-a relatat cum multi-miliardarul Elon Musk spune că oamenii ar putea face un pas spre nemurire datorită unui robot umanoid care într-o zi va permite oamenilor să descarce amintiri și personalități.
Și atunci, robotul Tesla Bot – prezentat pentru prima dată de compania lui Musk în august 2021 – ar putea intra în producție încă de anul viitor, susține el. Optimus, descris de Musk ca fiind „cea mai importantă dezvoltare”, va începe în viață ca un droid muncitor, dar posibilitățile sale înseamnă că într-o zi ar putea fi descărcate în el funcții cerebrale, odată ce tehnologia va fi disponibilă.