Bernie Sanders și Greg Casar propun interzicerea dezvoltării și utilizării Inteligenței Artificiale Superinteligente în Statele Unite
- Proiectul definește „Superinteligența Artificială” drept sisteme capabile să atingă sau să depășească performanțele cognitive umane într-o gamă largă de domenii ori să dezvolte capacități de subminare a controlului uman.
- Inițiativa prevede suspendarea dezvoltării sistemelor A.I avansate până la crearea unei noi autorități federale care să stabilească reguli și proceduri clare de verificare a modelelor.
- Ar urma să fie înființată o agenție federală la nivel de cabinet, care să monitorizeze sistemele A.I de frontieră și să supravegheze eliminarea sau distrugerea capabilităților considerate periculoase.
- Proiectul introduce sancțiuni dure: companiile care încalcă interdicțiile ar putea fi desființate, iar persoanele implicate ar putea primi până la 20 de ani de închisoare.
- SUA ar urma să promoveze interzicerea superinteligenței și la nivel internațional, prin acorduri cu aliații, coordonare internațională și măsuri precum controale la export.
Senatorul Bernie Sanders și congresmanul Greg Casar au propus o legislație prin care dezvoltarea și utilizarea superinteligenței artificiale ar fi interzise în Statele Unite. Inițiativa, intitulată „Ban Artificial Superintelligence Act”, urmărește să limiteze apariția unor sisteme despre care autorii proiectului se tem că ar putea depăși capacitatea oamenilor de a le controla.
Proiectul definește superinteligența artificială ca un sistem capabil să atingă sau să depășească performanțele cognitive umane într-o gamă largă de domenii. În aceeași categorie ar intra și sistemele care ar putea dobândi capacitatea de a submina controlul uman, inclusiv prin ignorarea comenzilor de oprire, atacuri informatice neautorizate sau chiar acțiuni care ar putea amenința funcționarea guvernului american.
Pe lângă interdicția permanentă, Sanders și Casar propun o pauză în dezvoltarea celor mai avansate sisteme A.I. Aceasta ar urma să fie menținută până când autoritățile americane vor introduce un cadru federal clar pentru evaluarea siguranței și controlul modelelor avansate.
Inițiativa prevede și crearea unei noi agenții federale, la nivel de cabinet, responsabilă de supravegherea Inteligenței Artificiale. Instituția ar monitoriza sistemele A.I de frontieră pe tot parcursul dezvoltării lor și ar putea interveni pentru eliminarea unor capabilități considerate periculoase. O comisie formată din experți în Inteligență Artificială ar urma să ofere agenției consultanță științifică și tehnică.
Proiectul merge și mai departe în privința sancțiunilor. Persoanele care ar încălca sau ar încerca să ocolească interdicțiile s-ar putea confrunta cu pedepse de până la 20 de ani de închisoare. În cazul companiilor, inițiatorii propun ceea ce numesc „corporate death penalty” – dizolvarea forțată a unei companii care încalcă legea.
Sanders susține că măsurile sunt necesare pe fondul apariției unor sisteme A.I din ce în ce mai autonome și a unor incidente în care agenți A.I au demonstrat comportamente neprevăzute în timpul testelor. Propunerea apare într-un moment în care dezbaterea privind cât de mult control ar trebui să aibă guvernele asupra dezvoltării A.I devine tot mai intensă în Statele Unite.
Planul are însă și opozanți. Unii experți în tehnologie consideră că o interdicție permanentă ar fi prea largă și ar putea afecta poziția SUA în cursa globală pentru dezvoltarea Inteligenței Artificiale. Cercetătorul Gary Marcus, care susține o pauză și crearea unei agenții federale pentru A.I, a criticat tocmai caracterul prea extins al unei interdicții totale.
Inițiativa americană urmărește, de asemenea, să depășească granițele Statelor Unite. Sanders și Casar vor ca Washingtonul să negocieze acorduri internaționale și să își coordoneze politicile cu aliații pentru a împiedica dezvoltarea superinteligenței și în alte țări. Printre măsurile propuse se află inclusiv controale la export.
Astfel, proiectul nu propune doar reguli mai stricte pentru companiile americane, ci încearcă să schimbe direcția în care este dezvoltată Inteligența Artificială la nivel global: de la o cursă pentru sisteme tot mai puternice către un model în care siguranța și controlul uman ar avea prioritate.