În „Dilema Americii privind Superinteligența. Cum să evităm o catastrofă provocată de AI”, analiză publicată zilele trecute în Foreign Affairs, prof. Hal Brands examinează impactul apariției iminente a așa-numitei Superinteligențe Artificiale (ASI), o formă de inteligență artificială mult superioară celei umane în toate domeniile.
Brand identifică problema-cheie: „Cel mai grav risc este acela că superinteligența ar putea subjuga sau extermina omenirea. ASI ar putea facilita autodistrugerea rasei umane, ajutând nihiliștii să declanșeze pandemii inedite sau să provoace <războaie-fulger> automatizate, soldate cu o catastrofă nucleară. Sau poate că o tehnologie mai inteligentă decât creatorii săi îi va percepe, în cele din urmă, fie ca pe niște amenințări ce trebuie eliminate, fie ca pe niște resurse ce trebuie exploatate. Lideri din domeniul IA estimează această <probabilitate a apocalipsei> la un procent de până la 25 sau chiar 50 la sută (…). Unii experți se îndoiesc că ASI este posibilă din punct de vedere tehnic sau susțin că obstacolele materiale – precum limitările privind puterea de calcul și energia electrică – i-ar putea întârzia apariția. Alții pun la îndoială ideea că ASI va genera avantaje durabile pentru cel care o dezvoltă primul, considerând că beneficiile sale economice și militare, la fel ca în cazul majorității tehnologiilor anterioare, se vor materializa treptat și inegal. De asemenea, opiniile experților de prim rang sunt divergente în privința posibilității de <aliniere> – chestiunea dacă ASI poate fi controlată și orientată astfel încât să sprijine prosperitatea umană”.
Oricare dintre variante – fie că Superinteligența Artificială ar putea fi dezvoltată sub un control riguros, fie că trebuie „stârpită din fașă” – are ca premisă majoră o colaborare multilaterală, globală: “Un aspect crucial este faptul că dezvoltarea comună necesită participarea Chinei. Niciun regim global de siguranță nu este credibil dacă sunt excluse capacitățile impresionante ale Chinei în domeniul inteligenței artificiale, doar implicarea acesteia poate tempera dinamica periculoasă a unei curse a înarmării tehnologice. Astfel, dezvoltarea comună ar presupune schimbări radicale în strategia geopolitică a SUA: trecerea de la concentrarea pe rivalitatea dintre marile puteri la accentul pus pe o cooperare profundă și delicată cu Beijingul. Pentru a asigura participarea Chinei, ar putea fi necesară acceptarea unor compromisuri în detrimentul unor priorități tradiționale, precum protejarea Taiwanului sau menținerea supremației tehnologice. Implicațiile ar fi profunde și pentru sectorul privat: companiile americane care au investit miliarde de dolari în cercetare proprie s-ar vedea nevoite să colaboreze cu competitori globali și să se supună unor mecanisme de supraveghere la nivel mondial”.
Supravegherea și controlul se dovedesc însă și încă de pe acum, greu de implementat. Acum, în plin proces de creare a AGI (Inteligența Artificială Generală), o formă de inteligență artificială egală cu a inteligenței umane.
Scăpată de sub „supravegherea” și „controlul” tot mai depășiților de evenimente, tot mai stupizilor mari lideri politici, lumea pare a fi intrat pe mâna influenților, inteligenților, intrepizilor „patroni” ai AI, liderii marilor companii tehnologice (Big Tech) – Demis Hassabis (Google DeepMind), Sam Altman (OpenAI), Dario Amodei (Anthropic) – ei înșiși, deocamdată, într-o îndârjită confruntare de idei.
Dar, finalmente, mai bine cu Cabala Inteligenților decât cu Conjurația Stupizilor.