• Musk a dezbătut cu Larry Page viitorul Inteligenței Artificiale la o petrecere organizată de Musk în 2015, în Napa Valley, iar apoi nu și-au mai vorbit.
  • The New York Times a discutat cu peste 80 de directori, oameni de știință și antreprenori, inclusiv două persoane care au participat la petrecerea de naștere a lui Musk în 2015, pentru a spune această poveste de ambiție, frică și bani.
  • Întrebarea dacă Inteligența Artificială va ajuta sau va distruge omenirea este subiectul unei dezbateri care continuă și acum la Silicon Valley, în rândul fondatorilor, utilizatorilor de chatboți, legiutorilor și autorităților de reglementare dacă această nouă tehnologie ar trebui controlată sau lăsată liberă.

În 2015, miliardarii lumii s-au strâns la o petrecere organizată de Musk, la aniversarea sa de 44 de ani. La acea petrecere, Elon Musk și Larry Page, prieteni de mai bine de un deceniu, au pornit primele dezbateri privind viitorul Inteligenței Artificiale și ce impact ar putea avea asupra omenirii – de elevare sau de distrugere, scrie The New York Times.

Page s-a arătat entuziasmat, vorbind despre o utopie digitală în care mai multe tipuri de inteligență ar concura unele cu celelalte, pe sistemul „cel mai bun să câștige”, în timp ce Musk a declarat că „dacă se întâmplă asta, omenirea este în pericol”.

Dezbaterea celor doi a fost luată ușor de ceilalți participanți la discuție, însă cei doi nu și-au mai vorbit. Acum, după 8 ani, dezbaterea este în continuare cât se poate de actuală.

Recomandări

NAVALNÎI, OPOZANT PÂNĂ LA MOARTE ȘI DINCOLO DE EA
CÂT ÎȚI AJUTĂ MEDITAȚIILE COPILUL?
GIORGIA MELONI SUFERĂ PRIMA ÎNFRÂNGERE
BYD LANSEAZĂ U9
SCADE NUMĂRUL DE CAZURI COVID DIN ROMÂNIA
BIDEN VREA AJUTOR PENTRU UCRAINA ȘI ISRAEL

The New York Times a discutat cu peste 80 de directori, oameni de știință și antreprenori, inclusiv două persoane care au participat la petrecerea de naștere a lui Musk în 2015, pentru a spune această poveste de ambiție, frică și bani.

Întrebarea care a divizat Silicon Valley

Întrebarea dacă Inteligența Artificială va ajuta sau va distruge omenirea – sau cel puțin să-i provoace pagube mari – a dat startul unei dezbateri care continuă și acum la Silicon Valley, în rândul fondatorilor, utilizatorilor de chatboți, legiutorilor și autorităților de reglementare, dacă această nouă tehnologie ar trebui controlată sau lăsată liberă.

Această dezbatere i-a divizat pe mulți dintre cei mai bogați oameni ai lumii: Musk, Page, Mark Zuckerberg, investitorul Peter Thiel, Satya Nadella de la Microsoft sau Sam Altman de la OpenAI. Fiecare dintre ei a luptat pentru o părticică din acest business, care ar putea valora într-o zi trilioane de dolari.

La baza acestei competiții între investitori stă un paradox: Cei care spun că se tem cel mai mult de A.I. sunt printre cei mai determinați să dezvolte acest business, justificându-se prin faptul că ei cred cu tărie că ei înșiși pot ține Inteligența Artificială sub control, încât să nu reprezinte o amenințare pentru oameni.

Cum a luat naștere OpenAI  

Musk și Page n-au mai vorbit după dezbaterea de la petrecere, însă peste câteva săptămâni, Musk s-a întâlnit cu Sam Altman, care se ocupa cu un start-up tech la acea vreme. Această întâlnire a dus la dezvoltarea unui start-up numit OpenAI, finanțat cu sute de milioane de dolari de către Musk și alți investitori, care promitea să protejeze omenirea de viziunea lui Larry Page.

Datorită ChatGPT, OpenAI a schimbat din temelii industria tehnologică și a prezentat lumii potențialele riscuri ale Inteligenței Artificiale. OpenAI valorează mai mult de 80 de miliarde de dolari, potrivit a două persoane familiare cu cifrele companiei, deși parteneriatul dintre Musk și Altman nu a ținut. Cei doi n-au mai vorbit.

„Există neînțelegeri, neîncredere, ego”, spunea Sam Altman. „Cu cât oamenii se îndreaptă în aceeași direcție, cu atât mai grave sunt neînțelegerile. Așa e peste tot, și în secte și în ordinele religioase. Lupte dure între cei mai apropiați oameni”, mai spunea Altman.

Luna trecută, cuvintele lui Altman s-au adeverit chiar pentru el, odată cu revolta rebelilor din consiliul OpenAI, care nu mai aveau încredere în capacitatea lui Altman de a construi un A.I. sigur pentru omenire. Timp de 5 zile haotice, OpenAI părea să se prăbușească, până când, la insistența unor investitori majori și angajați care amenințau că-l vor urma pe Sam Altman, consiliul care a vrut să-l înlăture inițial pe Altman s-a retras.

Drama din interiorul OpenAI a dat lumii pentru prima dată o perspectivă asupra neînțelegerilor dintre cei care vor determina viitorul A.I.

Cu câțiva ani înainte de prăbușirea OpenAI, a existat o competiție puțin mediatizată, dar feroce, în Silicon Valley pentru controlul tehnologiei care transformă acum rapid lumea, de la modul în care sunt învățați copiii, la modul în care se duc războaiele.

Bătaia giganților tech pe DeepMind

Cu 5 ani înainte de petrecerea din Napa Valley organizată de Musk, Demis Hassabis căuta finanțare pentru a dezvolta o „Inteligență Artificială Generală”, care ar fi putut face tot ceea ce poate și creierul uman. Eliezer Yudkowsky, un filozof al Internetului și autodidact în cercetarea A.I., făcea parte dintr-un grup de „raționaliști” sau „filantropi eficienți” care credeau că A.I.-ul ar putea găsi soluții pentru boli precum cancerul sau pentru schimbările climatice, dar care ar putea totodată să se întoarcă împotriva creatorilor săi. Peter Thiel și Hassabis s-au întâlnit prin Eliezer Yudkowksy, în urma unei conferințe anuale găzduite de Yudkowksy care le-a asigurat o a doua întâlnire.

La acea întâlnire, Peter Thiel și firma sa de capital de risc au convenit să investească 1,4 milioane de lire sterline (aproximativ 2,25 milioane de dolari) în lansarea DeepMind. El a fost primul lor investitor major.

După ce l-a câștigat pe Thiel, Hassabis și-a făcut drum pe orbita lui Musk. Aproximativ doi ani mai târziu, s-au întâlnit la o conferință organizată de Thiel, care a băgat și bani în compania SpaceX a lui Musk. Hassabis și-a asigurat un tur al sediului SpaceX.

Musk i-a explicat că planul său era să colonizeze Marte pentru a scăpa de suprapopulare și alte pericole de pe Pământ. Hassabis a răspuns că planul va funcționa, dar doar atât timp cât mașinile superinteligente nu vor urmări și nu vor distruge omenirea și pe Marte.

Rămas fără cuvinte în fața unui pericol pe care nu l-a luat în calcul, Musk a investit în curând în DeepMind alături de Thiel, astfel încât să poată fi mai aproape de crearea acestei tehnologii.

Plină de bani, DeepMind a angajat cercetători specializați în rețele neuronale, algoritmi creați după imaginea creierului uman. O rețea neuronală este în esență un sistem matematic uriaș care petrece zile, săptămâni sau chiar luni identificând tipare în cantități mari de date digitale. Dezvoltate pentru prima dată în anii 1950, aceste sisteme ar putea învăța să se ocupe singure de sarcini. După ce analizau numele și adresele mâzgălite pe sute de plicuri, de exemplu, puteau citi un text scris de mână.

DeepMind a dus conceptul mai departe. A construit un sistem care putea învăța să joace jocuri clasice de strategie precum Space Invaders, Pong și Breakout, pentru a arăta că e posibil.

Acest lucru a atras atenția unui alt gigant din Silicon Valley, Google, și în special lui Larry Page. El a văzut o demonstrație a mașinii lui DeepMind, jucând jocuri de strategie, și a fost fascinat.

Licitația

În toamna lui 2012, Geoffrey Hinton, profesor la Universitatea din Toronto, și doi studenți absolvenți au publicat o lucrare de cercetare care a arătat lumii ce ar putea face Inteligența Artificială. Ei au antrenat o rețea neuronală pentru a recunoaște obiecte comune precum flori, câini și mașini.

Oamenii de știință au fost surprinși de acuratețea tehnologiei construite de Hinton și studenții săi. Unul care a fost în mod special interesat a fost Yu Kai, un cercetător în A.I. de la Baidu, gigantul din China, care l-a întâlnit pe Hinton la o conferință de cercetare. Acesta i-a oferit lui și studenților săi 12 milioane de dolari ca să se alăture companiei din Beijing. Hinton l-a refuzat pe Baidu, dar banii i-au atras atenția.

Hinton și-a petrecut cea mai mare parte a carierei în mediul academic, cu excepția unor perioade ocazionale la Microsoft și Google, și nu a fost determinat în mod special de bani.

„Nu știam cât valorăm”, a spus Hinton, iar apoi s-a consultat cu avocați și experți în domeniul achizițiilor și a venit cu un plan: „Vom organiza o licitație și ne vom vinde”.

Licitația ar fi urmat să se desfășoare în timpul unei conferințe A.I. la cazinoul Harrah’s de pe Lacul Tahoe.

Google, Microsoft, Baidu și alte companii au început să creadă că rețelele neuronale erau o cale către mașini care nu numai că puteau vedea, ci și auzi, scrie, vorbi și în cele din urmă – gândi.

Google a făcut o ofertă, la fel și Microsoft. Pe măsură ce prețul creștea, giganții renunțau pe rând la licitația pentru DeepMind. Giganții din industrie au împins ofertele la 20 de milioane de dolari și apoi la 25 de milioane de dolari, potrivit documentelor care detaliază licitația. Pe măsură ce prețul a depășit 30 de milioane de dolari, Microsoft a renunțat, dar a revenit la licitație cu 37 de milioane de dolari.

„Ne-am simțit ca într-un film”, a spus Hinton.

Apoi Microsoft a renunțat a doua oară. Au rămas doar Baidu și Google și au împins licitația la 42 de milioane de dolari, 43 de milioane de dolari. În cele din urmă, la 44 de milioane de dolari, Hinton și studenții săi au oprit licitația. Ofertele erau în continuare în creștere, dar doreau să lucreze pentru Google.

A fost un semn inconfundabil că marile companii cu buzunare adânci erau hotărâte să cumpere cei mai talentați cercetători în A.I. –  de aceea nu voiau să-l piardă pe Hassabis de la DeepMind.

Întotdeauna le spusese angajaților săi că DeepMind va rămâne o companie independentă. Acesta a fost, credea el, cel mai bun mod de a se asigura că tehnologia sa nu se va transforma în ceva periculos.

Dar când Big Tech a intrat în cursa talentelor, a decis că nu are de ales: era timpul să vândă.

Până la sfârșitul anului 2012, Google și Facebook încercau să achiziționeze laboratorul din Londra, potrivit a trei persoane familiarizate cu problema. Hassabis și co-fondatorii săi au insistat asupra a două condiții: nicio tehnologie DeepMind nu poate fi folosită în scopuri militare, iar tehnologia A.G.I. ( Inteligența Artificială Generală ) trebuie să fie supravegheată de un consiliu independent.

Google a oferit 650 de milioane de dolari, iar Zuckerberg a oferit o sumă mai mare fondatorilor DeepMind, dar nu a fost de acord cu condițiile. DeepMind a fost vândut către Google.

Prima și ultima reuniune a Consiliului de Etică

Când Musk a investit în DeepMind, și-a încălcat propria regulă informală – că nu va investi în nicio companie pe care nu a condus-o el însuși. Dezavantajele deciziei sale au fost deja evidente atunci când, la doar o lună după petrecerea unde și-a stricat relația cu Page, s-a trezit din nou față în față cu fostul său prieten și coleg miliardar.

Ocazia întâlnirii a fost prima întâlnire a consiliului de etică al DeepMind, pe 14 august 2015.

Consiliul a fost înființat la insistențele fondatorilor start-up-ului pentru a se asigura că tehnologia lor nu dăunează după vânzare. Membrii s-au reunit într-o sală de conferințe chiar în fața biroului lui Musk, cu o fereastră cu vedere spre fabrica sa de rachete, potrivit a trei persoane familiare cu întâlnirea. Dar acolo se încheia controlul lui Musk. Când Google a cumpărat DeepMind, a cumpărat totul. Din punct de vedere financiar, Musk ieșise bine, dar era nemulțumit.

Trei directori Google care dețin acum controlul asupra DeepMind erau acolo: Larry Page; Sergey Brin, co-fondator Google și investitor Tesla; și Eric Schmidt, președintele Google.

Printre ceilalți participanți s-au numărat Reid Hoffman, un alt fondator PayPal, și Toby Ord, un filozof australian care studiază „riscul existențial” – ipoteza conform căreia progresul substanțial în inteligență artificială puternică (sau generală; prescurtat A.G.I. în engleză) ar putea duce într-o zi la dispariția omului sau la o altă catastrofă globală nerecuperabilă.

Fondatorii DeepMind au raportat că își continuă munca, dar că sunt conștienți că tehnologia presupune riscuri grave. Suleyman, co-fondatorul DeepMind, a susținut o prezentare numită „The Pitchforkers Are Coming”. A.I.-ul ar putea duce la o explozie de dezinformare, a spus el consiliului de administrație.

El s-a îngrijorat că, pe măsură ce tehnologia va înlocui nenumărate locuri de muncă în următorii ani, publicul va acuza Google că le-a furat mijloacele de existență. Google ar trebui să-și împartă averea cu milioanele care nu mai găsesc de lucru și să ofere un „venit de bază universal”, a susținut el.

Musk a fost de acord. Dar era destul de clar că oaspeții săi Google nu erau pregătiți să se angajeze într-o redistribuire a propriei bogății. Schmidt a spus că grijile sale sunt complet exagerate. Page a fost de acord. A.I. va crea mai multe locuri de muncă decât a luat, a argumentat el.

Opt luni mai târziu, DeepMind a avut o descoperire care a uimit comunitatea A.I. și lumea. O mașină DeepMind numită AlphaGo l-a învins pe unul dintre cei mai buni jucători din lume la vechiul joc Go. Jocul, transmis pe internet, a fost vizionat de 200 de milioane de oameni de pe tot globul. Majoritatea cercetătorilor au presupus că A.I. ar fi avut nevoie de încă 10 ani pentru a-și aduna ingeniozitatea pentru a face asta.

Raționaliștii și alții care s-au îngrijorat de riscurile A.I. au susținut că victoria computerului în fața unui om le-a validat temerile: „Acesta este un alt indiciu că A.I. progresează mai repede decât au anticipat mulți experți”, a scris într-o postare Victoria Krakovna, cercetătoare la DeepMind.

Fondatorii DeepMind erau din ce în ce mai îngrijorați de ce ar face Google cu invențiile lor. În 2017, au încercat să se desprindă de companie. Google a răspuns prin creșterea salariilor și a premiilor în acțiuni ale fondatorilor DeepMind și ale personalului acestora. DeepMind a rămas pe loc.

Consiliul de etică nu a avut niciodată o a doua ședință.

Ruptura lui Musk

Convins că viziunea optimistă a lui Page asupra A.I. e complet greșită și furios că a pierdut DeepMind, Musk și-a construit propriul laborator.

OpenAI a fost fondat la sfârșitul anului 2015, la doar câteva luni după ce s-a întâlnit cu Sam Altman la hotelul Rosewood din Silicon Valley. Musk a pompat bani în laborator, iar foștii săi prieteni de la PayPal, Hoffman și Thiel, au venit în vizită.

Cei trei bărbați și alții s-au angajat să investească 1 miliard de dolari în proiect, pe care Altman, care avea 30 de ani la acea vreme, urma să-l conducă.

Musk a vrut să opereze OpenAI ca o organizație non-profit, fără stimulentele economice care au condus Google și alte corporații. Dar, în momentul în care Google a uimit comunitatea tehnologică cu Go, Musk s-a răzgândit cu privire la modul în care ar trebui să fie condusă. Musk își dorea cu disperare ca OpenAI să inventeze ceva care să capteze imaginația lumii și să reducă decalajul față de Google.

La sfârșitul anului 2017, el a pus la cale un plan de a prelua controlul asupra laboratorului de la Altman și de la ceilalți fondatori și să-l transforme într-o operațiune comercială care să-și unească forțele cu Tesla și să se bazeze pe supercomputerele pe care compania auto le dezvoltă, potrivit a patru persoane familiare cu chestiunea.

Când Altman și alții s-au opus, Musk a renunțat și a spus că se va concentra asupra propriului său A.I. care lucrează la Tesla. În februarie 2018, Musk și-a anunțat plecarea de la OpenAI.

OpenAI a avut brusc nevoie de noi finanțări. Altman a zburat la Sun Valley pentru o conferință și a dat peste Satya Nadella, directorul executiv al Microsoft. Altman îl cunoștea și pe directorul de tehnologie al Microsoft, Kevin Scott. Microsoft cumpărase LinkedIn de la Hoffman, un membru al consiliului OpenAI. Nadella i-a spus lui Scott să accepte. Acordul s-a încheiat în 2019.

Altman și OpenAI formaseră o companie cu profit în cadrul organizației non-profit inițiale, aveau un capital proaspăt de 1 miliard de dolari, iar Microsoft avea o nouă modalitate de a construi Inteligența Artificială în vastul său serviciu de cloud computing.

Nu toți cei din interiorul OpenAI s-au bucurat de schimbare.

Dario Amodei conducea eforturile OpenAI de a construi o rețea neuronală, adică un model de limbaj care ar putea învăța din cantități enorme de text digital. Lansat în vara anului 2020, GPT-3 le-a părut cercetătorilor din OpenAI, Google și alte companii, cea mai rapidă cale către o „Inteligență Artificială Generală”.

Amodei era în schimb nemulțumit de afacerea cu Microsoft, deoarece a crezut că duce OpenAI într-o direcție cu adevărat comercială. El și alți cercetători s-au dus la consiliu pentru a încerca să-l înlăture pe Sam Altman, potrivit a cinci persoane familiarizate cu problema. După ce au eșuat, au plecat. Asemenea fondatorilor DeepMind înaintea lor, ei s-au îngrijorat că noii lor stăpâni corporativi ar favoriza interesele comerciale în detrimentul siguranței.

În 2021, grupul de aproximativ 15 ingineri și oameni de știință a creat un nou laborator numit Anthropic. Planul era să construiască un A.I. cu controale foarte stricte.

„Nu a existat nicio încercare de a-l elimina pe Sam Altman din OpenAI de către co-fondatorii Anthropic”, a declarat o purtătoare de cuvânt a Anthropic, Sally Aldous. „Co-fondatorii înșiși au ajuns la concluzia că doresc să părăsească OpenAI pentru a-și înființa propria companie, au făcut cunoscut acest lucru conducerii OpenAI și, timp de câteva săptămâni, au negociat o ieșire în condiții reciproc agreabile”

Anthropic a acceptat o investiție de 4 miliarde de dolari de la Amazon și alte 2 miliarde de dolari de la Google doi ani mai târziu.

GPT- 4

După ce OpenAI a primit încă 2 miliarde de dolari de la Microsoft, Altman și un alt director executiv, Greg Brockman, l-au vizitat pe Bill Gates la conacul său de pe malul lacului Washington, în afara Seattle. Fondatorul Microsoft nu a mai fost implicat zilnic în companie, ci a păstrat legătura regulată cu directorii acesteia.

În timpul întâlnirii, Gates le-a spus că se îndoiește că modelele mari de limbaj ar putea funcționa. El va rămâne sceptic, a spus el, până când tehnologia va îndeplini o sarcină care necesita gândire critică – trecerea unui test de biologie, de exemplu.

Cinci luni mai târziu, pe 24 august 2022, Altman și Brockman s-au întors și au adus un cercetător OpenAI pe nume Chelsea Voss. Voss fusese medaliată la o olimpiada internațională de biologie în calitate de elevă de liceu. Nadella și alți directori Microsoft au fost și ei acolo.

Pe un ecran digital imens de pe un stand în afara sufrageriei lui Gates, echipa OpenAI a prezentat o tehnologie numită GPT-4.

Brockman a dat sistemului un test de biologie avansată cu variante multiple, iar Voss a notat răspunsurile. Prima întrebare a implicat molecule polare, grupuri de atomi cu o sarcină pozitivă la un capăt și o sarcină negativă la celălalt. Sistemul a răspuns corect și a explicat alegerea sa. „A fost antrenat doar pentru a oferi un răspuns”, a spus Brockman. „Natura conversațională a picat într-un fel aproape magic”. Cu alte cuvinte, făcea lucruri pentru care nu l-au conceput cu adevărat.

Au fost 60 de întrebări. GPT- 4 a dat un singur răspuns greșit.

Bill Gates se aşezase pe scaun, uimit. În 1980, a avut o reacție similară când cercetătorii i-au arătat interfața care avea să devină baza pentru computerul modern. El a crezut că GPT este revoluționar.

Până în octombrie, Microsoft a adăugat tehnologia în serviciile sale online, inclusiv în motorul său de căutare Bing. Și două luni mai târziu, OpenAI a lansat chatbot-ul său ChatGPT, care este acum folosit de 100 de milioane de oameni în fiecare săptămână.

OpenAI i-a învins pe cei de la Anthropic. Optimiștii lui Page de la Google s-au grăbit să-și lanseze propriul chatbot, Bard, dar au fost percepuți pe scară largă că au pierdut cursa în fața OpenAI. La trei luni după lansarea ChatGPT, acțiunile Google au scăzut cu 11%. Musk nu era de găsit pe nicăieri – însă era doar începutul.

Citește și