- GPT de la OpenAI ar putea destabiliza democrația dacă guvernele nu iau măsuri rapide și ,,protejează publicul” , spune Yoshua Bengio.
- ,,Este un cerc vicios” , a declarat Bengio, care este profesor de informatică la Universitatea din Montreal, pentru FT.
- Pericolele pe termen scurt ale tehnologiei includ dezinformarea, prejudecățile insidioase și discriminarea grupurilor marginalizate și a minorităților.
Sistemele avansate de inteligență artificială, cum ar fi GPT de la OpenAI, ar putea destabiliza democrația dacă guvernele nu iau măsuri rapide și ,,protejează publicul” , a avertizat un pionier al inteligenței artificiale, scrie FT.
Yoshua Bengio, care a câștigat Premiul Turing alături de Geoffrey Hinton și Yann LeCun în 2018, a declarat că graba recentă a Big Tech de a lansa produse de inteligență artificială a devenit ,,nesănătoasă” , adăugând că a văzut un ,,pericol pentru sistemele politice, pentru democrație, pentru însăși natura adevărului” .
Bengio este cel mai recent dintr-o facțiune tot mai mare de experți în inteligență artificială care trag semnale de alarmă cu privire la lansarea rapidă a modelelor lingvistice puternice și mari. Colegul și prietenul său Hinton a demisionat de la Google în această lună pentru a vorbi mai liber despre riscurile pe care A.I. le prezintă pentru umanitate.
Într-un interviu acordat Financial Times, Bengio a indicat accesul tot mai nediscriminatoriu al societății la modelele lingvistice mari ca fiind o preocupare serioasă, remarcând lipsa de control care se aplică în prezent tehnologiei.
,,Societățile pot închiria accesul la ChatGPT … de exemplu” , a spus el. ,,Ar fi important ca acest acces să fie monitorizat îndeaproape, astfel încât să știm cine folosește aceste sisteme pentru a putea urmări utilizările potențial ilegale sau periculoase” .
Avertismentele vin în condițiile în care grupurile tehnologice s-au grăbit să lanseze produse revoluționare de inteligență artificială generativă – programe de calculator care pot scrie texte și crea imagini – în ultimele șase luni. Săptămâna trecută, Google a dezvăluit un motor de căutare reînnoit, alimentat de noul său sistem de inteligență artificială PaLM 2.
Cel mai avansat software al OpenAI susținut de Microsoft, GPT-4, pe care l-a dezvăluit în martie, este adoptat rapid de bănci, firme de consultanță, start-up-uri, instituții de învățământ și guverne, într-un efort de a supraîncărca productivitatea.
,,Dinamica cursei … este un cerc vicios” , a declarat Bengio, care este profesor de informatică la Universitatea din Montreal și fondator al Mila, Institutul de Inteligență Artificială din Quebec.
Autoritățile de reglementare și guvernele din întreaga lume își intensifică examinarea tehnologiei pe fondul îngrijorărilor legate de potențialele sale abuzuri. Marți, directorul executiv al OpenAI, Sam Altman, a cerut legislatorilor americani să reglementeze acest domeniu, subliniind temerile sale cu privire la potențialul de a furniza ,,dezinformare interactivă” înaintea alegerilor din SUA de anul viitor.
Cunoscut mai ales pentru activitatea sa în domeniul învățării profunde – un domeniu al inteligenței artificiale care a condus la recentele progrese uriașe din acest sector – Bengio este unul dintre puținii cercetători de vârf în domeniul inteligenței artificiale care au rămas în mediul academic în urma unui exod semnificativ de creiere către companiile de tehnologie în ultimul deceniu.
Colegul său academic LeCun s-a alăturat proprietarului Facebook, Meta, în 2013, în timp ce fratele lui Bengio, Samy, a fost cercetător științific senior în divizia de AI a Google timp de aproape 15 ani înainte de a renunța pentru a se alătura Apple în 2021.
Bengio a fost unul dintre cei peste 1.000 de experți în inteligență artificială și directori din domeniul tehnologiei care au semnat luna trecută o scrisoare deschisă care solicită o pauză de șase luni pentru dezvoltarea sistemelor avansate de inteligență artificială.
Deși nu a crezut că scrisoarea va funcționa, el a declarat că susține ideea unui moratoriu. ,,Din câte am auzit, există opinii diferite în acest sens în cadrul OpenAI, Microsoft și chiar Google”, a declarat Bengio. ,,Întreaga comunitate este oarecum divizată cu privire la această chestiune. ”
El a remarcat că dezacordul dintre experții în inteligență artificială este un semnal important pentru public că știința nu are încă răspunsuri. ,,Dacă nu suntem de acord, înseamnă că nu știm … dacă ar putea fi periculos. Și dacă nu știm, înseamnă că trebuie să acționăm pentru a ne proteja” , a spus Bengio.
,,Dacă doriți ca omenirea și societatea să supraviețuiască acestor provocări, nu putem avea competiția între oameni, companii, țări – și o coordonare internațională foarte slabă” , a adăugat el.
Pericolele pe termen scurt ale tehnologiei includ dezinformarea, prejudecățile insidioase și discriminarea grupurilor marginalizate și a minorităților. Aceste prejudicii societale sunt în centrul atenției organizațiilor de cercetare non-profit, cum ar fi Distributed AI Research Institute, care a fost fondat de fostul cercetător al Google AI Timnit Gebru.
Dar amenințările pe termen lung care îi îngrijorează și pe cei ca Bengio și Hinton nu se referă la chatbots de astăzi – care oferă răspunsuri asemănătoare cu cele umane la întrebări. În schimb, ei se tem că cercetarea ar putea progresa rapid pentru a face sistemele de inteligență artificială mai autonome și pentru a corecta punctele slabe, cum ar fi înclinația lor de a fabrica fapte, în acest deceniu.
Bengio a declarat că cel mai urgent lucru pe care trebuie să îl facă autoritățile de reglementare este să facă sistemele de inteligență artificială mai transparente, inclusiv să auditeze datele utilizate pentru a le antrena și rezultatele acestora.
De asemenea, alături de alți colegi, el a propus o coaliție internațională pentru a finanța cercetarea în domeniul IA în domenii care contează pentru public, cum ar fi clima și asistența medicală.
,,La fel ca investițiile în CERN în Europa sau în programele spațiale – aceasta este scara la care ar trebui să fie astăzi investițiile publice în AI pentru a aduce cu adevărat beneficiile AI pentru toată lumea, și nu doar pentru a face o mulțime de bani” , a spus el.
Bengio a adăugat că în prezent discută idei cu Hinton pentru colaborări viitoare pentru a face față acestor provocări.
,,În acest moment există multă emoție, multe strigăte în cadrul comunității mai largi de inteligență artificială. Dar avem nevoie de mai multe investigații și mai multă gândire cu privire la modul în care ne vom adapta la ceea ce va urma”, a spus Bengio. ,,Aceasta este calea științifică” .
Citește și
Prințul Harry și Meghan Markle, implicați într-o urmărire auto „aproape catastrofală” cu paparazzi