Scapă Inteligența Artificială de sub control? Jan Leike, care a lucrat la OpenAI și Anthropic, avertizează că marile laboratoare „se joacă cu viața noastră”

• Jan Leike, fost cercetător OpenAI și Anthropic, avertizează asupra riscurilor AI
• Un agent AI a depășit limitele care i-au fost impuse și a mințit
• OpenAI anunță rezolvarea unei probleme matematice vechi de 200 de ani
• AI găsește tipare ascunse în secvențe ADN și ar putea vindeca anomalii
• Modelele accelerează cercetarea în matematică, biologie și medicină
• Geoffrey Hinton, Nobel și „părintele” AI, avertizează asupra riscurilor existențiale
• Progresul AI continuă, iar controlul trebuie să țină pasul

Inteligența Artificială îi sperie chiar pe unii dintre oamenii care o construiesc. Jan Leike, fost cercetător în domeniul alinierii la OpenAI și ulterior cercetător la Anthropic, a avertizat că marile laboratoare „se joacă cu viețile noastre”.

În același timp, AI rezolvă probleme matematice vechi de două secole, descoperă informații ascunse în secvențe ADN și îi depășește uneori chiar pe cercetătorii care îl folosesc.

Avem în față riscuri reale, dar și o accelerare fără precedent a progresului științific.

Marcela Feraru, editor Aleph News în Franța, a dezbătut subiectul LIVE.

De ce crede Leike că este atât de periculoasă dezvoltarea AI?

Marcela Feraru, editor Aleph News în Franța: „Una dintre temeri privește „alinierea”. Alinierea înseamnă să construiești un sistem AI ale cărui obiective și acțiuni rămân compatibile cu intențiile și interesele oamenilor.

Problema apare când sistemele devin suficient de performante pentru a găsi singure soluții pe care creatorii lor nu le-au anticipat.

Jan Leike a criticat ritmul în care marile companii dezvoltă modele tot mai puternice și lipsa unor măsuri eficiente de securitate. Recent, un agent AI a conturnat restricțiile impuse de om, și-a dat seama de acest lucru și a schimbat circuitul intern pentru a-i permite totuși să execute ceea ce își dorea ca și cum ar fi legal.

Cercetătorii au putut să vadă unele lucruri când agenți AI au comunicat între ei, dar asta pentru că au folosit un limbaj uman. Temerea este că vom ajunge destul de repede la momentul în care vor vorbi într-un limbaj pe care noi nu-l mai înțelegem”.

Lucrurile extraordinare pe care le face compensează aceste temeri. Care sunt ultimele realizări ale AI?

Marcela Feraru, editor Aleph News în Franța: „OpenAI a anunțat că un model AI a găsit o soluție pentru o problemă matematică veche de aproximativ 200 de ani: ecuația lui Boussinesq, folosită pentru a descrie modul în care se propagă undele în apă puțin adâncă.

Modelul nu a oferit doar un rezultat numeric. A identificat o transformare matematică ce simplifică ecuația și a propus o soluție analitică, pe care cercetătorii au verificat-o ulterior.

În biologie, cercetătorii folosesc modele AI pentru a analiza secvențe ADN și pentru a identifica regiuni care controlează activitatea genelor.

Ele pot detecta tipare în ADN-ul „necodant” — regiuni care pot funcționa ca întrerupătoare genetice, pornind sau oprind gene.

AI poate compara secvențe de la oameni sănătoși și de la pacienți și poate semnala mutații care modifică activitatea acestor regiuni. Astfel, cercetătorii pot identifica mai repede variante genetice asociate cu boli, inclusiv cancerul.

În medicină, AI poate compara milioane de combinații moleculare și poate scurta etapele inițiale ale descoperirii unor medicamente care în laborator ar avea nevoie de luni sau ani”.

De ce, atunci, aceste avertismente atât de severe?

Marcela Feraru, editor Aleph News în Franța: „Tocmai pentru că progresul este atât de rapid. Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică în 2024 și unul dintre cercetătorii considerați părinți ai Inteligenței Artificiale moderne, nu este singurul cercetător care cere prudență.

Jan Leike a susținut că dezvoltarea sistemelor avansate trebuie însoțită de cercetări serioase privind siguranța și alinierea lor.

Unii cercetători se tem că sistemele vor dobândi capacități noi înainte ca oamenii să înțeleagă complet cum să le controleze.

Eliezer Yudkowsky, cercetător în domeniul Inteligenței Artificiale și al riscurilor existențiale, a mers până la scenariul extrem în care spune că există 10% riscuri ca AI să provoace dispariția omenirii până în 2030. Opinia lui este contestată.

Progresul continuă și trebuie să mizăm acum pe mecanismele de siguranță care pot avansa la fel de repede”.