• Miles Brundage acuză OpenIA că preferă să lanseze produse strălucitoare în loc să se concentreze pe securitatea A.I.
• În replică, OpenAI a ales să dizolve divizia sa de risc, “AGI Readiness” care a avertizat asupra riscurilor A.I. prea puternice.
• Brundage a spus în Substack că dorește să se concentreze pe crearea unei organizații nonprofit sau să se alăture uneia existente, cu scopul de a se concentra pe cercetarea politicii A.I.

Nou început la OpenAI. Compania din spatele ChatGPT își pierde principalul consilier pentru supravegherea „Super Intelligence”. Motivul? Lipsa de perspectivă din partea companiei cu privire la pericolele pe care le-ar putea reprezenta. OpenAI a dizolvat echipa „AGI Readiness”, care consilia compania pe tema pericolelor unei inteligențe artificiale prea puternice.

Miles Brundage, consilier principal al OpenAI pe tema „Super Intelligence”, a părăsit compania săptămână trecută și a scris o notă pe X (Twitter) în care afirmă că „nici OpenAI și nici alt laborator de ultimă generație nu este pregătit și nici lumea nu este pregătită” în fața superinteligentei artificiale.

Brundage acuză constrângeri asupra libertății sale de cercetare în fața expansiunii unei companii care pare să se concentreze mai mult pe lansarea de noi produse. Această plecare vine după cea a lui Ilya Sutskever (cofondatorul OpenAI) și a lui Jan Leike , manageri ai Superalignment, o echipă specializată în studiul riscurilor inteligenței artificiale formată în iulie 2023. Jan Leike a plecat și el spunând: „cultura și siguranța procesele au trecut în urma produselor strălucitoare”.

Ce planuri are Brundage pentru viitor?

Brundage a spus în Substack că dorește să se concentreze pe crearea unei organizații nonprofit sau să se alăture uneia existente, cu scopul de a se concentra pe cercetarea politicii A.I.

El sustine ca este puțin probabil ca A.I. să fie sigură și benefică fără un efort concertat pentru a face acest lucru si subliniază importanța aducerii unor voci independente în această problemă, fără conflicte de interese din industrie. O poziție împărtășită de ONU care dorește să se pronunțe asupra acestei tehnologii pentru a nu crea o decalaj digital și mai mare între țări.

Citește și

• Cât de necesar este un program de afterschool pentru copilul tău? Vacanța de toamnă readuce în prim plan provocările părinților
• Washington Post: Kremlinul mai are bani de război. Are Kievul resurse să continue lupta?
• Șeful Mossad, directorul CIA și premierul Qatarului reiau astăzi negocierile la Doha. Hamas nu va fi implicată în această rundă de întâlniri