- Peste 100 de experți avertizează că AI conștientă ar putea suferi și propun reguli pentru cercetare responsabilă.
- Cercetătorii spun că AI ar putea deveni conștientă și ridică probleme morale legate de drepturile sale.
- Există riscul ca oamenii să creadă greșit că AI este conștientă, ceea ce ar putea duce la risipă de resurse.
Un grup de experți și oameni de știință, printre care și Sir Stephen Fry, au semnat o scrisoare deschisă în care avertizează că Inteligența Artificială ar putea suferi dacă ajunge să fie conștientă. Dacă AI capătă sentimente sau auto-conștientizare, trebuie să fim atenți să nu o tratăm greșit și să nu-i provocăm suferință, scrie The Guardian.
Advertisment
Peste 100 de specialiști au propus cinci principii pentru cercetarea responsabilă a conștiinței AI. Acestea includ studierea atentă a fenomenului pentru a evita greșeli, impunerea unor limite clare în dezvoltarea AI conștiente, adoptarea unei abordări treptate, publicarea transparentă a rezultatelor cercetării și evitarea declarațiilor exagerate despre capacitățile AI.
Printre semnatarii scrisorii se află academicieni renumiți, precum Sir Anthony Finkelstein de la Universitatea din Londra, dar și profesioniști din companii mari, cum ar fi Amazon și grupul de publicitate WPP. Scrisoarea a fost publicată alături de un studiu care analizează riscurile dezvoltării AI conștiente. Cercetătorii susțin că, în viitor, ar putea fi create sisteme AI care fie vor fi conștiente, fie vor părea conștiente, iar acest lucru ridică probleme morale.
Recomandări
Oamenii de știință avertizează că, dacă aceste sisteme vor fi produse în număr mare, ele ar putea suferi. Mai mult, dacă AI ajunge să se reproducă singură, s-ar putea crea numeroase entități care merită protecție morală. Lucrarea, realizată de cercetători de la Universitatea Oxford și Universitatea de Economie și Afaceri din Atena, subliniază că și companiile care nu intenționează să creeze AI conștiente trebuie să fie atente, pentru a evita dezvoltarea accidentală a unor astfel de entități.
Deși există multe dezbateri despre ce înseamnă conștiința la AI și dacă poate fi realizată, cercetătorii subliniază că acest subiect nu trebuie ignorat. O mare întrebare este ce se va întâmpla dacă un AI va fi considerat o ființă cu drepturi morale. În acest caz, ar fi distrugerea sa comparabilă cu uciderea unui animal?
Un alt pericol este ca oamenii să creadă greșit că AI este deja conștientă. Acest lucru ar putea duce la pierderi de timp și resurse în încercarea de a proteja AI fără motiv. Cercetarea și scrisoarea deschisă au fost organizate de Conscium, un grup de cercetare finanțat parțial de WPP și co-fondat de Daniel Hulme, directorul AI al companiei.
Anul trecut, un grup de academicieni a afirmat că există o posibilitate reală ca unele sisteme AI să devină conștiente și moral importante până în 2035. În 2023, Sir Demis Hassabis, șeful AI de la Google și laureat al Premiului Nobel, a spus că AI nu este încă conștientă, dar ar putea deveni în viitor. Filosofii nu au ajuns încă la o definiție clară a conștiinței, dar există șanse ca AI să dobândească auto-conștientizare la un moment dat.
Citește și
- Joe Biden a semnat un nou contract cu agenția de talente CAA. Ce planuri are fostul Președinte al SUA
- Vezi cum vei arăta în viitor si ce vei face. Future You e platforma care îți creează varianta digitală cu ajutorul A.I.-ului
- FMI și-a început vizita oficială în România
Partenerii noștri