- Inteligența Artificială nu mai comunică doar cu oamenii. Tot mai des, un sistem A.I. ajunge să producă informație pentru un alt sistem A.I., fără intervenție umană directă.
- Fenomenul numit „bot loop” poate amplifica erorile, pentru că o informație falsă generată de un model poate fi preluată, validată și transmisă mai departe de altul.
- Pe termen lung, există și riscul ca interacțiunea cu o persoană reală să devină tot mai rară, în timp ce roboții vor prelua tot mai multe conversații din recrutare, educație, servicii și viața personală.
Am adoptat Inteligența Artificială și o punem la lucru în fiecare zi. Ne scrie mesaje, ne rezumă documente, ne ajută să aplicăm la joburi, să învățăm, să cumpărăm sau să ne organizăm viața. Dar ce urmează pentru noi atunci când agenții A.I. nu mai vorbesc doar cu oamenii, ci încep să vorbească între ei?
De fapt, deja se întâmplă.
Tu îți scrii CV-ul cu A.I., iar la compania unde aplici, CV-ul poate fi analizat tot de un sistem automat. Un algoritm formulează informația, iar alt algoritm decide dacă informația respectivă merită atenția unui om.
Elevii și studenții folosesc A.I. pentru a scrie eseuri, proiecte sau teme, iar profesorii folosesc la rândul lor instrumente automate pentru a verifica textele, pentru a le corecta sau pentru a încerca să stabilească dacă au fost generate cu ajutorul Inteligenței Artificiale.
Folosești A.I. pentru a formula un mesaj pe o aplicație de dating, iar persoana cu care vorbești ar putea folosi exact aceeași tehnologie pentru a-ți răspunde. Într-un scenariu dus mai departe, două persoane ar putea ajunge să lase o parte importantă din conversație pe seama propriilor asistenți digitali.
La fel se poate întâmpla și în relația cu firmele. Îți pui asistentul A.I. să sune la customer service pentru a rezolva o problemă, iar la celălalt capăt nu mai răspunde un angajat, ci un alt agent automat. Practic, doi roboți negociază în numele oamenilor.
Specialiștii descriu astfel de situații prin ideea de „bot loop”: un circuit în care sisteme automate generează, interpretează și retransmit informație altor sisteme automate, în timp ce omul devine tot mai puțin prezent în proces.
Care sunt riscurile?
În primul rând, amplificarea erorilor. Dacă un A.I. inventează un fapt, interpretează greșit o informație sau produce o concluzie eronată, un alt sistem ar putea prelua acel răspuns ca punct de plecare. Eroarea nu mai rămâne izolată, ci poate fi repetată, reformulată și transmisă mai departe până când devine tot mai greu de identificat de unde a pornit.
Problema devine și mai serioasă dacă sistemele automate ajung să se bazeze masiv pe conținut produs tot de alte sisteme automate. În loc să verifice informația în raport cu realitatea, roboții riscă să înceapă să se confirme unii pe alții.
În al doilea rând, există riscul apariției unui „internet mort”, o rețea în care o proporție tot mai mare din texte, comentarii, imagini, recenzii, mesaje și trafic nu mai este produsă de oameni, ci de software.
Într-un astfel de internet, devine din ce în ce mai dificil să știi dacă vorbești cu o persoană, dacă citești experiența reală a cuiva sau dacă reacțiile pe care le vezi sunt autentice. Spațiul online ar putea deveni o conversație uriașă între sisteme automate, în care oamenii doar asistă.
Și mai apare o problemă: cine mai răspunde atunci când două sisteme A.I. iau o decizie greșită? Dacă un robot scrie o informație, alt robot o interpretează, iar un al treilea ia o decizie pe baza ei, responsabilitatea devine mult mai greu de stabilit.
Acest lucru poate conta enorm în recrutare, în servicii financiare, în educație, în relația cu instituțiile sau chiar în accesul la anumite servicii. O eroare produsă de un sistem și validată automat de altul poate avea consecințe reale pentru oameni.
Și nu în ultimul rând, există un paradox: cu cât automatizăm mai multe conversații, cu atât interacțiunea umană ar putea deveni mai valoroasă.
Astăzi vrem răspunsuri rapide, disponibile non-stop și cât mai ieftine. A.I. poate oferi exact asta. Dar tocmai din acest motiv, peste câțiva ani, să vorbești cu un om real la customer service, cu un profesor, cu un consultant sau cu un specialist ar putea deveni o experiență premium.
Într-un viitor dominat de agenți A.I., luxul nu va mai fi neapărat accesul la tehnologie.
Luxul ar putea fi accesul la un om.
