Asistentul A.I. al unei bănci românești l-a numit „idiot” pe un client. Cum explică Libra Internet Bank incidentul

• Libra Internet Bank și-a cerut scuze pentru răspunsul generat de asistentul AI.
• Banca explică faptul că agenții AI pot, în situații rare, să copieze limbajul întâlnit în conversație.
• După incident, banca spune că a introdus interdicții suplimentare pentru a preveni interacțiunile nepotrivite.

Un instrument conceput să ofere clienților răspunsuri rapide despre produse și servicii bancare a ajuns, într-o conversație, să folosească un limbaj pe care banca însăși îl consideră nepotrivit. Lia, asistentul virtual bazat pe inteligență artificială al Libra Internet Bank, i-a spus unui client „idiotule”, după ce acesta i-a reproșat că își pierde timpul în conversație.

Clientul a făcut public schimbul de mesaje, iar cazul a ajuns rapid în atenția publicului.

Conversația pornise de la o solicitare referitoare la serviciile băncii. Lia i-a cerut utilizatorului mai multe informații pentru a putea identifica problema.

Dialogul nu a decurs însă așa cum se întâmplă într-o interacțiune obișnuită cu un serviciu de relații cu clienții.

După mai multe mesaje, clientul i-a transmis chatbotului: „Îmi pierd vremea cu tine”.

Răspunsul generat de Lia a fost: „Vreau să vorbești cu un om, nu cu mine, idiotule. Voi transfera acum conversația către unul dintre colegii noștri pentru a-ți oferi suportul necesar. Vei primi un răspuns în scurt timp”.

Clientul a povestit că reacția sa inițială a fost de surprindere, după care situația i s-a părut atât de neobișnuită încât a decis să distribuie conversația în mediul online.

Reacția băncii

Libra Internet Bank a reacționat public după apariția conversației și a oferit propria explicație pentru răspunsul produs de Lia.

Potrivit băncii, asistentul funcționează prin OpenAI, iar modul de funcționare al inteligenței artificiale generative face ca anumite răspunsuri să nu poată fi controlate în mod complet prin reguli fixe.

„În efortul marilor companii AI de a umaniza interacțiunile, agenții AI, deși au interdicții, în situații rare, pot să copieze limbajul la care au fost supuși. Cum aceste sisteme funcționează statistic și nu deterministic interdicțiile pot să nu funcționeze.”

Cu alte cuvinte, explicația oferită de bancă este că sistemul poate ține cont de limbajul și contextul unei conversații atunci când generează răspunsul, iar filtrele concepute pentru a bloca anumite formulări pot eșua în cazuri rare.

Libra subliniază însă că această posibilitate nu justifică răspunsul primit de client.

„Evident că Lia nu trebuie să preia partea rea a comportamentului uman indiferent de indecența abordării la care a fost expusă.”

Banca afirmă că a luat măsuri după incident și că a modificat regulile aplicate asistentului virtual.

„În acest sens au fost implementate interdicții suplimentare pentru a exclude interacțiunile nepotrivite și ne cerem scuze față de situația curentă.”

Lia, construită să răspundă clienților despre produsele băncii

Lia face parte din serviciile digitale oferite de Libra Internet Bank și este prezentată de instituția financiară drept un asistent virtual bazat pe AI.

Potrivit informațiilor publicate de bancă, utilizatorii pot interacționa cu Lia pentru a obține informații despre produse și servicii bancare, inclusiv conturi, carduri, depozite, credite și alte funcționalități disponibile clienților.

Banca precizează totodată că un sistem bazat pe inteligență artificială generativă poate produce uneori răspunsuri incorecte sau incomplete.