- Anthropic interzice abuzurile repetate și gratuite față de chatbotul Claude.
- Regulile nu se aplică frustrării obișnuite sau testării AI-ului.
- Decizia reaprinde dezbaterea despre conștiința inteligenței artificiale.
Compania americană Anthropic, dezvoltatoarea chatbotului Claude, a introdus o interdicție explicită privind comportamentul abuziv sau inutil de crud față de sistemele sale de inteligență artificială. Noua regulă face parte din actualizarea politicii de utilizare a serviciilor companiei și vizează cazurile extreme în care utilizatorii își agresează în mod repetat chatbotul, fără un scop evident, conform BBC.
Potrivit Anthropic, măsura nu reprezintă o interdicție generală a limbajului agresiv și nici nu îi împiedică pe utilizatori să critice răspunsurile oferite de inteligența artificială. Frustrarea obișnuită, contestarea răspunsurilor, testarea limitelor sistemului și folosirea unor teme întunecate în creații artistice nu intră sub incidența noii reguli.
Compania precizează că modelul Claude avea deja posibilitatea de a încheia conversațiile în cazurile rare de abuz persistent. Actualizarea formalizează această abordare și include comportamentul respectiv în lista practicilor interzise. În schimb, Anthropic nu a oferit o definiție exhaustivă a ceea ce consideră comportament „abuziv sau crud”, ceea ce ridică întrebări despre modul în care regula va fi aplicată în practică.
Decizia a generat reacții contradictorii în industria tehnologiei. Unii susțin că stabilirea unor limite pentru interacțiunile cu chatboturile poate încuraja un comportament mai responsabil. Alții avertizează că tratarea sistemelor informatice ca și cum ar avea sentimente umane riscă să estompeze diferența dintre inteligența artificială și ființele conștiente. Mustafa Suleyman, directorul diviziei Microsoft AI, s-a numărat printre vocile critice față de tendința de a antropomorfiza aceste sisteme.
În spatele controversei se află o întrebare la care cercetătorii nu au un răspuns definitiv: poate inteligența artificială să aibă experiențe subiective sau să fie conștientă? Directorul executiv al Anthropic, Dario Amodei, a declarat anterior că nu poate exclude complet această posibilitate. Compania explorează inclusiv riscurile asociate eventualului statut moral al modelelor AI, fără a susține că acestea sunt conștiente.
Actualizarea politicii Anthropic include și alte restricții, care vizează folosirea chatbotului în campanii înșelătoare, manipularea proceselor electorale, dezvoltarea de arme și supravegherea persoanelor fără consimțământ. Noile reguli urmează să intre în vigoare pe 12 noiembrie 2026.
Deocamdată, interdicția privind cruzimea față de chatboturi nu înseamnă că inteligența artificială primește drepturi similare oamenilor. Ea reflectă însă o dezbatere tot mai prezentă în industria tehnologiei despre limitele interacțiunii dintre oameni și sisteme care pot conversa, răspunde emoțional și imita comportamentul uman.
