Xi Jinping amplifică cenzura în China. Regimul de la Beijing forțează companiile A.I. să se asigure că chatboții lor reflectă „valorile socialiste de bază”

• Guvernul chinez testează și reglementează modelele de limbaj de mari dimensiuni (LLM) ale companiilor de A.I. pentru a se asigura că se aliniază la „valorile socialiste de bază” și respectă liniile directoare stricte de cenzură.
• Chatboții A.I. din China resping întrebări pe teme sensibile, precum masacrul de la Tiananmen sau glumele pe seama lui Xi Jinping.
• ByteDance a raportat progrese semnificative în crearea unui LLM care respectă întocmai viziunile regimului de la Beijing.

Guvernul chinez testează LLM-urile – modele de limbaj de mari dimensiuni – companiilor de Inteligență Artificială, pentru a se asigura că acestea reflectă „valorile socialiste de bază”, în cea mai recentă extindere a regimului său de cenzură, scrie Financial Times.

Administrația pentru Spațiul Cibernetic din China (CAC), un organism puternic de supraveghere a internetului, a obligat companiile mari de tehnologie și start-up-uri de AI, inclusiv ByteDance, Alibaba, Moonshot și 01.AI, să participe la o revizuire guvernamentală a chatboților lor, care implică testarea răspunsurilor la întrebări legate de sensibilitățile politice ale țării și președintele Xi Jinping.

Companiile sunt forțate să treacă prin acest proces laborios, ajustându-și modelele de mai multe ori până se adecvează viziunii de la Beijing.

Rezultatul este vizibil în răspunsurile chatboților A.I. din China, care refuză să răspundă la întrebări pe teme sensibile ca masacrul de la Tiananmen sau întrebări legate de Xi Jinping, precum „seamănă Xi cu Winnie The Pooh?”.

Companiile trebuie să colecteze mii de cuvinte cheie și întrebări sensibile, care sunt actualizate săptămânal, și să implementeze modele de clasificare pentru a detecta și înlocui automat răspunsurile considerate problematice.

ByteDance a raportat progrese semnificative în crearea unui LLM care respectă întocmai regimul Beijingului.

Inginerii și profesioniștii din domeniu au descris noile direcții ca fiind dificile și complicate, invocând nevoia de a antrena aceste modele de A.I. pe o cantitate mare de conținut în limba engleză.