Inteligența artificială poate fi rasistă, sexistă și înfiorătoare. Ce ar trebui să facem în privința asta?

• Inteligența artificială este tot ceea ce înseamnă un software care învață prin exemplu.
• Dacă îi dați exemple care conțin sau reflectă anumite tipuri de atitudini discriminatorii veți obține rezultate care seamănă cu asta.
• Când ai încărcat un CV al unei femei, acesta, în egală măsură, îl aprindea în roșu, spre deosebire de lumina verde pentru un bărbat, toate celelalte la fel.

Apariția ChatGPT și acum GPT-4, interfața de inteligență artificială de la OpenAI care va discuta cu tine, va răspunde la întrebări și va scrie în mod acceptabil o lucrare de liceu, este atât o diversiune ciudată, cât și un prevestitor al modului în care inteligența artificială schimbă modul în care trăim.

Reid Blackman, care a consiliat companii și guverne cu privire la etica digitală și a scris cartea „Mașini etice”, a oferit un interviu pentru CNN, care se concentrează pe defectele inteligenței artificiale, dar recunoaște și modul în care aceasta va schimba viața oamenilor în moduri remarcabile.

Ce este AI?

Reporter: Care este definiția inteligenței artificiale și cum interacționăm cu ea în fiecare zi?

BLACKMAN: Este foarte simplu. Se numește: învățarea automată. Tot ceea ce înseamnă este un software care învață prin exemplu. Toată lumea știe ce este software-ul; îl folosim tot timpul. Orice site pe care accesați, interacționați cu software-ul. Știm cu toții ce înseamnă să înveți prin exemplu, nu?

Interacționăm cu el în fiecare zi. O modalitate obișnuită este în aplicația de fotografii. Poate recunoaște când este o fotografie cu tine sau câinele tău sau fiica ta sau fiul tău sau soțul tău, indiferent. Și asta pentru că i-ai dat o grămadă de exemple despre cum arată acei oameni sau acel animal.

Telefonul tău știe multe despre tine

Reporter: Este un fel de înfricoșător prima dată când cauți numele unei persoane în fotografiile tale și telefonul tău a aflat numele tuturor fără să spui.

BLACKMAN: Atrage informații de peste tot. În multe cazuri, am etichetat fotografii sau este posibil să aveți la un moment dat, etichetat o fotografie a ta sau a altcuiva și pur și simplu merge de acolo.

Mașini cu conducere autonomă. Inteligența artificială?

Reporter: OK, voi enumera câteva lucruri și vreau să-mi spui dacă simți că acesta este un exemplu de AI sau nu. Mașini cu conducere autonomă.

BLACKMAN: Este un exemplu de aplicare a inteligenței artificiale sau a învățării automate. Folosește o mulțime de tehnologii diferite, astfel încât să poată „învăța” cum arată un pieton când traversează strada. Poate „învăța” ce sunt liniile galbene de pe stradă sau unde sunt. Când Google îți cere să verifici că ești om și dai clic pe toate acele imagini – da, acestea sunt toate semafoarele, acestea sunt toate semnele de oprire din imagini.

Tu participi la el; îi spui că acestea sunt lucrurile la care trebuie să fii atent – așa arată un semn de stop. Și apoi folosesc acele lucruri pentru mașinile care se conduc singure pentru a recunoaște că este un semn de oprire, că este un pieton, este un hidrant de incendiu.

De ce AI este părtinitoare, rasistă și sexistă?

BLACKMAN: Problema părtinirii, sau inteligența artificială discriminatorie, este o problemă separată. Inteligența artificială este doar un software care învață prin exemplu. Deci, dacă îi dați exemple care conțin sau reflectă anumite tipuri de atitudini discriminatorii veți obține rezultate care seamănă cu asta.

Oarecum infam, Amazon a creat un software AI pentru citirea CV-urilor. Ei primesc zeci de mii de aplicații în fiecare zi. Obținerea unui om să se uite sau a unei serii de oameni la care să se uite, toate aceste aplicații este fenomenal de consumatoare de timp și de costisitoare.

Așadar, de ce nu dăm către inteligența artificială toate aceste exemple de CV-uri de succes? Acesta este un CV pe care un om l-a considerat a fi demn de un interviu. Să obținem CV-urile din ultimii 10 ani. Și i-au dat AI să învețe prin exemplu care sunt CV-urile demne de interviu versus CV-urile care nu merită interviuri. Ceea ce a învățat din acele exemple – contrar intențiilor dezvoltatorilor, de altfel – este că nu angajăm femei pe aici.

Când ai încărcat un CV al unei femei, acesta, în egală măsură, îl aprindea în roșu, spre deosebire de lumina verde pentru un bărbat, toate celelalte la fel. Acesta este un caz clasic de IA părtinitoare sau discriminatorie. Nu este o problemă ușor de rezolvat. De fapt, Amazon a lucrat la acest proiect timp de doi ani, încercând diferite tipuri de tehnici de atenuare a părtinirii. Și, la sfârșitul zilei, nu au putut să-l demodeze suficient, așa că l-au aruncat.

Aceasta este de fapt o poveste de succes, într-un anumit sens, pentru că Amazon a avut bunul simț să nu lanseze AI. Există multe alte companii care au lansat AI părtinitoare și nici măcar nu au făcut investigația pentru a afla dacă sunt părtinitoare. Nu puteți depinde doar de un om de știință de date sau de un dezvoltator. Ei au nevoie de sprijin organizațional pentru a face acest lucru, pentru că ceea ce știm este că, dacă vor să demodeze suficient această IA, este nevoie de implicarea unei game variate de experți.