Inteligență artificială responsabilă: Microsoft restricționează tehnologiile de recunoaștere facială

• Microsoft reduce disponibilitatea recunoașterii faciale pentru clienții săi.
• Există îngrijorări cu privire la confidențialitatea utilizatorilor.
• Tehnologia este capabilă să detecteze emoțiile, vârsta și sexul utilizatorilor.

Microsoft a identificat probleme legate de recunoașterea facială și limitează funcțiile disponibile pentru public ca parte a unui efort mai amplu de utilizare etică a inteligenței artificiale.

Microsoft limitează accesul la anumite elemente ale tehnologiei sale de recunoaștere facială. Vor fi eliminate anumite funcțiuni care detectează caracteristici controversate, precum vârsta, sexul și starea emoțională a unei persoane. Ei au precizat că experții „din interiorul și din afara companiei” au evidențiat probleme legate de modul în care IA detectează emoțiile. Principalele preocupări în legătură cu acest tip de funcție sunt legate de confidențialitate.

Drept urmare, unele aspecte ale tehnologiei de recunoaștere facială a Microsoft sunt retrase, inclusiv capacitatea de a detecta emoțiile, sexul sau vârsta. Aceste caracteristici nu mai sunt disponibile pentru clienții noi și vor fi întrerupte pentru clienții existenți în termen de un an. Clienții noi care doresc să utilizeze serviciul de recunoaștere facială Azure Face, vor trebui să solicite acces și să explice cum intenționează să utilizeze sistemul. Clienții existenți au la dispoziție un an pentru a solicita și a primi aprobarea pentru continuarea accesului.

Microsoft și etica inteligenței artificiale

Decizia face parte dintr-un efort mai amplu al companiei Microsoft de a restricționa utilizarea produselor sale de inteligență artificială. Compania tehnologică și-a actualizat Standardul de Inteligență Artificială Responsabilă, un document de 27 de pagini care stabilește cerințele privind responsabilitatea sistemelor de inteligență artificială și impactul acestora asupra societății.

„Recunoaștem că, pentru ca sistemele de inteligență artificială să fie demne de încredere, acestea trebuie să fie soluții adecvate pentru problemele pe care sunt concepute să le rezolve”, a declarat Natasha Crampton, directorul responsabil pentru inteligență artificială al Microsoft, într-o postare pe blog.

„Ca parte a activității noastre de aliniere a serviciului nostru Azure Face la cerințele standardului Responsible AI Standard, retragem, de asemenea, funcții care deduc stări emoționale și atribute de identitate, cum ar fi sexul, vârsta, zâmbetul, părul facial, părul și machiajul.”

Deși funcțiile de detectare a emoțiilor nu vor fi disponibile pentru uz public, Sarah Bird, managerul principal al grupului de produse Microsoft pentru Azure AI, a declarat că societatea recunoaște că „aceste capacități pot fi valoroase atunci când sunt utilizate pentru un set de scenarii de accesibilitate controlată”.

Îngrijorări în legătură cu recunoașterea facială

În ultimii ani, au fost exprimate îngrijorări cu privire la tehnologia de recunoaștere facială în ceea ce privește supravegherea, confidențialitatea, consimțământul, acuratețea și subiectivitatea.

Alte companii de tehnologie au luat măsuri similare în acest domeniu. Meta a anunțat în noiembrie anul trecut că va șterge datele de recunoaștere facială de la peste 1 miliard de utilizatori colectate de-a lungul unui deceniu, iar IBM a anunțat că intenționează să renunțe la software-ul său de recunoaștere facială din cauza preocupărilor legate de supravegherea în masă sau de profilarea rasială.

Anul trecut, UE a publicat propuneri de reglementare a inteligenței artificiale, dar acestea au fost criticate de organismele de supraveghere ale UE pentru că nu merg suficient de departe în ceea ce privește recunoașterea facială în timp real în locuri publice. Deputații europeni au cerut interzicerea tehnologiilor biometrice de supraveghere în masă.

În pofida îngrijorărilor exprimate, tehnologia este în continuare utilizată în multe domenii. Luna trecută, The Irish Times a relatat că se așteaptă ca Garda Síochána să primească noi competențe pentru a utiliza recunoașterea facială pentru identificarea criminalilor în Irlanda. De asemenea, compania Clearview AI, specializată în tehnologia de recunoaștere facială, s-a confruntat cu critici și presiuni din partea organismelor de supraveghere din întreaga lume.

Dr. Kris Shrishak, de la Consiliul irlandez pentru libertăți civile, a declarat recent pentru SiliconRepublic.com că ar putea fi dificil pentru autoritățile de reglementare să pună în aplicare hotărârile împotriva Clearview AI, deoarece aceasta are sediul central în SUA. El a spus că ar fi mai ușor să aibă „dinți de executare” dacă o autoritate din SUA ar lua măsuri împotriva tehnologiei.