• Deep-Live-Cam permite crearea de deepfake-uri live dintr-o singură imagine.
• Software-ul poate fi folosit pentru fraude sau activități ilegale.
• Dezvoltatorii avertizează asupra utilizării responsabile și cer consimțământ.

Deep-Live-Cam este un nou software viral, care provoacă îngrijorare în rândul programatorilor. Acesta permite oricui să creeze deepfake-uri live pornind de la o simplă imagine. Un exemplu este cel al unui utilizator care a realizat un live cu fața lui JD Vance, colegul de campanie al lui Donald Trump.

Ce este Deep-Live-Cam și cum funcționează?

Deep-Live-Cam este un software bazat pe A.I. care permite crearea de deepfake-uri live folosind doar o singură imagine. Dezvoltat de Hacksider, acesta folosește modele de învățare automată, precum GFPGAN și inswapper, și poate funcționa atât pe platforme GPU, cât și CPU. Practic, utilizatorii pot încărca o imagine a unui chip, iar software-ul procesează cadrele în timp real, creând o față falsă care poate fi folosită într-un live stream.

În acest exemplu un user a reușit să facă un deepfake live cu chipul lui JD Vance. Acest lucru reprezintă o evoluție semnificativă în tehnologia deepfake, care anterior necesita multe imagini și un proces îndelungat.

De ce este preocupantă distribuirea acestui software Deep-Live-Cam?

Deep-Live-Cam a declanșat îngrijorări majore datorită realismului incredibil al rezultatelor sale și a potențialului de a fi folosit în scopuri neetice. În ciuda faptului că dezvoltatorii susțin că software-ul este destinat în principal artiștilor și creatorilor de conținut, posibilitatea de a crea deepfake-uri live dintr-o singură imagine deschide calea pentru fraude, înșelătorii online și alte activități ilegale. Un utilizator de pe platforma X a remarcat că nu vede nicio aplicație a acestui software care să nu fie legată de fraudă sau traficul de persoane, subliniind gravitatea situației.

Cum se apără dezvoltatorii programului Deep-Live-Cam?

Dezvoltatorii Deep-Live-Cam sunt conștienți de riscurile potențiale ale software-ului lor și au inclus un disclaimer pe GitHub.

Ei afirmă că scopul principal al software-ului este să contribuie pozitiv la industria media generată de A.I., ajutând artiștii cu animații și modele personalizate.

Cu toate acestea, ei subliniază că utilizatorii trebuie să respecte legile locale și să obțină consimțământul persoanelor reale ale căror fețe sunt folosite. De asemenea, utilizatorii sunt sfătuiți să menționeze clar că este vorba de un deepfake atunci când postează astfel de conținut online.

Dezvoltatorii nu își asumă responsabilitatea pentru acțiunile utilizatorilor finali.

Citește și

• Oamenii apelează la „ghosting” pe rețelele de socializare tot mai des. Psiholog: „Putem face acest lucru doar atunci când suntem într-o situație periculoasă”
• Inteligența Artificială sperie multinaționalele. Expert HR: „Trebuie să învățăm și să ne pregătim pentru un nivel de complexitate diferit și crescut al joburilor”
• Ion Cristoiu: Cum m-am apucat de Candiano-Popescu