Începe nebunia! Deep-Live-Cam provoacă îngrijorare / Deschis la fraude și înșelătorii online…

Începe nebunia!

Deep-Live-Cam este un nou software viral, care provoacă îngrijorare în rândul programatorilor și nu numai. Acesta permite oricui să creeze deepfake-uri live pornind de la o simplă imagine. Un exemplu este cel al unui utilizator care a realizat un live cu fața lui JD Vance, colegul de campanie al lui Donald Trump.

Conform Aleph News, Deep-Live-Cam este un software bazat pe A.I. care permite crearea de deepfake-uri live folosind doar o singură imagine. Dezvoltat de Hacksider, acesta folosește modele de învățare automată, precum GFPGAN și inswapper, și poate funcționa atât pe platforme GPU, cât și CPU. Practic, utilizatorii pot încărca o imagine a unui chip, iar software-ul procesează cadrele în timp real, creând o față falsă care poate fi folosită într-un live stream.

Începe nebunia!

În ciuda faptului că dezvoltatorii susțin că software-ul este destinat în principal artiștilor și creatorilor de conținut, posibilitatea de a crea deepfake-uri live dintr-o singură imagine deschide calea pentru fraude, înșelătorii online și alte activități ilegale.

Dezvoltatorii Deep-Live-Cam sunt conștienți de riscurile potențiale ale software-ului lor și au inclus un disclaimer pe GitHub. Ei susțin că scopul principal al software-ului este să contribuie pozitiv la industria media generată de A.I., ajutând artiștii cu animații și modele personalizate. Cu toate acestea, subliniază că utilizatorii trebuie să respecte legile locale și să obțină consimțământul persoanelor reale ale căror fețe sunt folosite. De asemenea, utilizatorii sunt sfătuiți să menționeze clar că este vorba de un deepfake atunci când postează astfel de conținut online.

Dezvoltatorii nu își asumă responsabilitatea pentru acțiunile utilizatorilor finali.