Lensa, care a fost lansată ca o aplicație de editare foto în 2018, de Prisma Labs, a devenit virală pe internet pentru noua sa funcție “Magic Avatar”, generată de AI.

Aplicația le generează utilizatorilor portrete digitale transformate într-o gamă de stiluri, de la anime, zâne eterice, întruchipări celeste sau figuri spațiale în stil David Bowie. Condiția este să achite o sumă mică de bani și să încarce 10-20 de selfie-uri. “Magic Avatar” costă minim 6 dolari, iar un abonament anual este de 53,99 de dolari.

Instrumente folosite de aplicație sunt concepute pentru a scoate în evidență trăsăturile faciale, pentru a corecta imperfecțiunile feței și pentru a face selfie-urile să arate fără cusur.

Oamenii sunt mai mereu atrași de tendințe, mai ales în mediul online, iar o mulțime de celebrități și utilizatori ai rețelelor de socializare s-au grăbit să-și împărtășească creațiile.

Pericolele din spatele aplicației

Cu toate acestea, populara funcție a generat o mulțime de probleme companiei, fiind acuzată că fură munca unor artiști și că se implică în practici prădătoare de schimb de date.

„Modelele AI care folosesc artă fără consimțământ pot dăuna artiștilor. Lucrăm neobosit pentru a ne dezvolta abilitățile și stilurile doar pentru un proiect „nonprofit” pentru a folosi abilitățile și stilurile respective fără consimțământ și compensație. Nu cred că arta AI este rea în mod inerent, dar atunci când artiștii sunt excluși din conversație, suntem profitați de noi. Vă rugăm să transmiteți mesajul altora, astfel încât aceștia să înțeleagă răul pe care aceste aplicații și modele de artă AI îl pot face artiștilor”, a atenționat un utilizator pe Instagram.

În discuție a apărut și faptul că aplicația are tendința algoritmică de a sexualiza subiecții într-o măsură care nu este doar incomodă, ci și potențial periculoasă.

Mai mult, aplicația a generat astfel de imagini cu copii, chiar dacă termenii și condițiile prezentate instruiesc utilizatorii să trimită numai conținut adecvat, fără nuduri sau imagini implicite cu copii.

CEO-ul și co-fondatorul Prisma Lab, Andrey Usoltsev, a declarat pentru TechCrunch că aceste lucruri au scăpat de sub control pentru că funcția AI a fost provocată în mod intenționat pentru a crea acest tip de conținut – ceea ce reprezintă o încălcare a termenilor împotriva utilizării acestuia.

„Dacă un individ este hotărât să se angajeze într-un comportament dăunător, orice instrument ar avea potențialul de a deveni o armă”, a spus el.

De asemenea, mulți utilizatori au susținut că aplicația le-a modificat culoarea pielii – o plângere comună a software-ului de editare a imaginilor pe platforme precum TikTok.

Politica de confidențialitate a companiei spune că nu folosește fotografii pentru niciun alt motiv decât aplicarea de „filtre sau efecte stilizate”, iar datele feței sunt șterse automat în 24 de ore de la procesare.

Totuși, orice aplicație care colectează date poate prelua alte informații de pe dispozitiv și nu este clar dacă alt conținut personal, cum ar fi locația, ar putea fi partajat – chiar dacă neintenționat – fără un audit complet. De aceea, înainte de folosi o aplicație, este indicat să acordați cel puțin un minut pentru a răsfoi politica de confidențialitate și termenii de utilizare pentru a înțelege mai bine ce face aceasta cu datele stocate.

În prezent, Lensa AI este cea mai descărcată aplicație pentru fotografii și videoclipuri din magazinul iOS. Conform estimărilor preliminare furnizate de Sensor Tower, peste 4 milioane de oameni din întreaga lume au descărcat aplicația în primele cinci zile ale lunii decembrie. În aceeași perioadă, utilizatorii au cheltuit peste 8 milioane de dolari în aplicație.

Prisma Labs, compania din spatele Lensa, a devenit virală în 2016, cu o aplicație similară care a transformat fotografiile de pe smartphone în picturi.