Tinerii din Tennessee dau în judecată xAI, compania lui Elon Musk, pentru materiale de abuz sexual generate de AI
Tinerii din Tennessee au dat în judecată compania de inteligență artificială a lui Elon Musk, xAI, afirmând că modelele de AI ale companiei au fost folosite pentru a crea imagini și videoclipuri nud nonconsensuale cu ei. Potrivit npr.org, procesul a fost intentat de trei adolescenți care susțin că aplicația alimentată de modelul său de limbaj a generat astfel de materiale când ei erau fete.
👉 Plângeri și descrieri ale materialelor generate
În plângerea depusă, se menționează: „Ca o păpușă adusă la viață prin arte întunecate, acest copil poate fi manipulat în orice poziție, oricât de bolnavă, oricât de fetishizată, oricât de ilegală. Pentru privitor, videoclipul rezultat pare complet real.” De asemenea, se subliniază că „pentru copil, trăsăturile sale identificatoare vor fi acum pentru totdeauna atașate unui videoclip care o prezintă în abuz sexual infantil”.
👉 Detalii despre proces și acuzațiile aduse xAI
Deși autorul nu a folosit chatbot-ul Grok al xAI sau platforma de socializare X (deținută de xAI), procesul susține că acesta s-a bazat pe o aplicație nerecunoscută care utiliza algoritmul xAI, conform informațiilor din partea autorităților. Reclamanții acuză xAI că a licențiat deliberat tehnologia sa către dezvoltatorii de aplicații, adesea în afara SUA, afirmând că „în acest fel, xAI putea încerca să externalizeze responsabilitatea pentru instrumentul lor incredibil de periculos.”
Acesta este primul proces în care xAI este acuzată de minori care sunt reprezentați în materialul de abuz sexual infantil pe care modelul său l-ar fi generat. Instrumentele de generare a imaginilor ale xAI au fost implicate în producerea a milioane de imagini sexualizate de persoane în ultimul an.
Influencera Ashley St. Clair, care are un copil cu Musk, a intentat proces împotriva companiei la începutul acestui an pentru imagini produse de AI pe X, în care era prezentată nud când era adolescentă. Potrivit plângerii, autorul imaginilor sexualizate avea o „relație apropiată și prietenoasă” cu unul dintre reclamanți și a folosit fotografii pe care acesta i le-a trimis, precum și poze adunate dintr-un album și de pe rețelele sociale pentru a crea imaginile și videoclipurile. O plângere menționează că un videoclip o prezenta pe una dintre reclamanți „dezbrăcându-se până a devenit complet nud.”
Reclamanții au fost șocați de cât de realiste erau imaginile și videoclipurile. Mai mult, materialele nu erau etichetate ca fiind generate de AI. Autorul a realizat, de asemenea, materiale sexuale explicite pentru alte 18 persoane și le-a schimbat cu imagini ale altor persoane online. Aceasta a fost arestat, conform plângerii.
Avocata reclamanților, Vanessa Baehr-Jones, a declarat că adolescenții, identificați ca Jane Does 1, 2 și 3 în plângere, doresc să schimbe modul în care companiile de AI iau decizii de afaceri în legătură cu conținutul sexual explicit, spunând: „Vrem să facem ca aceasta să nu mai aibă sens din punct de vedere economic.” Reclamanții cer instanței daune pentru suferința emoțională și alte prejudicii cauzate de imagini.
Aproape de umbrele internetului, aplicațiile cu funcții de „nudificare” au existat timp de ani de zile. Însă anul trecut, companii majore de AI, inclusiv Google, OpenAI și xAI, și-au actualizat instrumentele de generare a imaginilor pentru a permite utilizatorilor să dezvăluie persoanele. Însă imaginile create de Google și OpenAI includ watermark-uri digitale care dezvăluie originea lor AI. Până acum, xAI nu a adoptat un astfel de standard. Compania xAI nu a răspuns la o solicitare de comentariu.