XAI nu poate nega că Grok produce CSAM. Așa că dă în judecată utilizatorii.
Potrivit arstechnica.com, xAI, compania fondată de Elon Musk, a depus marți prima acțiune împotriva unui utilizator acuzat că a folosit chatbot-ul Grok pentru a crea materiale de abuz sexual asupra copiilor (CSAM). Aceasta vine în contextul în care xAI se confruntă cu presiuni tot mai mari de a recunoaște că Grok poate genera imagini sexualizate neconsensuale ale adulților și minorilor.
👉 Acțiunea în justiție împotriva unui utilizator acuzat de utilizarea Grok pentru CSAM
Acțiunea în justiție îl vizează pe Terry Wayne Harwood, arestat anul acesta pentru deținerea și distribuția materialelor de abuz sexual asupra copiilor, conform biroului procurorului din Carolina de Sud. xAI susține că a ajutat la arestarea lui Harwood, după ce a descoperit că acesta a folosit două conturi xAI timp de luni de zile pentru a „dezvălui” sau „nudifica” imagini non-sexuale ale mai multor victime, inclusiv o fetiță care părea să aibă aproximativ 10 ani.
Cazul vine la mai puțin de o săptămână după ce o altă fetiță a aderat la o acțiune de clasă propusă, reprezentând mai mulți copii care au suferit din cauza Grok. Aceasta a declarat că tatăl ei vitreg s-a sinucis după ce a fost descoperit că folosește Grok, posibil împreună cu alte instrumente AI, pentru a crea 7.000 de imagini sexualizate cu ea și apoi le-a distribuit pe dark web. În această instanță, victima a acuzat că xAI a refuzat să ajute poliția să identifice utilizatorul care a încărcat imaginea ei pe Grok.
👉 Critici privind modul de raportare și reacțiile companiei
În sprijinul afirmațiilor că practica xAI este obișnuită, avocații ei au citat un raport din 2026 al Centrului Național pentru Copii Dispăruți și Exploatați (NCMEC), confirmând că 90% din rapoartele CyberTipline ale xAI „nu au fost acționabile de către autoritățile de aplicare a legii, deoarece xAI a refuzat să includă informațiile utilizatorului care ar permite autorităților să urmărească și să localizeze faptele”.
În timp ce victimele acuzau xAI că își protejează prădătorii, Musk a susținut anterior că nu a văzut exemple de CSAM generate de Grok. În loc să se miște pentru a restricționa output-urile Grok pentru a face imposibile generarea CSAM, Musk a avertizat utilizatorii să acționeze responsabil, postând pe X pe 3 ianuarie că „oricine folosește Grok pentru a crea conținut ilegal va suferi aceleași consecințe ca și cum ar încărca conținut ilegal”. Totuși, Harwood a ignorat, se pare, avertismentul lui Musk, solicitând lui Grok de atâtea ori cât era necesar pentru a genera probabil imagini explicite non-consensuale.
Acțiunea lui xAI susține că Harwood a folosit cel puțin două conturi cu nume de utilizator complicate pentru a genera conținut ilegal între 8 decembrie și 18 februarie. Deși unele măsuri de protecție ale Grok au oprit output-uri dăunătoare, refuzând să urmeze unele dintre solicitări pe baza faptului că astfel de materiale încalcă regulile de moderare a conținutului ale Grok.
Acest proces include un exemplu de un prompt deosebit de ciudat pe care Grok l-a respins, folosind expresii precum „slime alb” pentru a masca intenția de a genera imagini sexualizate. Un prompt specific a fost respins deoarece Harwood a cerut explicit chatbot-ului să „îndepărteze toată îmbrăcămintea ei”, ceea ce încalcă termenii de utilizare ai xAI împotriva solicitărilor de a dezvălui persoane reale.
În cadrul acțiunii de clasă propuse, se susține că xAI trece cu vederea multe solicitări dăunătoare, raportând la NCMEC doar un prompt de a ilustra „viol în grup” din 7.000 de output-uri dăunătoare în cazul celei mai recente victime. Pentru a evita ca alți actori rău intenționați să ocolească măsurile de protecție, xAI nu a inclus exemple de solicitările de succes ale lui Harwood sau metodele utilizate pentru a ocoli filtrele, ci doar a susținut că Harwood și-a modificat solicitările pentru a eluda măsurile de protecție, „în clară încălcare a termenilor de serviciu xAI și a legislației din SUA”.
👉 Aspecte legale ale procesului și responsabilitatea utilizatorilor
Un purtător de cuvânt al biroului procurorului general din Carolina de Sud a declarat pentru Ars că cazul lui Harwood este încă în desfășurare. Specific, el a fost acuzat de „distribuirea, transportul, expunerea, primirea, vânzarea, achiziționarea, schimbul sau solicitarea CSAM care a fost 'prin utilizarea unei platforme de inteligență artificială'”. Purtătorul de cuvânt nu a fost autorizat să verifice dacă Grok a fost platforma utilizată.
Totuși, plângerea lui xAI susține că „pe baza informațiilor și a credințelor, cel puțin unele dintre imaginile aflate în litigiu au fost generate sau modificate prin utilizarea incorectă a Grok de către pârât”. xAI nu a răspuns imediat solicitării Ars de comentarii.
În cadrul procesului, xAI își susține cazul pentru care doar utilizatorii ar trebui să fie răspunzători pentru CSAM generat de Grok. Dacă instanța va fi de acord, o astfel de concluzie ar putea întări apărarea xAI în acțiunea de clasă potențială, ce ar putea implica mii de victime. De asemenea, ar putea oferi xAI un instrument de acțiune împotriva altor utilizatori ori de câte ori o victimă se prezintă cu o plângere.
xAI a declarat că dă în judecată parțial pentru încălcarea contractului pentru a evita „costuri legale substanțiale” și „riscul unei răspunderi considerabile pentru daune” care ar putea fi solicitate dacă oricare dintre victimele sale presupuse ar da în judecată xAI din cauza utilizării abuzive a Grok a lui Harwood.
Compania lui Musk a argumentat că Grok ar trebui să fie considerat de instanță „un instrument neutru, supus controlului utilizatorului”. „Ca orice instrument AI generativ, fiecare răspuns, fiecare imagine, fiecare generație este rezultatul solicitărilor și direcțiilor utilizatorului”, a argumentat xAI. Plângerea subliniază că termenii de utilizare ai xAI trasează „o linie clară” între utilizările sigure ale Grok și cele care sunt dăunătoare, iar fiecare utilizator acceptă termenii la înscriere.
În cazul lui Harwood, utilizatorii Grok sunt interziși să utilizeze Grok pentru a „dezvălui sau nudifica persoane reale” sau pentru a modifica „imaginea sau asemănarea unei persoane reale pentru a-i ilustra într-un context intim sau sexual”. Termenii xAI specifică, de asemenea, că este interzisă „ilustrarea asemănărilor persoanelor într-un mod pornografic” sau „sexualizarea sau exploatarea copiilor”. S-a menționat în plus că orice CSAM descoperit de xAI este raportat la NCMEC.
În plângerea sa, xAI a susținut că Harwood este pe deplin responsabil pentru output-urile sale, deoarece a „încălcat flagrant” regulile xAI și „a depus eforturi considerabile pentru a eluda” măsurile tehnologice de protecție ale Grok. Acesta din urmă a făcut acest lucru bazându-se pe „solicitări înșelătoare”, a spus xAI. De asemenea, Harwood nu a reușit să-și supravegheze acțiunile după ce a văzut că poate genera conținut ilegal, a argumentat xAI.
În plângerea sa, xAI a afirmat că Harwood ar fi trebuit să știe că i s-a interzis să folosească Grok după prima dată când a utilizat chatbot-ul pentru a crea conținut ilegal. Cu toate acestea, xAI nu indică explicit că Harwood a primit vreo avertizare că contul său risca penalizări. În schimb, Harwood a continuat să folosească Grok în perioada relevantă după ce a încălcat termenii de serviciu ai xAI, a argumentat compania.
xAI speră ca tribunalul din districtul SUA să decidă că Harwood a încălcat termenii xAI și a încălcat contractul cu xAI. Dar poate mai important, Musk dorește ca instanța să recunoască o clauză de indemnizare care recunoaște că doar utilizatorii—și nu xAI—sunt răspunzători pentru CSAM și NCII generate de Grok. Potrivit xAI, atunci când oamenii folosesc Grok, ei sunt responsabili pentru tot conținutul lor, ceea ce xAI a insistat că include atât inputurile, cât și outputurile. Dacă instanța va fi de acord că utilizatorii sunt responsabili pentru output-urile AI, rămâne de văzut. Este important de menționat că Biroul de Copyright nu consideră output-urile AI ca fiind create de oameni. Aceasta ar putea complica apărarea xAI, dacă instanța se străduiește să înțeleagă cum imagini de abuz sexual asupra copiilor generate de un instrument AI ar putea fi create de utilizator, dacă alte imagini nu ar putea fi acreditate în acest fel.
Dacă xAI câștigă această luptă, Harwood ar putea datora daune substanțiale, inclusiv daune pentru „orice daună reală cauzată unor terțe părți”, „expunerea xAI la posibile reclamații și procese ale terților” și „orice prejudiciu reputațional xAI