Elon Musk próbuje wykorzystać drogę sądową, aby powstrzymać wejście w życie przepisów Minnesoty dotyczących tak zwanej technologii nudification, czyli narzędzi służących do tworzenia lub edytowania zdjęć tak, by przedstawiały osoby w nagości lub w sytuacjach o charakterze intymnym. Firma xAI, twórca Groka i funkcji Grok Imagine, złożyła pozew przeciwko stanowemu zakazowi, przekonując, że regulacja narusza pierwszą poprawkę do Konstytucji Stanów Zjednoczonych. Spór pojawia się po miesiącach krytyki związanej z treściami tworzonymi przez użytkowników Groka, w tym po aresztowaniach osób podejrzewanych o generowanie materiałów przedstawiających seksualne wykorzystywanie dzieci.
Pozew przeciwko Minnesocie jako element szerszej strategii
Pozew złożony w poniedziałek jest kolejnym ruchem xAI w sporze o odpowiedzialność za obrazy i nagrania tworzone przez użytkowników. Wcześniej w tym miesiącu firma zaczęła pozywać osoby, którym zarzuca obchodzenie zabezpieczeń Groka w celu generowania materiałów CSAM, czyli treści przedstawiających seksualne wykorzystywanie dzieci. xAI wydaje się liczyć na to, że korzystne rozstrzygnięcie w jednej z takich spraw pomoże jej wykazać, iż za szkodliwe treści odpowiadają użytkownicy, a nie dostawca narzędzia. W pozwie przeciwko Minnesocie spółka wskazuje własne działania przeciwko domniemanym sprawcom jako dowód, że robi wszystko, co może, by karać osoby nadużywające Groka. Na tej podstawie chce uzyskać ochronę typu safe harbor, czyli ograniczenie odpowiedzialności platformy za treści tworzone przez użytkowników.
Zarzuty dotyczące treści generowanych przez użytkowników
Presję na xAI zwiększyły sprawy dotyczące osób, które miały wykorzystywać Groka do seksualizowania wizerunków dzieci. W ubiegłym tygodniu firma została pozwana po tym, jak powiadomiła policję o znanym fotografiku dziecięcym z Arkansas. Mężczyźnie zarzuca się użycie Groka do seksualizowania zdjęć wykonanych setkom jego klientów. W pozwie złożonym przez dziesięcioletnią Jane Doe stwierdzono, że fotograf miał stworzyć setki obrazów przedstawiających ją oraz tysiące obrazów i nagrań dotyczących innych dzieci. Prawnik dziewczynki powiedział Ars Technica, że kolejne osoby przygotowują własne pozwy. Ich roszczenia mogą zostać dołączone do potencjalnego pozwu zbiorowego złożonego w marcu przez młode dziewczęta z Tennessee. Źródło opisywało też przypadki aresztowań użytkowników Groka, a xAI twierdzi w swoim pozwie, że spośród 70 000 zgłoszeń podejrzanych materiałów wygenerowanych przez Groka co najmniej 244 doprowadziły do aresztowań.
- Przepisy Minnesoty mają wejść w życie 1 sierpnia 2026 roku.
- Ustawa może nakładać na firmy kary sięgające 500 000 dolarów za każdy szkodliwy wynik wykryty w stanie.
- Zdaniem xAI przepisy nie wymagają, by obraz został rozpowszechniony, więc potencjalnie obejmują także pliki oglądane wyłącznie przez użytkownika.
- Ofiary mogą pozwać xAI za pojedynczy wynik, co dodatkowo zwiększa finansowe ryzyko dla firmy.
Miliony dolarów za serię wygenerowanych obrazów
W pozwie xAI przekonuje, że konstrukcja kar czyni ryzyko nieproporcjonalnie wysokim. Firma wylicza, że użytkownik proszący o dziesięć obrazów naruszających ustawę mógłby oznaczać dla dostawcy odpowiedzialność sięgającą 5 milionów dolarów. Przy tysiącu takich obrazów potencjalna kara wzrosłaby do 500 milionów dolarów, a przy stu tysiącach wyników mogłaby wynieść 50 miliardów dolarów. Są to przykłady przedstawione przez xAI w pozwie, a nie kary już zasądzone przez sąd. Spółka podkreśla, że szczególne ryzyko wynika z braku wymogu dystrybucji treści oraz z prawa ofiar do występowania z roszczeniami dotyczącymi każdego pojedynczego wyniku.
xAI twierdzi również, że dopiero zagrożenie karami skłoniło ją do przygotowania zmian w Groku. Według pozwu firma zamierza ograniczyć niektóre funkcje edycji obrazów w Grok Imagine, gdy ustawa zacznie obowiązywać. Ma to nastąpić po ponad sześciu miesiącach krytyki i dochodzeń, które wywierały presję na spółkę, by zaostrzyła zabezpieczenia. Jednocześnie xAI deklaruje, że wolałaby pozostawić usługę w obecnej formie i opierać się na warunkach korzystania z Groka. Zgodnie z nimi użytkownicy mogą zostać zablokowani za tworzenie materiałów CSAM oraz intymnych obrazów osób bez ich zgody. Firma argumentuje, że bez wysokich kar nadal oferowałaby funkcję edycji w dotychczasowym kształcie.
Argument xAI: ustawa narusza ochronę wypowiedzi
Obrona Groka opiera się przede wszystkim na pierwszej poprawce do Konstytucji USA. xAI nazywa ustawę Minnesoty niezgrabną próbą zakazania technologii nudification i twierdzi, że przepisy obejmują szeroki zakres wypowiedzi chronionych prawem. Firma wskazuje na obrazy o wartości artystycznej, naukowej, politycznej, satyrycznej, edukacyjnej, medycznej lub religijnej. Jej zdaniem odpowiedzialność może powstać nawet wtedy, gdy osoba przedstawiona na obrazie wyraziła zgodę, sama stworzyła materiał albo gdy plik nigdy nie został nikomu udostępniony. xAI przekonuje, że stan powinien stosować mniej restrykcyjne środki, skupione na rzeczywistych szkodach i dystrybucji treści, zamiast nakładać odpowiedzialność na platformę za sam proces generowania.
Spółka odwołuje się także do federalnej ustawy Take It Down Act. Według xAI ten akt prawny koncentruje się na rozpowszechnianiu prawdziwych i wygenerowanych przez AI intymnych przedstawień, dlatego ma używać węższej definicji części intymnych. Firma uważa, że taki model lepiej chroni przed szkodliwą dystrybucją, a jednocześnie nie obejmuje zwykłych, nieszkodliwych obrazów. xAI stara się w ten sposób przekonać sąd, że Minnesota ma inne możliwości ograniczania nadużyć, bez ingerowania w funkcjonowanie całych narzędzi do generowania obrazów.
Spór o definicję części intymnych
Duża część pozwu dotyczy tego, jak Minnesota definiuje części intymne. xAI preferuje węższe rozwiązanie znane z przepisów przeciwko pornografii odwetowej oraz z Take It Down Act. Obejmuje ono genitalia, okolice łonowe, odbyt oraz częściowo lub całkowicie odsłonięte sutki. Minnesota korzysta natomiast z definicji zaczerpniętej z przepisu karnego dotyczącego niekonsensualnego dotykania. Obejmuje ona między innymi wewnętrzną stronę uda, pośladki, pierś, pachwinę i główny obszar genitalny, zarówno u kobiet, jak i u mężczyzn. xAI twierdzi, że definicja właściwa dla zakazu dotykania nie pasuje do regulowania generowania obrazów i może objąć zwykłe przedstawienia osób bez koszulki, w krótkich spodenkach lub strojach kąpielowych.
W swoich przykładach xAI skupia się na potencjalnie satyrycznych lub politycznych zastosowaniach Groka. Firma wskazuje między innymi na możliwość przedstawiania polityków w strojach kąpielowych albo jako zapaśników sumo, co może wiązać się z odsłonięciem ud i męskiej klatki piersiowej. Pozew ostrożnie odnosi się natomiast do faktu, że wcześniejsza reklama opublikowana przez Muska promowała możliwość przedstawiania dowolnej osoby w bikini. Dokument niewiele miejsca poświęca również samym aresztowaniom użytkowników Groka. xAI podkreśla jednak, że jej system wykrywania szkodliwych treści jest najnowocześniejszy lub niemal doskonały, a użytkownicy, którzy obchodzą zabezpieczenia, powinni ponosić odpowiedzialność za swoje działania.
Stan Minnesota zapowiada obronę ustawy. Biuro prokuratora generalnego Keitha Ellisona przekazało, że czeka na formalne doręczenie pozwu i przeanalizuje sprawę przed sądem. Ellison określił generowanie nagich obrazów osób bez ich zgody jako działanie oburzające, wskazując na możliwe szkody emocjonalne, osobiste i zawodowe oraz utratę godności przez osoby przedstawione na materiałach. Stan argumentuje, że obrazy powinny być blokowane już u źródła, zanim zostaną rozpowszechnione i wywołają długotrwałe konsekwencje dla dzieci oraz ich rodzin. xAI chce natomiast, aby sąd wstrzymał egzekwowanie ustawy wobec aplikacji nudification. Ostateczny wynik będzie zależeć między innymi od tego, czy sąd uzna przepisy za wystarczająco precyzyjne i wąsko dopasowane do celu, jakim jest zapobieganie tworzeniu intymnych obrazów bez zgody. Na tym etapie sąd nie rozstrzygnął jeszcze, czy argumenty xAI są zasadne. Firma nie odpowiedziała Ars Technica na prośbę o komentarz.
