Zdjęcie: © Steve A Johnson / Unsplash
Źródło: unsplash.com/photos/ZPOoDQc8yMw
Apple usunęło z App Store aplikację Kromix, która była reklamowana jako narzędzie do stylizacji obrazów, ale pozwalała tworzyć pornograficzne obrazy i filmy z udziałem prawdziwych osób. Decyzja zapadła po pytaniach redakcji WIRED. Wcześniej Meta wyświetlała na swoich platformach reklamy promujące możliwości aplikacji, w tym generowanie intymnych materiałów bez zgody przedstawionych osób.
Jedna z reklam Kromix przedstawiała kobietę bardzo podobną do znanej amerykańskiej polityczki, stojącą na tle amerykańskich flag. Po krótkiej scenie, w której kobieta mruga, materiał przechodził do pornograficznego filmu z kobietą o tej samej twarzy. Lektor zachęcał do korzystania z narzędzia bez ograniczeń i przekonywał, że wszystkie przedstawiane postacie są prawdziwymi osobami. Reklama była kierowana wyłącznie do mężczyzn i należała do kampanii zatytułowanej „Unleash Next-gen AI Magic”.
Słownik artykułu
Krótkie objaśnienia terminów występujących w tekście. Każde hasło prowadzi do szerszej definicji i przykładów użycia.
Narzędzie wykorzystujące sztuczną inteligencję do tworzenia fikcyjnych nagich lub seksualnych wizerunków osób na podstawie ich zdjęć.
Intymny materiał przedstawiający osobę, który powstał lub został rozpowszechniony bez jej zgody.
Treść cyfrowa, na przykład nagranie głosu, obrazu lub filmu, sztucznie wygenerowana albo zmodyfikowana tak, aby wiarygodnie naśladowała konkretną osobę.
Kromix był wcześniej dostępny w App Store. Płatni użytkownicy mogli przesyłać zdjęcia i umieszczać przedstawione na nich osoby w różnych scenariuszach, w tym opisanych jako „gwałt w sypialni” oraz „miłość Disneya”. Aplikacja generowała także pornograficzne filmy AI z kobietami w kostiumach Spider-Mana. Apple poinformowało, że twórca dodał zakazane treści po zakończeniu pierwszej kontroli aplikacji.
Firma przypomniała, że jej wytyczne zabraniają aplikacji przeznaczonych do tworzenia lub rozpowszechniania pornografii, w tym narzędzi typu nudify. Apple zapowiedziało również, że aktywnie usuwa programy naruszające te zasady. Przypadek Kromix pokazuje, że obecność aplikacji w sklepie nie musi oznaczać, że wszystkie jej funkcje pozostają zgodne z regułami platformy. Zmiana funkcji po zatwierdzeniu może wymagać kolejnej reakcji operatora sklepu.
Incydent jest kolejnym przykładem trudności Meta z blokowaniem reklam usług tworzących intymne materiały bez zgody. Badacze oraz sama firma dokumentowali wcześniej tysiące podobnych reklam. Meta podała, że od końca ubiegłego roku do początku tego roku usunęła ponad 340 tysięcy reklam promujących usługi typu nudify. Firma podjęła także działania prawne wobec co najmniej jednego twórcy takiego narzędzia.
Standardy reklamowe Meta zabraniają publikowania seksualnych obrazów, nagości oraz promocji aplikacji typu nudify i narzędzi do generowania pocałunków AI. System kontroli reklam opiera się głównie na automatyzacji, a firma deklaruje, że wzmacnia zabezpieczenia przed próbami ich omijania. Jedną ze stosowanych metod jest używanie neutralnych zdjęć, na przykład plaż lub gór, jako osłony dla treści pornograficznych.
Cindy Southworth, odpowiadająca w Meta za bezpieczeństwo kobiet, określiła promowanie takich aplikacji jako przerażające. Firma przekazuje innym przedsiębiorstwom technologicznym informacje o usuniętych programach i sprawdza, w jaki sposób konkretne reklamy ominęły systemy wykrywania. Tech Transparency Project, organizacja, która odkryła kampanię, zwróciła uwagę, że tego typu materiały seksualizują przede wszystkim kobiety. Badacze wskazują też, że zdjęcia polityczek i nagrania z ich wystąpień są coraz częściej wykorzystywane jako materiał wejściowy dla prostych w obsłudze narzędzi AI.
Brak komentarzy. Bądź pierwszy!
