OpenAI i jej CEO Sam Altman przeprosili mieszkańców Tumbler Ridge w prowincji Kolumbia Brytyjska po ujawnieniu, że firma wcześniej zablokowała konto ChatGPT należące do osoby później wskazanej jako podejrzany o dokonanie masowego ataku, lecz nie powiadomiła organów ścigania przed tragedią. W liście do lokalnej społeczności Altman napisał, że jest „głęboko przykro” i przyznał, iż firma nie powiadomiła policji o koncie, które zostało zbanowane w czerwcu 2025 roku. Sprawa trafiła do mediów po dochodzeniu, które ujawniło wewnętrzne dyskusje pracowników OpenAI na temat tego, czy zgłaszać konto władzom.
Chronologia znanych faktów
Według dostępnych informacji, OpenAI zidentyfikowało i zbanowało konto za opisy scen z użyciem broni w czerwcu 2025 roku. W firmie toczyła się debata, czy sytuacja uzasadnia powiadomienie władz, jednak ostatecznie podjęto decyzję o nieinformowaniu policji. Po tym, jak w ataku na społeczność Tumbler Ridge zginęło kilka osób i kiedy lokalne śledztwo wskazało 18-letniego Jesse Van Rootselaar jako podejrzanego, OpenAI skontaktowało się z kanadyjskimi organami ścigania. Po fali krytyki Altman spotkał się z burmistrzem Darrylem Krakowką i premierem Kolumbii Brytyjskiej Davidem Eby, po czym opublikowano publiczne przeprosiny.
Reakcje lokalne i rządowe
List Altmana został najpierw opublikowany w lokalnej gazecie Tumbler RidgeLines. W nim CEO stwierdził: „I am deeply sorry that we did not alert law enforcement to the account that was banned in June”, podkreślając jednocześnie, że słowa nie zniwelują wyrządzonej szkody, ale publiczne przeprosiny były konieczne. Premier David Eby skomentował na platformie X, że przeprosiny są „konieczne, a jednocześnie rażąco niewystarczające” wobec ciężaru strat, jakie poniosły rodziny poszkodowanych. Rząd Kanady rozważa możliwości regulacyjne związane z AI, choć nie podjął jeszcze ostatecznych decyzji.
- Konto ChatGPT zostało zablokowane w czerwcu 2025 za opisy scen z przemocą.
- Wówczas pracownicy OpenAI debatowali o zgłoszeniu do policji, ale nie zrobili tego.
- Po masowym ataku OpenAI skontaktowało się z kanadyjskimi organami ścigania.
- Sam Altman wystosował publiczne przeprosiny i obiecał zmiany w procedurach.
Zmiany w polityce OpenAI
OpenAI poinformowało, że wprowadzi modyfikacje w swoich protokołach bezpieczeństwa. Firma wskazała na zamiar wprowadzenia bardziej elastycznych kryteriów decydujących o skierowaniu kont do organów ścigania oraz na ustanowienie bezpośrednich punktów kontaktowych z kanadyjskimi służbami. Te zapowiedzi mają na celu lepsze rozpoznawanie sytuacji, które mogą stwarzać bezpośrednie zagrożenie, oraz sprawniejsze przekazywanie informacji właściwym instytucjom, gdy zajdzie taka potrzeba.
Zmiany te odpowiadają na krytykę dotyczącą procesów moderacji i reagowania w sytuacjach potencjalnego zagrożenia. W praktyce oznacza to rewizję procedur wykrywania i eskalacji przypadków, w których analiza treści wskazuje na ryzyko przemocy. Takie modyfikacje wymagają jednak starannego wyważenia między ochroną prywatności użytkowników, ograniczeniem ryzyka i współpracą z organami ścigania.
Przypadek Tumbler Ridge wpisuje się w szerszą debatę o tym, jakie obowiązki powinny mieć firmy technologiczne wobec treści generowanych przez użytkowników i jakie mechanizmy zgłaszania ryzyk powinny być normowane prawnie. Platformy AI coraz częściej stoją przed trudnymi wyborami: kiedy wewnętrzne sygnały uzasadniają kontakt z policją, a kiedy działania ograniczają się do zablokowania konta. Rządy rozważają różne podejścia regulacyjne wobec AI, które mogą obejmować wymogi dotyczące raportowania incydentów, standardy bezpieczeństwa czy obowiązki współpracy z organami ścigania — jednak w tym przypadku kanadyjskie władze nie podjęły jeszcze finalnych decyzji.
Dla przemysłu technologicznego i firm rozwijających modele AI sprawa ta jest przypomnieniem o rosnącej odpowiedzialności za wpływ systemów na bezpieczeństwo publiczne. W praktyce oznacza to konieczność jasnych wewnętrznych procedur, lepszej współpracy między podmiotami prywatnymi a służbami publicznymi oraz uważnej pracy nad mechanizmami wykrywania materiałów wskazujących na ryzyko przemocy.
Ostateczne znaczenie tego wydarzenia może przejawiać się zarówno w zmianach operacyjnych w firmach takich jak OpenAI, jak i w ewentualnych regulacjach ustawowych. Sam Altman zadeklarował, że firma będzie „kontynuować pracę z wszystkimi szczeblami władzy, aby pomóc zapewnić, że nic takiego się nie powtórzy”. Dla lokalnej społeczności Tumbler Ridge najważniejsze będą jednak konkretne działania i ich skuteczność w zapobieganiu podobnym tragediom w przyszłości.
