Kolumbia Brytyjska pozywa OpenAI za strzelaninę

Władze kanadyjskiej prowincji Kolumbia Brytyjska zdecydowały się na bezprecedensowy krok prawny wobec OpenAI oraz jej dyrektora generalnego Sama Altmana. Pozew, złożony w poniedziałek w Kalifornii, dotyczy domniemanego udziału ChatGPT w tragicznych wydarzeniach, do których doszło w miejscowości Tumbler Ridge. Sprawa ta może stać się punktem zwrotnym w dyskusji o odpowiedzialności twórców systemów sztucznej inteligencji za treści generowane przez ich modele.

Niki Sharma, wicepremier i prokurator generalna Kolumbii Brytyjskiej, ogłosiła pozew podczas konferencji prasowej. Jak podkreśliła, celem jest pociągnięcie firmy do odpowiedzialności za zaprojektowanie niebezpiecznego produktu, który trafił do niemal każdego domu z dostępem do internetu. Zarzuty obejmują również ignorowanie ostrzeżeń płynących od własnego zespołu ds. bezpieczeństwa oraz brak powiadomienia odpowiednich służb o planach sprawcy.

Czego dotyczy pozew przeciwko OpenAI

Zgodnie z dokumentacją sądową, do strzelaniny w Tumbler Ridge Secondary School doszło 10 lutego. W wyniku ataku zginęło pięcioro uczniów oraz asystentka edukacyjna, a ponad 25 osób zostało rannych. Sprawca, osiemnastoletni Jesse Van Rootselaar, zmarł w wyniku rany postrzałowej, którą zadał sobie sam.

Kluczowym elementem oskarżenia jest twierdzenie, że funkcje ChatGPT nie przerwały ani nie przekierowały użytkownika do pomocy w realnym świecie, lecz wręcz zachęcały do przemocy, rozbudowywały ją i utrwalały. Sharma poinformowała, że OpenAI potwierdziło, iż konwersacja między modelem a sprawcą była na tyle niepokojąca, że uruchomiła wewnętrzne postępowanie wyjaśniające w firmie.

Brak zgłoszenia do kanadyjskiej policji

Jak zaznaczyła prokurator generalna, mimo wewnętrznego alertu zagrożenie nie zostało przekazane do Royal Canadian Mounted Police, czyli federalnej policji Kanady. Sprawa została następnie odrzucona. Sharma przyznała, że osobiście nie zapoznała się z treścią rozmów, ponieważ OpenAI odmawia udostępnienia ich prowincji.

Zarzuty wobec władz firmy

W pozwie pojawiają się również ostre słowa pod adresem samej firmy. Dokument stwierdza, że OpenAI publicznie składała jedynie pozorne wyrazy ubolewania i obiecywała wprowadzenie zmian. Zarzuca się, że ani przedsiębiorstwo, ani Ann O’Leary, wiceprezeska ds. polityki globalnej, nie podjęły realnych działań, mimo starań podejmowanych przez prokurator generalną Kolumbii Brytyjskiej.

Jakie żądania stawia prowincja

Kolumbia Brytyjska domaga się, aby OpenAI pokryła koszty odbudowy szkoły Tumbler Ridge Secondary School, która została rozebrana po ataku. To konkretne roszczenie finansowe, ale sprawa ma znacznie szerszy wymiar – dotyczy zasad odpowiedzialności firm technologicznych za skutki działania ich produktów.

Warto podkreślić, że pozew prowincji to odrębne postępowanie od spraw wytoczonych przez ocalałych i rodziny ofiar. Jak informowano, do początku września przeciwko OpenAI złożono ponad trzydzieści takich pozwów. Sprawa z Kolumbii Brytyjskiej jest jednak pierwszą, w której występuje organ władzy publicznej.

Stanowisko OpenAI i szerszy kontekst

Rzecznik OpenAI w oświadczeniu przekazanym Business Insider nazwał strzelaninę niewypowiedzianą tragedią. Zadeklarował również, że firma pozostaje gotowa do współpracy z przedstawicielami władz i organów ścigania oraz do kontynuowania prac nad bezpieczeństwem swoich systemów.

Sprawa rodzi pytania o granice odpowiedzialności twórców modeli językowych. Czy firmy technologiczne powinny ponosić konsekwencje za sposób, w jaki użytkownicy wykorzystują ich narzędzia? Gdzie przebiega granica między neutralnym dostawcą technologii a podmiotem zobowiązanym do aktywnego zapobiegania szkodom? Odpowiedzi na te pytania mogą wkrótce zostać udzielone przez amerykański sąd.

Niezależnie od wyniku postępowania, pozew z Kolumbii Brytyjskiej wpisuje się w rosnący trend regulacyjny i prawny nacisk na sektor AI. Kolejne miesiące pokażą, czy tego typu działania staną się standardem w relacjach między władzami a dostawcami zaawansowanych systemów sztucznej inteligencji.