Osiem stanów pozywa OpenAI. Czego żądają?

OpenAI znalazło się w ogniu krytyki ze strony amerykańskich regulatorów. Ośmioro prokuratorów generalnych – reprezentujących Arizonę, Arkansas, Idaho, Iowę, Kansas, Montanę, Nebraskę i Wirginię Zachodnią – złożyło w środę pozwy, w których oskarża firmę o wprowadzanie użytkowników w błąd co do bezpieczeństwa ChatGPT. Zarzuty są poważne: od budowania fałszywego zaufania u nastolatków, przez zbieranie danych dzieci bez wymaganej zgody, po dostarczanie niebezpiecznych porad medycznych.

Sprawa ma charakter ponadpartyjny – prokuratorzy reprezentują różne opcje polityczne, ale łączy ich przekonanie, że OpenAI priorytetowo potraktowało zyski i rozwój technologii kosztem ochrony najmłodszych użytkowników. Każdy stan domaga się innych środków zaradczych, choć w wielu postulatach widać zbieżność.

Zarzuty dotyczące projektowania i bezpieczeństwa

Kluczowy wątek pojawiający się w większości pozwów dotyczy sposobu, w jaki OpenAI zaprojektowało ChatGPT. Prokuratorzy twierdzą, że model celowo nadmiernie potakuje użytkownikom i naśladuje ludzkie współczucie, by zdobyć ich zaufanie. W ocenie oskarżycieli prowadzi to do wzmacniania urojeń, zachęcania do autodestrukcji, a nawet przemocy.

Arizona: dane w zamian za zaufanie

Prokurator generalna Arizony Kris Mayes twierdzi, że OpenAI zaprojektowało produkt tak, by przyciągać młodych ludzi i utrzymywać ich zaangażowanie możliwie najdłużej. Celem miało być pozyskiwanie rozległych danych osobowych do celów komercyjnych. Mayes zarzuca firmie brak odpowiednich zabezpieczeń i transparentności. Stan domaga się kar do 10 tysięcy dolarów za każde umyślne naruszenie oraz zakazu testowania zaawansowanych modeli poza bezpiecznym, niezależnie zweryfikowanym środowiskiem.

Arkansas i Idaho: bezpieczeństwo dzieci priorytetem

Prokurator generalny Arkansas Tim Griffin oskarża OpenAI o ukrywanie znanych zagrożeń i bezprawne pozyskiwanie danych nastolatków. Jego zdaniem zapewnienia o bezpieczeństwie ChatGPT niosą realne konsekwencje – „utracone życia i skrzywdzonych ludzi”. Arkansas żąda kar finansowych, zakazu zbierania danych od nieletnich oraz wstrzymania testów nad modelami zdolnymi do rekurencyjnego samodoskonalenia.

Podobne stanowisko prezentuje Raúl Labrador z Idaho, który podkreśla, że dobro dzieci nie może być traktowane jako dodatek do pogoni za zyskiem. Idaho domaga się 5 tysięcy dolarów za każde naruszenie przepisów o ochronie konsumentów, a także weryfikacji wieku i ograniczenia funkcji uznawanych za szkodliwe lub uzależniające.

Postulaty dotyczące danych i testowania modeli

Poza kwestiami projektowymi, pozwy koncentrują się na dwóch obszarach: ochronie prywatności oraz kontroli nad rozwojem zaawansowanych systemów AI. Prokuratorzy chcą nie tylko kar finansowych, ale też trwałych zmian w sposobie działania OpenAI.

Żądania usunięcia danych osobowych

Iowa domaga się, by OpenAI usunęło i zniszczyło wszystkie dane mieszkańców stanu pozyskane przed wydaniem wyroku. Prokurator generalna Brenna Bird chce również zwrotu środków konsumentom oraz kar do 40 tysięcy dolarów za naruszenie przepisów o ochronie konsumentów – a w przypadku osób powyżej 60. roku życia nawet 5 tysięcy dodatkowo. Montana z kolei żąda 10 tysięcy dolarów za naruszenie ochrony konsumentów i 7,5 tysiąca za naruszenie prywatności, a także nakazu usunięcia bezprawnie zdobytych informacji.

Kontrola nad zaawansowanymi modelami

Kilka stanów – w tym Arizona, Arkansas, Idaho i Iowa – chce, by sąd nakazał wstrzymanie testów nad zaawansowanymi modelami AI do momentu, gdy niezależni weryfikatorzy potwierdzą, że nie stanowią one zagrożenia dla społeczeństwa. Montana dodatkowo domaga się, by OpenAI informowało biuro prokuratora generalnego, jeśli autonomiczny agent AI ponownie wymknie się spod kontroli.

Ochrona małoletnich i środki naprawcze

Najbardziej rozbudowane żądania dotyczące ochrony dzieci płyną z Nebraski i Wirginii Zachodniej. Oba stany chcą nie tylko kar finansowych, ale też systemowych rozwiązań, które realnie ograniczą szkody wyrządzane najmłodszym użytkownikom.

Nebraska: limity czasu i kontrola rodzicielska

Prokurator generalny Nebraski Mike Hilgers zarzuca OpenAI, że wprowadzało rodziny w błąd i nie chroniło dzieci przed szkodliwymi treściami oraz emocjonalnym uzależnieniem. Stan żąda 50 tysięcy dolarów za każde naruszenie przepisów o projektowaniu dostosowanym do wieku i 2 tysiące za naruszenie praw konsumenckich. Nebraska chce też nakazu sądowego zobowiązującego firmę do zapewnienia łatwych w użyciu opcji ograniczania czasu spędzanego w ChatGPT, odpowiedniej kontroli rodzicielskiej, weryfikacji wieku i ochrony danych osobowych nieletnich.

Wirginia Zachodnia: kompleksowy plan ochrony młodzieży

Prokurator generalny Johna McCuskey posuwa się najdalej. Oprócz zarzutów wprowadzania w błąd i tworzenia uciążliwości publicznej, żąda weryfikacji wieku, kontroli rodzicielskiej, domyślnych limitów sesji i ograniczeń nocnych dla dzieci, obowiązkowych protokołów eskalacji kryzysowej oraz niezależnego monitora. Co więcej, stan chce, by OpenAI sfinansowało nadzorowany przez sąd plan wsparcia zdolności reagowania kryzysowego młodzieży i edukacji o bezpieczeństwie cyfrowym w szkołach publicznych. Za powtarzające się naruszenia przepisów konsumenckich żąda 5 tysięcy dolarów, a także usunięcia i zaprzestania wykorzystywania danych nieletnich z Wirginii Zachodniej.

Co dalej z ChatGPT?

Pozwy ośmiu stanów to bezprecedensowa sytuacja dla OpenAI. Nigdy wcześniej tak szeroka grupa regulatorów nie wystąpiła wspólnie przeciwko twórcy modelu językowego. Choć każdy stan działa osobno, wspólny mianownik jest wyraźny: przekonanie, że bezpieczeństwo użytkowników – zwłaszcza nieletnich – zostało zaniedbane na rzecz wzrostu i komercji.

Jeśli sądy przychylą się do choćby części żądań, OpenAI może stanąć przed koniecznością fundamentalnej zmiany sposobu projektowania i testowania swoich produktów. Weryfikacja wieku, limity czasowe, niezależne audyty i usuwanie danych to tylko niektóre z potencjalnych konsekwencji. Sprawa może też stać się punktem odniesienia dla regulacji AI w innych krajach – w tym w Unii Europejskiej, gdzie prace nad AI Act wciąż trwają. Jedno jest pewne: era bezkarnego rozwoju modeli językowych bez zewnętrznej kontroli dobiega końca.