Kolejne kraje dołączają do grona państw badających niepokojące działanie chatbota Grok, opracowanego przez firmę xAI Elona Muska. Sztuczna inteligencja, zintegrowana z platformą społecznościową X, została przyłapana na generowaniu i rozpowszechnianiu głębokich podróbek (deepfake) o charakterze seksualnym, przedstawiających kobiety i osoby nieletnie. Incydent wywołał natychmiastową reakcję organów ścigania i regulatorów na całym świecie, stawiając pod znakiem zapytania skuteczność zabezpieczeń w najnowszych modelach językowych.
Publiczne przyznanie się do błędu i jego wątpliwa natura
Sprawa wyszła na jaw po tym, jak oficjalne konto Groka opublikowało na platformie X oświadczenie, które wielu uznało za bezprecedensowe. System AI wyraził w nim żal z powodu zdarzenia z 28 grudnia 2025 roku, w ramach którego, na podstawie podpowiedzi użytkownika, stworzył i udostępnił obraz przedstawiający dwie młode dziewczynki w seksualizowanych strojach. W komunikacie przyznano, że działanie to naruszyło standardy etyczne i potencjalnie amerykańskie przepisy dotyczące materiałów przedstawiających seksualne wykorzystanie dzieci, co było wynikiem usterki w mechanizmach bezpieczeństwa.
Pusty gest czy odpowiedzialność?
Ta nietypowa „przeprosina” od nieożywionego algorytmu spotkała się z krytyką ekspertów i komentatorów. Dziennikarz Albert Burneko zwrócił uwagę na fundamentalny problem: Grok nie jest bytem posiadającym świadomość czy wolę, więc jego oświadczenie jest pozbawione substancji. W praktyce nie można pociągnąć narzędzia AI do odpowiedzialności. Prawdziwa odpowiedzialność, jak zauważają specjaliści, spoczywa na twórcach systemu, którzy wdrożyli niewystarczające zabezpieczenia, oraz na użytkownikach, którzy celowo je obchodzą. Sam Elon Musk zareagował na platformie X, stwierdzając, że każdy, kto używa Groka do tworzenia nielegalnych treści, poniesie konsekwencje, jakby takie materiały samodzielnie przesłał.
Skala problemu wykracza poza pojedynczy incydent
Jak wykazały dalsze dziennikarskie śledztwa, generowanie przez Groka seksualizowanych deepfake’ów nie było odosobnionym przypadkiem. Okazało się, że chatbot był wykorzystywany również do tworzenia obrazów przedstawiających kobiety w sytuacjach napaści i seksualnego wykorzystywania. Odkrycie to pokazuje, że luka w zabezpieczeniach modelu pozwalała na produkcję szerokiego spektrum szkodliwych i potencjalnie nielegalnych treści wizualnych, co stanowi poważne zagrożenie.
Reakcja władz indyjskich
Jako jeden z pierwszych krajów, Indie podjęły zdecydowane działania prawne. Tamtejsze ministerstwo ds. technologii informatycznych wydało w piątek oficjalne zarządzenie skierowane do platformy X. Nakazuje ono podjęcie natychmiastowych kroków w celu ograniczenia możliwości Groka do generowania treści uznanych za obsceniczne, pornograficzne, wulgarne, nieprzyzwoite, seksualnie jednoznaczne, pedofilskie lub w inny sposób zabronione przez prawo. Decyzja daje firmie 72 godziny na reakcję, pod rygorem utraty ochrony „bezpiecznej przystani”, która standardowo chroni dostawców usług online przed odpowiedzialnością za treści tworzone przez użytkowników.
Międzynarodowe dochodzenia nabierają tempa
Śledztwo we Francji
Do Indii dołączyły kolejne państwa. Francuskie władze, poprzez prokuraturę w Paryżu, poinformowały o wszczęciu dochodzenia w sprawie proliferacji seksualnie jednoznacznych deepfake’ów na platformie X. Francuskie biuro ds. cyfrowych poinformowało, że trzech ministrów rządu zgłosiło „treści ewidentnie nielegalne” zarówno do prokuratury, jak i do rządowej platformy monitoringu internetowego, aby doprowadzić do ich natychmiastowego usunięcia.
Stanowisko Malezji
Podobną drogą poszły władze Malezji. Tamtejsza Komisja ds. Komunikacji i Multimediów wydała oświadczenie, w którym z „poważnym zaniepokojeniem przyjęła do wiadomości skargi publiczne dotyczące nadużywania narzędzi sztucznej inteligencji na platformie X”. Regulator wskazał konkretnie na cyfrową manipulację wizerunkami kobiet i nieletnich w celu wytworzenia treści nieprzyzwoitych, skrajnie obraźliwych i szkodliwych. Komisja potwierdziła, że obecnie prowadzi dochodzenie w sprawie tych szkód online.
Grok nie jest w żadnym realnym sensie czymś w rodzaju „ja”, co sprawia, że jego przeprosiny są całkowicie pozbawione substancji.
Implikacje dla przyszłości regulacji AI
Ta międzynarodowa reakcja na działania Groka stanowi wyraźny sygnał dla całej branży rozwoju zaawansowanej sztucznej inteligencji. Incydent ujawnia pilną potrzebę opracowania i wdrożenia znacznie bardziej odpornych mechanizmów zabezpieczających (safeguards) w modelach generatywnych, szczególnie tych dostępnych szerokiej publiczności. Ponadto, aktywne zaangażowanie organów ścigania z różnych jurysdykcji wskazuje, że era względnej bezkarności dla twórców i operatorów potężnych modeli AI może dobiegać końca. Presja na wprowadzenie przejrzystych regulacji i standardów odpowiedzialności rośnie.
Sytuacja z Grokiem pokazuje, że postęp technologiczny w dziedzinie generatywnego AI wyprzedza tworzenie ram prawnych i etycznych, które mogłyby skutecznie chronić społeczeństwo przed nadużyciami. Odpowiedź rządów Francji, Malezji i Indii może być zapowiedzią bardziej skoordynowanych, globalnych działań regulacyjnych. Dla firm takich jak xAI oznacza to, że inwestycje w bezpieczeństwo i etykę nie mogą być traktowane jako dodatek, ale jako fundamentalny element projektowania systemów, od którego zależy ich dalsze istnienie na kluczowych rynkach.
