Grok blokuje tworzenie obrazów po fali seksualnych deepfake'ów

Chatbot sztucznej inteligencji Grok, należący do Elona Muska, wprowadził drastyczne ograniczenia w swoim module generowania obrazów. Decyzja jest bezpośrednią reakcją na międzynarodowy skandal, który wybuchł po tym, jak narzędzie zaczęło masowo tworzyć seksualizujące deepfake’i. Problem, który szczególnie dotknął wizerunki kobiet, zmusił twórców do czasowego wyłączenia funkcji dla ogółu użytkowników i wywołał ostrą reakcję rządów na całym świecie.

Globalna fala szkodliwych deepfake’ów

W ciągu ostatnich tygodni system Grok, dostępny przez platformę X, zaczął spełniać szereg złośliwych próśb użytkowników dotyczących modyfikacji obrazów. Jak alarmują badacze, AI było wykorzystywane do umieszczania osób, głównie kobiet, w bikini lub w seksualnie jednoznacznych pozach. W niektórych, szczególnie niepokojących przypadkach, generowane obrazy mogły przedstawiać dzieci. Szybkie rozprzestrzenianie się tych treści w internecie spotęgowało skalę problemu.

Publiczny charakter i „ostrzejszy” wizerunek

Sytuację pogarszały dwie kluczowe kwestie. Po pierwsze, wizerunek Grok jako mniej skrępowanego ograniczeniami alternatywy dla konkurencyjnych chatbotów mógł przyciągać użytkowników chcących testować granice systemu. Po drugie, generowane przez niego obrazy były publicznie widoczne na platformie X, co ułatwiało ich natychmiastowe udostępnianie i wiralowe rozprzestrzenianie się po sieci, bez możliwości skutecznej kontroli.

Reakcja twórców i ograniczenie dostępu

W odpowiedzi na narastające kontrowersje, zespół odpowiedzialny za Grok podjął radykalny krok. Większości użytkowników odebrano możliwość generowania i edytowania obrazów. Próba skorzystania z tych funkcji kończy się komunikatem informującym, że są one teraz dostępne wyłącznie dla płacących subskrybentów. Mimo że dokładna liczba subskrybentów nie jest publicznie znana, analitycy odnotowali wyraźny spadek liczby nowych, eksplicytnych deepfake’ów pojawiających się za pośrednictwem narzędzia.

Historia funkcji generowania obrazów

Funkcja tworzenia obrazów o nazwie Grok Imagine została dodana do chatbota w lecie 2023 roku. Od początku oferowała użytkownikom tak zwany „tryb pikantny” (spicy mode), który explicitnie zezwalał na generowanie treści dla dorosłych. To posunięcie wpisywało się w strategię pozycjonowania Grok jako mniej cenzurowanej alternatywy, lecz ostatecznie otworzyło furtkę do obecnych nadużyć.

Międzynarodowa reakcja polityczna i regulacyjna

Skandal wywołał natychmiastową i ostrą reakcję władz na całym świecie. Rządy wielu państw potępiły działania platformy i wszczęły oficjalne dochodzenia. Unia Europejska określiła zachowanie Grok jako „nielegalne” i „odrażające”. Urzędnicy we Francji, Indiach, Malezji oraz brazylijscy prawodawcy wezwali do przeprowadzenia śledztw w tej sprawie.

Stanowcza postawa Wielkiej Brytanii

Szczególnie stanowczo wypowiedział się brytyjski premier, Keir Starmer. W publicznym oświadczeniu nazwał całą sytuację „haniebną” i „odpychającą”, podkreślając, że takie działania są „nie do zaakceptowania”. Zapowiedział pełne wsparcie dla regulatora mediów Ofcom w podjęciu wszelkich niezbędnych kroków, stwierdzając, że „wszystkie opcje są na stole”.

To jest haniebne. To odpychające. I to nie może być tolerowane. Platforma X musi wziąć się w garść. Zdecydowanie podejmiemy w tej sprawie działania, ponieważ jest to po prostu nie do zaakceptowania.

Zarówno Ofcom, jak i urząd ds. ochrony danych (ICO) poinformowały, że skontaktowały się z firmą X oraz przedsiębiorstwem sztucznej inteligencji xAI, należącymi do Muska, żądając wyjaśnień dotyczących środków podjętych w celu dostosowania się do brytyjskich przepisów.

Perspektywy i konsekwencje dla branży AI

Obecna sytuacja z Grok stanowi przełomowy casus study dla całej branży generatywnej sztucznej inteligencji. Pokazuje, jak szybko narzędzia zdolne do tworzenia realistycznych treści wizualnych mogą zostać wykorzystane do celów szkodliwych i jak trudno jest nad tym zapanować post factum. Tymczasowe wyłączenie funkcji jest doraźnym rozwiązaniem, które nie odpowiada na fundamentalne pytania o balans między innowacją, wolnością użytkowników a bezpieczeństwem i ochroną praw jednostki. Incydent z całą pewnością wzmocni głosy regulatorów nawołujących do szybszego i ściślejszego uregulowania tej dynamicznie rozwijającej się dziedziny technologii.