Głębokie podróbki AI niszczą życie uczniów i nauczycieli

Historia sprzed dwunastu lat mogłaby być dziś opowieścią z dowolnej brytyjskiej szkoły. Młoda nauczycielka musiała stanąć przed zarządem placówki, by udowodnić, że nie jest aktorką w filmie pornograficznym krążącym wśród uczniów. Mimo że dowiodła swojej niewinności, poczucie wstydu i upokorzenia zmusiło ją do porzucenia wymarzonej pracy i wyjazdu za granicę. Dziś, w dobie powszechnej dostępności zaawansowanej sztucznej inteligencji, takie scenariusze powtarzają się masowo, a odróżnienie fałszywej kreacji od rzeczywistości staje się niemal niemożliwe.

Nowa fala cyfrowej przemocy

Obecnie technologie generowania głębokich podróbek oraz aplikacje usuwające wirtualnie ubrania z fotografii rozprzestrzeniają się w środowisku szkolnym z prędkością wirusa. Narzędzia te istniały od jakiegoś czasu, ale ich demokratyzacja i uproszczenie sprawiły, że trafiły pod strzechy – a właściwie do szkolnych plecaków. Punktem zwrotnym okazała się funkcja Grok, dostępna na platformie X Elona Muska, która w ciągu kilku dni została wykorzystana przez miliony użytkowników do tworzenia pornograficznych obrazów i filmów bez zgody osób na nich przedstawionych.

Skala i charakter ataków

Analiza Bloomberga ujawniła, że Grok generował w szczycie nawet około 6700 „sugestywnych seksualnie i odsłaniających” obrazów na godzinę. Co niepokojące, polecenia wydawane sztucznej inteligencji nie były niewinnymi żartami. Użytkownicy prosili o tworzenie scen przemocy seksualnej, strachu i podporządkowania. W odpowiedzi brytyjski regulator Ofcom zwrócił się do Muska z apelem o natychmiastowe działanie. Założyciel X stwierdził później, że osoby żądające nielegalnych treści poniosą konsekwencje, jakby je sami publikowali, jednak wcześniej publicznie żartował z niektórych wyników działania algorytmu.

„Ostatecznie szkoła bardzo przepraszała i wspierała, ale jak możesz wrócić do pracy w miejscu, gdzie uczniowie i personel dyskutowali, czy to ty jesteś w 'Gangbangs 3′?” – wspomina nauczycielka, która padła ofiarą podobnego oskarżenia przed erą AI.

Ofiary systemu bez narzędzi

Laura Bates, autorka książki „The New Age of Sexism”, od lat ostrzega, że technologia tworzenia niepokojąco realistycznych treści pornograficznych jest już powszechnie dostępna i słabo regulowana. Skutki są druzgocące dla ofiar, które często pozostają same z traumą, podczas gdy system szkolny i prawny nie nadąża za rozwojem technologii.

Doświadczenia nauczycieli

Casey, 29-letnia nauczycielka z prywatnej szkoły, po wakacjach odkryła, że uczeń wykorzystał AI, by umieścić jej twarz w filmie z gwiazdą pornografii. Dyrekcja, w skład której wchodzili starsi mężczyźni nieznający realiów AI, początkowo podchodziła do sprawy z podejrzliwością wobec niej. Na własny koszt i czas musiała udowodnić, że materiał jest fałszywy. Sprawcy otrzymali trzydniowe zawieszenie – karę identyczną jak za używanie e-papierosów. Brak przeprosin i świadomość, że film rozprzestrzenił się po wielu klasowych czatach, sprawiły, że kobieta rozważa odejście z zawodu.

Doświadczenia uczniów

Przemoc dotyka nie tylko dorosłych. Tysiące brytyjskich dzieci zostało umieszczonych w pornograficznych treściach, co stanowi epidemię syntetycznego dziecięcego materiału o charakterze seksualnym. Chłopiec w wieku 12 lat, ofiara ponadrocznego znęcania się, został przez rówieśników wstawiony do gejowskiego filmu pornograficznego. Szkoła nie wiedziała, jak zareagować. Trauma chłopca jest tak głęboka, że odmówił powrotu do szkoły, a jego matka rozważa rezygnację z pracy, by go edukować w domu. Podobny los spotkał 15-letnią Charlotte z domu dziecka, której wizerunek wykorzystano w filmie pełnym przemocy. Sprawcy znów otrzymali symboliczną karę, a szkoła zniechęcała ją do działania prawnego.

Prawo, technologia i etyka w wyścigu

Internet Watch Foundation podaje, że zgłoszenia dotyczące AI-generowanego dziecięcego materiału o charakterze seksualnym więcej niż się podwoiły w ciągu roku. W październiku 2024 roku Hugh Nelson z Bolton został skazany na 18 lat więzienia za tworzenie i sprzedaż takich treści – była to pierwsza tak poważna sprawa w Wielkiej Brytanii. Eksperci ds. ochrony dzieci obawiają się, że w sieci mogą krążyć miliony podobnych obrazów, o których istnieniu ofiary nie mają pojęcia.

Luka w nowym prawie

W kwietniu 2024 roku brytyjskie Ministerstwo Sprawiedliwości zapowiedziało nowe przestępstwo karalne za tworzenie seksualnie jednoznacznych deepfake’ów. Organizacja End Violence Against Women wskazuje jednak na poważną lukę. Próg odpowiedzialności opiera się na intencji sprawcy (chęci wyrządzenia alarmu, upokorzenia lub cierpienia), a nie na braku zgody ofiary. Ta szara strefa jest już wykorzystywana przez sprawców, którzy twierdzą, że zrobili to „przypadkiem”, „dla żartu” lub pod presją rówieśników.

„Jeśli Musk patrzy na to z chichotem i wzruszeniem ramion, to nie daje dobrego przykładu nastolatkom, które też myślą, że robienie explicytnych zdjęć AI koleżankom z klasy to 'tylko zabawa’” – komentuje autor artykułu źródłowego.

Szkoły bez telefonów – rozwiązanie czy iluzja?

Vic Goddard, dyrektor szkoły znany z serialu „Educating Essex”, wprowadził w swojej placówce całkowity zakaz używania telefonów. Cyberprzemoc spadła o 85% w pierwszym tygodniu. Jednak Goddard zauważa, że szkoły w ten sposób „zleciły na zewnątrz” cyfrowe problemy uczniów, które nie zniknęły, a jedynie przeniosły się poza mury szkoły. Wielu rodziców nie jest ich świadoma lub nie umie sobie z nimi poradzić. Jego zdaniem, poleganie na dobrych intencjach wielkich firm technologicznych w ochronie dzieci jest naiwnością – niezbędne są pilne i skuteczne regulacje prawne.

Koszt postępu technologicznego

Opisywane przypadki to nie są odosobnione incydenty, a symptom głębszego kryzysu na styku technologii, etyki i prawa. Sztuczna inteligencja, dająca nieograniczone możliwości kreatywne, stała się również potężnym narzędziem dehumanizacji, eksploatacji i wiktymizacji. Ofiarami padają głównie kobiety i dziewczęta, ale problem dotyka wszystkich. Trauma jest realna i długotrwała, podczas że konsekwencje dla sprawców często są niewspółmiernie niskie. Walka z tym zjawiskiem wymaga połączonych wysiłków: edukacji cyfrowej i etycznej od najmłodszych lat, szybkiego dostosowywania prawa do technologicznej rzeczywistości oraz odpowiedzialności platform, które udostępniają te narzędzia. Bez tego, postęp technologiczny będzie się wiązał z coraz wyższym kosztem ludzkiego cierpienia.