Kanada reguluje social media i chatboty AI dla bezpieczeństwa dzieci

Kanada przedstawiła przełomowy projekt ustawy, który łączy dwa palące problemy cyfrowego świata – ochronę dzieci w mediach społecznościowych i regulację chatbotów opartych na sztucznej inteligencji. Ustawa o bezpieczeństwie cyfrowym (Digital Safety Act) wykracza poza dotychczasowe rozwiązania stosowane w innych krajach, stawiając na przecięciu tych dwóch obszarów nowego regulatora. To odpowiedź na rosnące obawy, że algorytmy rekomendacji i interaktywne modele językowe mogą stanowić realne zagrożenie dla nieletnich użytkowników.

Co zakłada kanadyjska ustawa o bezpieczeństwie cyfrowym

Głównym założeniem projektu jest zakaz korzystania z platform społecznościowych przez osoby poniżej 16 roku życia. W przeciwieństwie do australijskiego odpowiednika, Kanada nie wprowadza jednak całkowitego embarga. Platformy mogą ubiegać się o zwolnienie, jeśli udowodnią, że spełniają rygorystyczne standardy bezpieczeństwa. Jak tłumaczy Marc Miller, minister ds. tożsamości i kultury Kanady, który odpowiada za przeprowadzenie ustawy przez parlament: „Bezpieczeństwo dzieci nie może być dodatkiem, o którym myśli się na końcu”.

Bezpieczeństwo dzieci nie może być dodatkiem, o którym myśli się na końcu
Marc Miller, minister ds. tożsamości i kultury Kanady

Projekt idzie jednak dalej – koncentruje się nie tylko na ograniczeniu dostępu, ale także na zmianie samej architektury serwisów. Platformy będą zobowiązane do identyfikowania ryzyk, stosowania rozwiązań dostosowanych do wieku oraz udostępniania narzędzi do blokowania i zgłaszania nieodpowiednich treści. Część z tych mechanizmów jest już wdrażana dobrowolnie – przykładem są globalne ustawienia kont nastolatków wprowadzone przez Meta.

Chatboty AI na celowniku – nowatorskie podejście do regulacji

Najbardziej innowacyjnym elementem ustawy jest uznanie chatbotów AI za osobne źródło zagrożenia dla dzieci. Powstanie nowy cyfrowy regulator, który będzie ustalał standardy bezpieczeństwa zarówno dla mediów społecznościowych, jak i dla usług oferujących interaktywne modele językowe. Oznacza to, że popularne narzędzia takie jak ChatGPT, Claude czy Gemini będą musiały spełniać te same wymogi ochrony nieletnich co tradycyjne platformy.

Konkretne wymogi wobec chatbotów

Nowe przepisy uderzają w silniki zaangażowania, które – zdaniem kanadyjskiego rządu – wzmacniają szkodliwe treści. Mowa o algorytmicznych feedach, autoodtwarzaniu i niekończącym się scrollowaniu. Chatboty, które często działają na podobnych zasadach zachęcania do dłuższych interakcji, również zostaną objęte tymi regulacjami. Platformy będą musiały udowodnić, że ich modele nie manipulują młodszymi użytkownikami ani nie narażają ich na szkodliwe treści.

Kanadyjski kontekst – proces przeciwko OpenAI

Wprowadzenie ustawy nie jest przypadkowe. Kilka tygodni wcześniej rodziny ofiar jednej z najtragiczniejszych strzelanin w Kanadzie pozwały OpenAI, zarzucając firmie, że wiedziała o planach zamachowca na podstawie jego rozmów z ChatGPT i nie powiadomiła policji. Sprawa nie jest jeszcze rozstrzygnięta, a zarzuty pozostają nieudowodnione, ale stanowiła impuls przyspieszający prace legislacyjne.

Kary i egzekwowanie – od teorii do praktyki

Projekt przewiduje dotkliwe sankcje za nieprzestrzeganie przepisów. Platformy mogą zostać ukarane kwotą do 3% globalnych rocznych przychodów lub 10 milionów dolarów kanadyjskich – w zależności od tego, która wartość jest wyższa. Dodatkowo usługodawcy będą zobowiązani do usuwania intymnych zdjęć publikowanych bez zgody w ciągu 24 godzin od zgłoszenia.

Kluczowe wyzwanie stanowi jednak egzekwowanie tych przepisów. Doświadczenia Australii, która jako pierwsza wprowadziła zakaz social media dla osób poniżej 16 lat, pokazują, że skomplikowane jest samo wdrożenie. Australijski regulator dezaktywował około 5 milionów kont nastolatków, ale mimo to około 70% dzieci znalazło sposób, by nadal korzystać z platform. Jak podkreślają eksperci, napisanie ustawy to łatwiejsza część – znacznie trudniejsze jest zmuszenie użytkowników do jej przestrzegania.

Ustawa C-34 ma przed sobą długą drogę legislacyjną. Według urzędników jej uchwalenie może zająć rok, a uruchomienie nowego regulatora kolejne 18 miesięcy. Francja, Dania, Polska i Grecja rozważają podobne ograniczenia, dlatego wynik kanadyjskich prac będzie uważnie śledzony nie tylko w Ottawie, ale w całej Europie.

Przyszłość regulacji AI w kontekście ochrony dzieci rysuje się więc jako wyścig między innowacją technologiczną a zdolnością państw do tworzenia skutecznych ram prawnych. Kanada stawia na odważne rozwiązania, ale ich realna skuteczność okaże się dopiero za kilka lat.