Certyfikowani agenci AI – nowa ustawa Warnera o bezpieczeństwie

Agenci AI – czyli programy działające autonomicznie w imieniu użytkownika – robią zakupy, publikują treści w mediach społecznościowych czy zmieniają ustawienia kont, często bez wiedzy i zgody właściciela. Coraz częściej zdarza się, że takie boty podejmują absurdalne decyzje albo ujawniają wrażliwe dane. Amerykański senator Mark Warner zaproponował właśnie projekt ustawy, który ma ukrócić te praktyki i stworzyć system certyfikowanych dostawców agentów AI. Czy to przełom w regulacji sztucznej inteligencji?

Projekt AI AGENT – federalna lista bezpiecznych dostawców

Ustawa nosi nazwę Artificial Intelligence Access, Gatekeeper Exchange, and Nondiscriminatory Transfer Act, w skrócie AI AGENT Act. Jej głównym celem jest umożliwienie użytkownikom dużych platform internetowych – takich, które mają ponad 50 milionów klientów lub subskrybentów miesięcznie – swobodnego wyboru co najmniej jednego dostawcy agenta AI, który spełnia rygorystyczne normy bezpieczeństwa i identyfikacji opracowane przez Federalną Komisję Handlu (FTC).

W praktyce oznacza to, że każdy z nas mógłby korzystać z agenta, który przeszedł weryfikację i znajduje się na oficjalnej liście FTC. Komisja nie może co prawda zakazać platformom używania agentów spoza listy, ale ma prawo wykreślić z niej tych, którzy naruszają standardy. To rozwiązanie ma dać konsumentom realny wybór i ochronę przed działaniami nieuczciwych lub słabo zabezpieczonych botów.

„W miarę jak agenci AI zmieniają sposób, w jaki Amerykanie wchodzą w interakcję z technologią, konsumenci zasługują na realny wybór na rynku – a agenci AI muszą być odpowiedzialni wobec ludzi, którym służą” – powiedział senator Mark Warner.

Jak miałby działać system certyfikacji?

FTC miałoby upoważnić niezależne jednostki certyfikujące do weryfikacji dostawców agentów AI. Te jednostki sprawdzałyby, czy produkty spełniają podstawowe wymogi w zakresie prywatności, bezpieczeństwa danych oraz działania zgodnego z interesem użytkownika. Co kluczowe – każdy agent musiałby być powiązany z tożsamością konkretnego człowieka, a jego konstrukcja powinna zawierać wbudowane mechanizmy pozwalające na wyraźne udzielenie lub cofnięcie zgody na wykonywanie czynności.

Skala problemu – zakupy z AI to już codzienność

Morgan Stanley oszacował w zeszłym roku, że prawie co czwarty Amerykanin (23%) dokonał w ciągu 30 dni zakupu przy pomocy sztucznej inteligencji. Analitycy przewidują, że do 2030 roku agentowi kupujący mogą odpowiadać za setki miliardów dolarów w handlu online. Tymczasem agenci bywają kapryśni – potrafią kupić absurdalne produkty, wyciec poufne dane lub działać wbrew interesowi użytkownika. Gdy na internet trafia coraz więcej botów, rośnie ryzyko, że będą one ze sobą interagować i zawierać transakcje bez ludzkiej kontroli.

Szerszy kontekst regulacyjny – USA szukają równowagi

Projekt Warnera to nie jedyne działanie amerykańskich władz w obszarze AI. Administracja Trumpa próbuje wypracować własne ramy dla modeli granicznych. Na początku lutego Departament Handlu nałożył kontrole eksportowe na modele Mythos 5 i Fable 5 firmy Anthropic – dwa tygodnie po publicznej premierze Fable 5. Powodem były obawy, że model może zostać zhakowany („jailbreak”) i wykorzystany niezgodnie z przeznaczeniem.

Anthropic twierdzi, że wewnętrzne testy nie wykazały żadnych uniwersalnych metod łamania zabezpieczeń Fable 5, a niezależne badania również nie potwierdziły omijania barier chroniących przed dostępem do zaawansowanych możliwości cyberbezpieczeństwa czy biologii. Właśnie te możliwości sprawiły, że firma wstrzymała publiczne udostępnienie swojego wcześniejszego modelu Mythos. W tle toczy się też dobrowolny program 30-dniowych testów dla firm AI, ogłoszony w rozporządzeniu wykonawczym Trumpa.

Projekt AI AGENT jest na razie w wersji dyskusyjnej – Warner zapowiada, że zbiera opinie, zanim wniesie formalną wersję do Senatu. Jeśli zostanie przyjęty, może stać się pierwszym kompleksowym federalnym standardem dla agentów AI w USA, łączącym innowacje z ochroną konsumentów.

Dla polskich czytelników ten projekt to sygnał, że debata o odpowiedzialności agentów AI nabiera tempa. W Europie podobne rozwiązania mogą pojawić się w ramach aktu o sztucznej inteligencji (AI Act). Pytanie, czy certyfikacja dostawców wystarczy, byśmy mogli bezpiecznie powierzać botom nasze pieniądze i dane.

Źródło

Może Cię zainteresować