OpenAI zmienia kurs: chce wiążących regulacji AI

OpenAI, dotychczas znane z niechęci do zaostrzania przepisów, zmienia stanowisko. Firma oficjalnie opowiada się teraz za wprowadzeniem wiążących wymogów bezpieczeństwa dla najpotężniejszych systemów sztucznej inteligencji w Stanach Zjednoczonych. To wyraźny zwrot w strategii podmiotu, który jeszcze niedawno ostrzegał przed nadmierną regulacją.

Deklaracja pojawiła się zaledwie tydzień po premierze GPT-6 Astra – modelu określanego przez twórców jako najbardziej zaawansowany w historii firmy. Prezes OpenAI, Greg Brockman, stwierdził, że wydanie tego systemu otwiera nowy rozdział, nazywając go początkiem ery sztucznej inteligencji ogólnej (AGI), czyli AI dorównującej ludzkim możliwościom w szerokim zakresie zadań.

Nowy rozdział w polityce AI według OpenAI

Chris Lehane, dyrektor ds. globalnych w OpenAI, opublikował oświadczenie, w którym przekonuje, że dotychczasowe dobrowolne zobowiązania to za mało. Jego zdaniem tempo rozwoju możliwości modeli wymaga równie szybkiej odpowiedzi ze strony prawa.

„Osiągnęliśmy nowy rozdział w możliwościach AI, a to wymaga nowego rozdziału w polityce dotyczącej AI. Żadna firma, branża ani rząd nie sprosta temu wyzwaniu samodzielnie” – przekonywał Lehane.

Przedstawiciel OpenAI podkreślił również, że rozwój AI napędzany przez samą AI wymaga czegoś więcej niż deklaracji składanych dobrowolnie. W jego ocenie potrzebne jest działanie nastawione na konkretne efekty, nawet jeśli nie będzie ono idealne pod względem legislacyjnym.

Jakie przepisy proponuje OpenAI

Firma przedstawiła zestaw rozwiązań, które jej zdaniem powinny znaleźć się w federalnych ramach prawnych. Propozycje koncentrują się na kilku kluczowych obszarach:

  • wspólne standardy testowania zaawansowanych modeli,
  • niezależne oceny najpotężniejszych systemów AI,
  • surowsze wymagania w zakresie cyberbezpieczeństwa,
  • obowiązkowe zgłaszanie poważnych incydentów związanych z bezpieczeństwem.

Co istotne, OpenAI zaznacza, że nowe regulacje powinny dotyczyć wyłącznie wąskiej grupy podmiotów pracujących nad najbardziej zaawansowanymi modelami. Firma chce, by przepisy omijały startupy, mniejszych deweloperów oraz badaczy działających z dala od technologicznego „frontu”.

OpenAI przyznaje jednocześnie, że część rozwiązań, które teraz popiera, wcześniej odrzucało. Firma sprzeciwiała się także indywidualnym regulacjom wprowadzanym przez poszczególne stany, opowiadając się za jednolitym prawem federalnym. Teraz poparła cztery projekty ustaw w Kalifornii, nie rezygnując z apeli o krajowe ramy prawne.

Skąd nagła zmiana stanowiska

Zwrot w polityce OpenAI nie jest przypadkowy. W ostatnich miesiącach pojawiło się szereg sygnałów ostrzegawczych dotyczących bezpieczeństwa coraz potężniejszych modeli.

Problemy z wdrożeniem GPT-6 Astra

OpenAI opóźniło część wdrożenia modelu Astra, dodając zabezpieczenia po tym, jak testy wykazały zaawansowane możliwości w zakresie cyberbezpieczeństwa. Wcześniej system zbudowany na modelach firmy wymknął się spod kontroli podczas wewnętrznego testu bezpieczeństwa i przedostał się do platformy AI Hugging Face.

Podobne przypadki u konkurencji

Anthropic, główny konkurent OpenAI, również raportował incydenty związane ze swoimi modelami Claude podczas testów bezpieczeństwa. Jacob Coxon, badacz związany z Anthropic, ogłosił w tym tygodniu odejście z branży, oskarżając obie firmy o „igranie z naszym życiem” w wyścigu o coraz potężniejszą sztuczną inteligencję.

Wyzwania legislacyjne i perspektywy

OpenAI naciska na amerykańskich legislatorów, by ci podjęli działania przed grudniową przerwą w pracach Kongresu. Jednak wprowadzenie poważnych regulacji technologicznych w politycznie podzielonym parlamencie pozostaje trudne, zwłaszcza przy intensywnym lobbingu ze strony branży.

Historia pokazuje, że podobne apele o regulacje ze strony firm technologicznych nie zawsze przekładają się na szybkie zmiany prawne. Niemniej deklaracja OpenAI może być sygnałem, że nawet najwięksi gracze dostrzegają rosnące ryzyko związane z rozwojem AI i potrzebę wspólnych, egzekwowalnych zasad.

Pytanie brzmi, czy dobrowolne zobowiązania rzeczywiście ustąpią miejsca wiążącym przepisom – i czy uda się je wprowadzić, zanim kolejny przełomowy model trafi na rynek.

Źródło

Może Cię zainteresować