Greg Brockman: AGI już nadeszło wraz z modelem Astra

OpenAI wypuściło na rynek model Astra, a Greg Brockman, prezes firmy, nie ma wątpliwości – sztuczna inteligencja ogólna (AGI) właśnie stała się rzeczywistością. To stwierdzenie, które elektryzuje całą branżę technologiczną. Firma definiuje AGI jako systemy przewyższające człowieka w większości zadań intelektualnych, a Brockman twierdzi, że ten moment właśnie nadszedł. Jednocześnie pozostawia jednak pole do własnych interpretacji, zachęcając obserwatorów do samodzielnej oceny, czy nowy model faktycznie spełnia te kryteria.

Czym jest model Astra i do kogo trafił?

Astra to najnowsze osiągnięcie kalifornijskiego laboratorium, które od początku tygodnia trafia do wybranych użytkowników biznesowych w ramach programu Daybreak. To jednak nie jedyna odsłona tego systemu. Równolegle przygotowywana jest wersja dla subskrybentów ChatGPT, która otrzyma dodatkowe zabezpieczenia w obszarze cyberbezpieczeństwa. Co istotne, obie edycje mają ograniczony dostęp do najbardziej zaawansowanych zdolności związanych z cyberatakami.

Sam Altman, dyrektor generalny OpenAI, przyznał, że proces wdrażania modelu trwał dłużej, niż początkowo zakładano. Powodem opóźnień była prawdopodobnie skomplikowana klasyfikacja bezpieczeństwa, którą Astra musiała przejść. System osiągnął bowiem próg, który w sierpniu zmusił OpenAI do spowolnienia prac nad innym modelem. Chodzi o zdolność do samodzielnego znajdowania i wykorzystywania luk typu zero-day w zabezpieczonych systemach, bez jakiejkolwiek pomocy człowieka.

Jakie umiejętności faktycznie posiada Astra?

Nowy model został wyszkolony w taki sposób, aby korzystać z komputerów w sposób zbliżony do ludzi. Oznacza to, że potrafi obsługiwać interfejsy, klikać, nawigować i wykonywać złożone czynności w środowisku cyfrowym. OpenAI deklaruje, że Astra radzi sobie z modelowaniem finansowym, przygotowywaniem deklaracji podatkowych czy tworzeniem gier wideo, wymagając przy tym minimalnego nadzoru ze strony człowieka.

To właśnie ta autonomia w działaniu na komputerze, a nie tylko w generowaniu tekstu, stanowi o sile nowego systemu. Model nie jest już wyłącznie narzędziem do konwersacji – staje się aktywnym agentem wykonującym realne zadania. Dla firm korzystających z rozwiązań OpenAI otwiera to zupełnie nowe możliwości automatyzacji, ale rodzi też pytania o granice bezpieczeństwa i kontroli nad takimi systemami.

Co na to amerykański rząd?

Zanim Astra trafiła na rynek, amerykańskie władze miały okazję przyjrzeć się modelowi. Brockman zapewnia, że rząd nie zgłosił żadnych uwag ani konieczności wprowadzenia zmian. Sam przedstawia to jako dowód bezpieczeństwa systemu. Jednak analiza obowiązujących przepisów skłania do ostrożniejszej interpretacji tych słów.

Rozporządzenie wykonawcze z czerwca daje agencjom rządowym możliwość zapoznania się z modelami na 30 dni przed ich szerokim udostępnieniem. Nie zawiera jednak żadnych zapisów o obowiązkowych licencjach, wstępnej akceptacji czy pozwoleniach. Udział w tym procesie jest dobrowolny, a dyrektor NSA sam decyduje, które modele uznać za tzw. graniczne (frontier models), korzystając z niejawnej procedury testów porównawczych.

Innymi słowy, brak sprzeciwu ze strony rządu nie oznacza formalnej zgody, bo ta procedura w ogóle nie przewiduje wydawania pozwoleń. To raczej konsultacje niż certyfikacja. Podobnie wygląda sytuacja w Europie, gdzie Komisja Europejska nie ma uprawnień do wstępnego zatwierdzania modeli. Jej kompetencje, przyznane na początku sierpnia, dotyczą ocen po wprowadzeniu produktu na rynek, które mogą być inicjowane przez niewystarczającą dokumentację lub sygnały od panelu naukowego.

Dodatkowo od 11 września producenci urządzeń z elementami cyfrowymi mają obowiązek raportowania aktywnie wykorzystywanych podatności w ciągu 24 godzin od ich wykrycia. To wszystko sprawia, że żadna jurysdykcja nie dokonała formalnego „odblokowania” modelu Astra. Kluczowa pozostaje wewnętrzna klasyfikacja OpenAI, którą firma aktualizowała po incydencie związanym z naruszeniem bezpieczeństwa na platformie Hugging Face.

Deklaracja Brockmana o nadejściu AGI to z pewnością moment przełomowy w narracji o sztucznej inteligencji. Jednak rzeczywistość regulacyjna i techniczna jest znacznie bardziej zniuansowana. Model Astra z pewnością przesuwa granice możliwości AI, ale to, czy faktycznie stanowi AGI w rozumieniu większości badaczy, pozostaje kwestią otwartą. Jedno jest pewne – era systemów działających na komputerach jak ludzie właśnie się rozpoczyna, a pytania o bezpieczeństwo i kontrolę nad nimi będą zyskiwać na znaczeniu.

Źródło

Może Cię zainteresować