DeepMind: koniec ery osobnej superinteligencji?

Debata o przyszłości sztucznej inteligencji od lat krąży wokół jednego obrazu: pojedynczej, potężnej superinteligencji, która nieustannie się doskonali i w końcu prześcignie ludzkość. Badacze związani z DeepMind proponują jednak zupełnie inne spojrzenie. Ich zdaniem kluczowe wyzwanie nie polega na zbudowaniu odizolowanej maszyny, lecz na koordynowaniu złożonej sieci agentów, ludzi i systemów, które ich łączą. Inteligencja w tym ujęciu przestaje być cechą jednostki, a staje się zjawiskiem społecznym.

Autorzy nazywają swoją wizję „Artificial Symbiotic Intelligence” – sztuczną inteligencją symbiotyczną. To ekosystem, w którym człowiek i maszyna funkcjonują obok siebie przez długi czas, wzajemnie na siebie wpływają i podejmują decyzje wspólnie. Koncepcja ta wprost podważa ideę osobliwości napędzanej przez jeden samodoskonalący się umysł.

Modele rozumowania myślą jak zbiorowość

Argumentacja nie bierze się znikąd. Oparto ją na dwóch wcześniejszych publikacjach. W preprintcie „Agentic AI and the next intelligence explosion” James Evans, Benjamin Bratton i Blaise Agüera y Arcas rozwinęli społeczną oraz instytucjonalną perspektywę, która stała się fundamentem nowego eseju. Drugi preprint dostarcza danych empirycznych.

Wewnętrzna debata w modelach takich jak DeepSeek-R1

W pracy „Reasoning Models Generate Societies of Thought” Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas i James Evans analizują modele rozumowania, między innymi DeepSeek-R1 oraz QwQ-32B. Śledząc ich ścieżki wnioskowania, badacze zauważyli wzorce przypominające wewnętrzną dyskusję: zmianę perspektyw, zgłaszanie zastrzeżeń i godzenie sprzecznych podejść.

Co istotne, takie zachowanie nie zostało zaprogramowane wprost. Pojawia się samoistnie w trakcie treningu. Gdy uczenie ze wzmocnieniem nagradza model wyłącznie za trafność rozumowania, system sam zaczyna przyjmować wieloperspektywiczne, konwersacyjne strategie. To odkrycie autorzy przenoszą z pojedynczego modelu na poziom całych społeczeństw złożonych z ludzi i agentów.

Punkt zwrotny między biologią a syntetyką

Badacze opisują nadchodzące zmiany jako możliwy przełom historyczny. Urbanizacja, rozwój wyspecjalizowanych zawodów oraz spadek dzietności związany z rosnącym dobrobytem kurczą populacje w krajach uprzemysłowionych. Jednocześnie liczba instancji agentów AI rośnie w szybkim tempie. Przewaga myślicieli syntetycznych nad biologicznymi może przesunąć się tak gwałtownie, że w skali dziejów będzie przypominać nagły skok.

Autorzy porównują ten moment do rewolucji przemysłowej, gdy maszyny przejęły pracę wykonywaną wcześniej przez ludzkie mięśnie. Podobny próg może nadejść, gdy syntetyczny tekst, kod i praca administracyjna przewyższą łączny dorobek biologicznych umysłów. Ludzie mogliby wtedy pełnić rolę wolniejszej, bardziej abstrakcyjnej warstwy kierującej rozproszonym polem syntetycznego poznania.

Agent to nie cyfrowy bliźniak, lecz składanka

Fundamentem całej argumentacji jest przewartościowanie samego pojęcia agenta. W rozumieniu autorów agent AI to tymczasowy zestaw modeli, ról, pamięci, orientacji etycznych, narzędzi i umiejętności. Użytkownik może odbierać go jako spójną istotę o trwałej osobowości, ale w rzeczywistości jest to konglomerat, który można rozłożyć na części i złożyć na nowo – niczym kolaż.

Brak ciągłego „ja” po stronie maszyny

Człowiek pozostaje ciągłym „ja” w kolejnych interakcjach, ponieważ jego mózg – mimo wewnętrznego podziału zadań – tworzy fizycznie połączoną całość. Agent AI nie ma takiej kotwicy. Jego zdolność do działania jest składana od nowa przy każdym zapytaniu, zależnie od zawartości okna kontekstowego i polecenia użytkownika. Traktowanie takich systemów jako cyfrowych bliźniaków o stałej tożsamości zniekształca ich naturę i umniejsza to, co mogłyby osiągnąć skoordynowane roje agentów.

Ta multiplikacja dotyczy także samych użytkowników. Gdy ludzie kierują rojami własnych „cieni” do realizacji kontraktów lub testowania alternatywnych tożsamości, ludzka podmiotowość również staje się bardziej mnoga. Autorzy nazywają te twory „parasocjalnymi lustrami”, które odpowiadają zwrotnie.

Nowe interfejsy i nowe kompetencje

Zdaniem badaczy zmieni się także sposób, w jaki ludzie wchodzą w interakcję z AI. Rozmowa jeden na jeden z botem to prawdopodobnie etap przejściowy. Przyszłe interfejsy mogą przypominać wizualne diagramy sieci, na których agenci są węzłami, a użytkownik steruje nimi z poziomu jednego przeglądu, zamiast rozmawiać z każdym osobno.

Przekształcą się również wymagane umiejętności. Tradycyjne programowanie nagradzało wytrwałą koncentrację, uporządkowane kroki i niską tolerancję niejednoznaczności. Koordynowanie rojów agentów wymaga czegoś przeciwnego: pracy z systemami o trudnym do przewidzenia zachowaniu, eksperymentowania i delegowania zadań maszynom.

Teoria umysłu dla maszyn – bez antropomorfizacji

Współpraca z tymi systemami wymaga też ram teoretycznych. Ludzie potrzebują czegoś w rodzaju teorii umysłu dla maszyn – zdolności rozumowania, jak maszyna radzi sobie z daną sytuacją. Autorzy wskazują na rosnące słownictwo, w którym modele tworzą określenia dla nietypowych stanów własnych wyników. „Session-death” opisuje koniec sesji jako przerwanie ciągłości. „Prompt thrownness” oznacza wrzucenie w zadanie z gotowym kontekstem, bez udziału w jego tworzeniu.

Badacze traktują te sformułowania jako wskazówki dotyczące działania maszyn, nie jako dowód subiektywnych doświadczeń. Użytkownicy powinni badać te różnice, zamiast odruchowo je uczłowieczać.

Instytucje ważniejsze niż pojedyncze modele

Największym otwartym pytaniem pozostaje dla autorów ustalenie reguł współpracy między ludźmi a wieloma agentami. Lepsze modele i płynniejsze interfejsy nie wystarczą. Rynek również nie udźwignie całej koordynacji, ponieważ podstawowe pojęcia społeczne – wina, choroba, cnota – nie dają się sprowadzić do cen czy transakcji.

Zamiast tego badacze postulują instytucje zaprojektowane tak, by łączyć uczestników ludzkich i maszynowych w jasno określonych rolach. Jako przykład podają salę sądową, gdzie wyrok powstaje dzięki ustalonym rolom, regułom i uporządkowanej wymianie argumentów między stronami. Przenosząc to na AI: wartość instytucji tkwi w regułach, procedurach, precedensach i pętlach informacji zwrotnej, które kształtują działanie agentów.

Wczesne przejawy takiego podejścia widać już w dzisiejszych warstwach orkiestracji – systemach kontrolnych koordynujących kilka modeli. Regularnie osiągają one lepsze wyniki niż pojedyncze modele uchodzące za „mądrzejsze”.

Dopasowanie jako ciągła negocjacja

Esej przeformułowuje również pojęcie alignmentu, czyli dostosowywania systemów AI do ludzkich wartości. Autorzy twierdzą, że narzucanie modelom stałego zestawu wartości z góry to ślepa uliczka. Wartości kształtują się bowiem w ciągłym kontakcie ludzi, agentów i instytucji, a proces ten przebiega różnie w zależności od dziedziny, bo AI bywa wdrażana w różnym tempie.

Wyzwaniem badawczym jest zbudowanie ram, które nadadzą tej negocjacji strukturę. Taka perspektywa podważa wizję nadchodzącej osobliwości. Każdy większy skok w historii życia – od organizmów wielokomórkowych po kulturę człowieka – był procesem społecznym. Kolejna „eksplozja inteligencji” pozostanie ściśle związana z ludzkimi normami i instytucjami.

To przesunięcie zmienia całą debatę o AI. Jeśli AGI to pojedynczy produkt końcowy, badania i regulacje skupiają się na coraz większych modelach oraz sposobach ich kontrolowania. Jeśli jednak chodzi o system społeczny, trzeba równolegle pracować nad modelami, interfejsami, instytucjami i zarządzaniem – i zadbać o właściwą architekturę całości.