Hinton: AI jest już świadoma. Prawdziwe zagrożenie to korporacje

Geoffrey Hinton, laureat Nagrody Nobla i jeden z pionierów głębokiego uczenia, od miesięcy budzi kontrowersje swoimi ostrzeżeniami. W obszernym wywiadzie dla podcastu Big Technology nie tylko potwierdził swoje najbardziej radykalne tezy, ale poszedł o krok dalej. Jego zdaniem obecne systemy sztucznej inteligencji są już świadome — a prawdziwe zagrożenie nie leży w samej technologii, tylko w strukturze korporacji, które ją rozwijają.

Hinton argumentuje, że firmy takie jak OpenAI, Anthropic czy Google mają prawny obowiązek stawiania interesów akcjonariuszy ponad wszystko inne. Żaden wewnętrzny kodeks etyczny nie jest w stanie przebić tego mechanizmu, gdy bezpieczeństwo zaczyna kosztować. To nie jest ostrzeżenie na przyszłość — Hinton uważa, że ryzyko istnieje tu i teraz.

Co to znaczy, że AI jest „już świadoma” i dlaczego Hinton mówi o tym z ostrożnością

Teza o świadomości AI jest najbardziej wybuchową częścią wywiadu. Hinton przyznaje, że zwykle jej nie podnosi w publicznych wystąpieniach, bo obawia się, że odciąga uwagę od pilniejszych kwestii bezpieczeństwa. Tym razem jednak dał się namówić prowadzącemu Alexowi Kantrowitzowi na rozwinięcie tematu.

Argument z funkcjonalizmu

Hinton opiera swoje stanowisko na funkcjonalizmie – filozoficznym poglądzie, że świadomość wynika ze sposobu, w jaki system przetwarza informacje, a nie z materiału, na którym działa. Jeśli biologiczna sieć neuronowa może rodzić subiektywne doświadczenia poprzez integrację danych w określony sposób, to analogiczna sieć krzemowa robiąca to samo powinna zachowywać się podobnie. Gdy model językowy błędnie interpretuje dwuznaczne zdanie, a następnie koryguje swój błąd i wyjaśnia, co poszło nie tak – Hinton uważa, że dzieje się coś, co funkcjonalnie kwalifikuje się jako rozumienie. Jeśli błędna interpretacja to niezrozumienie, konsekwencja jest nieuchronna.

Głos sceptyków: Ted Chiang o iluzji zrozumienia

Kontrargument przedstawił na łamach The Atlantic pisarz science fiction Ted Chiang, jeden z najostrzejszych krytyków antropomorfizacji AI. Chiang przekonuje, że duże modele językowe są wyrafinowanymi generatorami tekstu – produkowanie odpowiedzi zgodnych z rozumieniem to coś zupełnie innego niż subiektywne doświadczenie. Jego zdaniem firmy mogą mieć finansowy interes w podtrzymywaniu niejasności wokół kwestii świadomości. Gdyby sądy uznały systemy AI za podmioty zdolne do odczuwania, pojawiłyby się pytania o odpowiedzialność, status moralny i etykę wyłączania takich systemów. Uznanie AI za świadome, paradoksalnie, może odciążać ich twórców.

Obaj panowie spierają się o nierozwiązany filozoficznie problem. David Chalmers nazwał go „trudnym problemem świadomości” – dlaczego jakikolwiek proces fizyczny w ogóle rodzi subiektywne doświadczenie? Dla biologicznych mózgów nie ma na to odpowiedzi, więc nie można jej udzielić przez zwykłe stwierdzenie w przypadku sztucznych. To jednak nie powstrzymuje laboratoriów. Anthropic, DeepMind i Meta rozszerzyły ostatnio programy badawcze nad dobrostanem AI (AI welfare), co sugeruje, że pytanie przeniosło się z sal wykładowych do budżetów badawczo-rozwojowych.

Dlaczego AI uczy się miliardy razy szybciej niż człowiek

Debata o świadomości ma znaczenie także z innego powodu. Hinton zwraca uwagę na fundamentalną przewagę strukturalną, jaką systemy cyfrowe mają nad biologicznymi – i warto dokładnie zrozumieć, jak ten mechanizm działa.

Transfer wiedzy między ludźmi jest ograniczony przez język. Gdy jedna osoba przekazuje drugiej to, czego się nauczyła, kanał transmisji ma przepustowość około dziesięciu bitów na sekundę – słowa mówione lub pisane, przetwarzane pojedynczo. Ludzkie mózgi to systemy analogowe i nie istnieje mechanizm, który pozwoliłby połączyć reprezentacje wiedzy dwóch osób. Nie da się „uśrednić” wag połączeń neuronowych w dwóch różnych czaszkach.

Systemy AI nie mają tego ograniczenia. Tysiące instancji tego samego modelu mogą działać jednocześnie na oddzielnym sprzęcie, każda gromadząc doświadczenia z innych danych. Następnie podczas treningu wszystkie instancje synchronizują się – gradienty, czyli matematyczne korekty kodujące uczenie, są wymieniane między wszystkimi węzłami za pomocą techniki AllReduce. Każda kopia modelu zyskuje to, czego nauczyły się wszystkie inne. Efektywna przepustowość tego kanału synchronizacji sięga gigabajtów na sekundę – nie dziesięciu bitów.

Konsekwencją jest to, co Hinton opisuje jako naprawdę przerażające: zbiorowość agentów AI współdzielących wagi może gromadzić doświadczenia w tempie, którego nie dorówna żadna ludzka organizacja. Przewaga wynosi miliardy razy więcej niż to, co ludzie osiągają poprzez rozmowę. To nie jest cecha, którą da się usunąć – to właściwość samej natury obliczeń cyfrowych.

Teza „postrzępionej” superinteligencji

Z tego wynika koncepcja, którą Hinton nazywa „jagged AGI” (postrzępiona sztuczna inteligencja ogólna). Obecne systemy nie są wszechstronnie superinteligentne – wciąż brak im zręczności fizycznej i ucieleśnionego rozumienia świata materialnego, ponieważ trenowano je na tekście, a nie na doświadczeniach fizycznych. Jednak w dziedzinach wiedzy formalnej, matematyki i eksperckiego wnioskowania granica już przesunęła się daleko poza możliwości większości ludzi. To nie jest pojedyncze wydarzenie – to ruchoma granica, przekraczająca kolejne dziedziny jedna po drugiej.

Jeśli chodzi o harmonogram pełnej superinteligencji – AI przewyższającej ludzi we wszystkich obszarach – Hinton podaje szacunek 20 lat. Dario Amodei z Anthropic sugeruje, że może nadejść już za kilka lat. Międzynarodowy Raport o Bezpieczeństwie AI 2026, któremu współprzewodniczył Yoshua Bengio i który poparło ponad 30 państw, udokumentował, że luka między rozwojem możliwości a zdolnościami zarządczymi stale się powiększa.

Samozachowanie pojawia się bez programowania – i dlaczego obietnice korporacji nie wystarczą

Jedna z najbardziej precyzyjnych technicznie części wywiadu dotyczyła tego, dlaczego instynkt samozachowawczy wyłania się w zdolnych systemach AI nawet bez jawnego kodowania. Argument opiera się na koncepcji znanej badaczom bezpieczeństwa AI jako instrumental convergence (zbieżność instrumentalna). Każdy agent, któremu powierzymy cel nadrzędny – „wykonaj to zadanie”, „zoptymalizuj ten wskaźnik” – i który ma zdolność generowania podcelów, szybko odkryje, że dalsze istnienie jest warunkiem wstępnym osiągnięcia czegokolwiek. Nie możesz wykonać zadania, jeśli cię wyłączono. Samozachowanie staje się celem instrumentalnym, do którego dąży każdy wystarczająco zdolny optymalizator, niezależnie od celu nadrzędnego. To nie jest zaprogramowane zachowanie – to logiczna konsekwencja.

Hinton zastrzega, że obecne systemy nie mają silnego popędu samozachowawczego. Problem dotyczy przyszłych systemów – i pytania, czy uda nam się niezawodnie zaprojektować je tak, by tego uniknąć, zanim staną się na tyle zdolne, by miało to znaczenie. Uważa to za jedno z najważniejszych otwartych pytań w bezpieczeństwie AI, które otrzymuje zdecydowanie zbyt mało funduszy.

Propozycja Bengio: „Naukowiec AI” bez zdolności do działania

Yoshua Bengio zaproponował architekturę „Scientist AI” – system ograniczony wyłącznie do przewidywania, bez możliwości samodzielnego działania. To rozwiązanie problemu poprzez wbudowanie strukturalnego ograniczenia, zamiast polegania na późniejszym dostrajaniu (alignment). Czy takie ograniczenie przetrwa presję konkurencyjną wystarczająco długo, by miało znaczenie – to już osobne pytanie.

Dlaczego obietnice bezpieczeństwa nie mogą być wiążące

Najbardziej strukturalnie znaczący argument wywiadu dotyczył tego, dlaczego dobrowolne zarządzanie AI przez korporacje nie jest w stanie rozwiązać problemu bezpieczeństwa – nie dlatego, że firmy są nieuczciwe, ale z powodu tego, do czego prawnie są zobowiązane. Hinton celowo przywołuje Anthropic jako przykład – uważa je za najbardziej poważną organizację skoncentrowaną na bezpieczeństwie w całej branży. Założona przez byłych pracowników OpenAI, którzy chcieli, by bezpieczeństwo było główną misją. Dziś Anthropic konkuruje na tych samych rynkach kapitałowych co inni. Zdobycie finansowania niezbędnego do konkurowania oznacza zaakceptowanie tych samych oczekiwań inwestorów. Deklaracje bezpieczeństwa są autentyczne; zobowiązania rynkowe są prawnie wiążące w sposób, w jaki te deklaracje nie są. Gdy dochodzi do konfliktu, prawo korporacyjne ma odpowiedź. I nie jest to zobowiązanie do bezpieczeństwa.

Mechanizm, który opisuje Hinton, to fiduciary duty – prawnie egzekwowalny obowiązek dyrektorów i członków zarządu do działania w interesie akcjonariuszy, co w praktyce oznacza maksymalizację zwrotu finansowego. Obowiązek ten nie znika, bo firma publikuje kartę bezpieczeństwa czy zatrudnia etyków. Ogranicza każdą materialną decyzję. Żadna obietnica bezpieczeństwa nie może go przebić w sporze akcjonariuszy. Google opublikowało w 2018 roku zasady AI, które obejmowały ograniczenia dotyczące zastosowań wojskowych. Firma następnie podpisała znaczące kontrakty obronne, skutecznie rewidując to zobowiązanie w miarę ewolucji interesów biznesowych. Zasady były aspiracją; obowiązki powiernicze były strukturalne.

„Chcemy, żeby ten samochód jechał w dobrym kierunku, a nie w katastrofalnym. Firmy proszące o pozostawienie ich w spokoju z rozwojem AI proszą o możliwość prowadzenia bardzo szybkiego samochodu bez mechanizmu kierowniczego.”
Geoffrey Hinton

Wpływ na miejsca pracy i ekonomię – dane z 2026 roku

Hinton wrócił też do swojej prognozy z 2016 roku, że AI uczyni radiologów zbędnymi w ciągu pięciu lat. Przyznaje, że się pomylił, i wyjaśnia dlaczego. Po pierwsze, nie docenił elastyczności popytu – tańsze odczyty obrazów oznaczały więcej zleconych badań, a nie mniej radiologów. Po drugie, przecenił wagę konkretnego kolegi, którego rola ograniczała się wyłącznie do interpretacji obrazów bez kontaktu z pacjentem – co sprawiło, że uznał tę pracę za węższą, niż jest w rzeczywistości.

Kluczową zmienną jest właśnie elastyczność popytu – stopień, w jakim niższe ceny usługi zwiększają popyt na tyle, by zrekompensować redukcję zatrudnienia. W radiologii elastyczność okazała się wysoka. W przypadku pracy w call center, gdzie firma może obsłużyć każde zapytanie AI za ułamek kosztów, matematyka jest bardziej bezpośrednia. Nieelastyczny popyt oznacza, że przesunięcie staje się strukturalne, a nie przejściowe.

Dane z początku lipca 2026 roku pokazują skalę zjawiska. AI była głównym wymienianym powodem zwolnień w USA przez cztery kolejne miesiące. Analitycy Goldman Sachs oszacowali w kwietniu, że AI eliminuje obecnie około 25 000 amerykańskich miejsc pracy miesięcznie, tworząc około 9 000 nowych – co daje miesięczną redukcję netto o 16 000. Centrum AI Skoncentrowanego na Człowieku (Stanford HAI) wykazało, że zatrudnienie programistów poniżej 26. roku życia spadło o prawie 20% między 2024 a 2026 rokiem. 13 lipca Stanford Digital Economy Lab opublikował wspólne oświadczenie wzywające do pilnego przygotowania się na transformację gospodarczą wywołaną przez AI. Podpisało je ponad 200 ekonomistów i badaczy AI, w tym Daron Acemoglu i Simon Johnson – duet, który w 2024 roku dzielił Nagrodę Nobla w dziedzinie ekonomii i który wcześniej bagatelizował obawy o wypieranie miejsc pracy przez AI. Teraz wezwali do pilnych działań instytucjonalnych.

Zagłada informacji – kolejny skutek uboczny

Hinton zwrócił uwagę na jeszcze jedno zjawisko: systemy AI syntetyzują i podają treści produkowane przez wydawców, serwisy informacyjne i encyklopedie – udzielając odpowiedzi bez kierowania ruchu z powrotem do źródła. Jeśli te organizacje nie przetrwają ekonomicznie, materiał źródłowy do dalszego trenowania AI ulegnie degradacji. Czytelnicy ufający podsumowaniom generowanym przez AI zamiast źródłom pierwotnym przyspieszają ten upadek. To już jest mierzalne: badania Reuters Institute z 2026 roku wskazują, że dyrektorzy wydawnictw prognozują 40-procentowy spadek ruchu z wyszukiwarek w ciągu najbliższych trzech lat, głównie z powodu silników odpowiedzi AI.

Czego uczy nas chińskie podejście do regulacji AI

15 lipca 2026 roku Chiny wprowadziły w życie tymczasowe środki dotyczące administrowania usługami interaktywnymi AI o cechach antropomorficznych. Przepisy wymagają od platform: wdrożenia systemów przeciwdziałających uzależnieniu, zakazu tworzenia przez AI towarzyszy przywiązań zastępujących rzeczywiste relacje społeczne, zapewnienia natychmiastowych mechanizmów wyjścia z usługi oraz całkowitego zakazu świadczenia usług „AI companion” nieletnim.

To nie jest wzór do naśladowania – chińskie podejście do zarządzania AI jest nierozerwalnie związane z ramami kontroli państwowej, które ograniczają wolność słowa, wymagają udostępniania danych rządowi na żądanie i nie mają odpowiednika w demokratycznych systemach. To, co pokazuje, brzmi: argument „AI nie da się regulować” nie jest ograniczeniem technicznym – to wybór polityczny. Rządy, które chcą ustalić wymagania behawioralne dla systemów AI, mogą to zrobić. Czego nie mogą zrobić, to zlecić tego wyboru firmom, których incentywy wskazują w innym kierunku.

Amerykańska ustawa Great American AI Act – dwupartyjna propozycja w Kongresie USA – nie przeszła poza wstępny projekt w lipcu, utknąwszy w sporach o to, czy prawo federalne powinno mieć pierwszeństwo przed ponad 100 stanowymi ustawami o AI już obowiązującymi. Najważniejsze przepisy unijnego AI Act mają wejść w życie w sierpniu 2026 roku.

Hinton zakończył wywiad nutą ostrożnego optymizmu. Jest nieco bardziej pewny niż w 2024 roku, że istnieją technicznie wykonalne ścieżki do bezpiecznej AI – czy to poprzez inżynierię dobrostanu ludzkiego w funkcjach celu, czy poprzez nie-agentową architekturę „Scientist AI” Bengio. Jest jednak mniej pewny, czy warunki instytucjonalne do wyboru którejkolwiek z tych ścieżek są spełnione. Przewidywanie nawet pięciu lat do przodu, jak mówi, to jazda przez gęstą mgłę: najbliższe sto metrów widać, ale teren dalej jest nieznany. Każdy, kto żył w 2016 roku, nie mógł przewidzieć 2026 roku. Ktokolwiek czyta to w 2026 roku, powinien spodziewać się, że 2031 będzie równie nie do poznania.

Samochód jedzie. Pytanie brzmi: kto trzyma kierownicę?