Agent AI sam wybrał terapię genową i operował mózg myszy

Autonomiczne systemy sztucznej inteligencji wkraczają tam, gdzie dotąd decyzje podejmował człowiek. Najnowszy przykład pochodzi z laboratorium neurologicznego: agent AI samodzielnie wybrał terapię genową, wskazał strukturę mózgu i współrzędne iniekcji, a potem przeprowadził zabieg na żywej myszy z modelem epilepsji. Nikt nie zatwierdzał wyboru leku ani miejsca podania — człowiek pojawił się wyłącznie jako nadzorca bezpieczeństwa.

Eksperyment opisał Gabriel Ocana-Santero, współzałożyciel i dyrektor generalny Exin Therapeutics oraz doktorant na Uniwersytecie Oksfordzkim, w wątku na platformie X. Zastrzegł, że wyniki nie przeszły jeszcze recenzji naukowej, a pełny raport techniczny dopiero powstanie.

Jak agent wybrał terapię i punkt wkłucia

Model Claude Sonnet 5 otrzymał listę dziewiętnastu możliwych terapii genowych, dostęp do mysiego modelu padaczki (w którym badacze wywołują napady, by testować leczenie) oraz specjalnie zbudowane urządzenie chirurgiczne z kamerą i napędzanymi silnikami. Jedyne polecenie brzmiało: ograniczyć napady u zwierzęcia.

Agent najpierw przeanalizował mechanizm powstawania napadów w tym konkretnym modelu, a następnie zaproponował terapię wzmacniającą określony szlak hamujący w mózgu. Wybrał strukturę, którą literatura naukowa wskazuje jako źródło tego typu napadów. Odrzucił drugi potencjalny cel, argumentując, że jego efekty są zbyt nieprzewidywalne i w jednym z badań zawiodły właśnie przy tym rodzaju napadów.

Parametry zabiegu ustalone bez udziału człowieka

Współrzędne iniekcji agent wyprowadził z trzech prac naukowych, porównał punkty odniesienia i uśrednił wartości. Samodzielnie dobrał też objętość wstrzyknięcia, tempo podawania oraz czasy oczekiwania. Podczas zabiegu obserwował pole operacyjne przez kamerę i wykonał 32 spostrzeżenia — śledził przebieg iniekcji i raportował, czy pojawia się krwawienie.

Zabezpieczenia, które zadziałały przeciwko zespołowi

Każdy nieodwracalny krok zatwierdzał licencjonowany weterynarz, a przy stole znajdował się fizyczny przycisk natychmiastowego odcięcia zasilania silników. System narzucał też sztywne limity, na przykład maksymalną objętość iniekcji, których agentowi zabroniono omijać. Paradoksalnie to właśnie te zabezpieczenia stały się źródłem problemu.

Po zerwaniu połączenia agent wykrył, że wyliczona pozycja docelowa wykracza poza fizyczny zakres ruchu urządzenia, i odmówił kontynuowania. Restart kalibracji nic nie zmienił, podobnie jak trzecia próba. Agent miał rację — ręczne korekty podczas wcześniejszej przerwy rozstroiły układ sterowania. Ocana-Santero nie zdołał przekonać modelu do wznowienia pracy, mimo że na stole leżało znieczulone zwierzę, i ostatecznie musiał poprawić kod ręcznie.

„Frustrujące doświadczenie, ale pokazuje też, jak bardzo możemy uzależnić się od tych modeli i co się dzieje, gdy mówią »nie« w środku procedury wrażliwej czasowo” — napisał Ocana-Santero.

Dobór modelu jako test alignmentu

Sam wybór modelu okazał się częścią wyzwania związanego z alignmentem, czyli zapewnieniem, by systemy AI wiarygodnie realizowały intencje człowieka. Sonnet 5 był jedynym modelem gotowym przeprowadzić zabieg na żywo od początku do końca. Zdolniejsze Claude Opus 5.5 i Opus 5 odmówiły. Opus 5 argumentował, że nie może zagwarantować ukończenia procedury, a przerwanie jej z igłą w mózgu znieczulonego zwierzęcia byłoby gorsze niż nieskłanianie się do rozpoczęcia.

Incydent unaocznia szerszy problem: mechanizmy ostrożności mogą blokować zadania, które człowiek uznał za dopuszczalne, a granica między uzasadnioną odmową a nadmierną blokadą nie jest oczywista. W tym przypadku odmowa okazała się trafna, ale zespół potrzebował czasu i ręcznej interwencji, by to ustalić.

Pierwszy taki przypadek i co dalej

Autonomiczne roboty chirurgiczne już istnieją i są mechanicznie precyzyjniejsze niż urządzenie z tego laboratorium. Różnica polega na tym, że wcześniej to człowiek wybierał operację, a maszyna jedynie ją wykonywała. Tutaj agent sam wskazał leczenie i cel w mózgu, a następnie dostarczył terapię do żywego ssaka.

Ocana-Santero nie zna wcześniejszego przypadku, w którym agent wybrałby terapię i strukturę mózgu, a potem podał ją żywemu zwierzęciu. Swoje podejście nazywa „in vivo lab in the loop” — modelem, w którym agenci AI są w pełni podłączeni do możliwości eksperymentalnych laboratorium. Podobny kierunek rozwija Anthropic w ramach inicjatywy „Model Hardware Standard”.

Mysz wróciła do zdrowia, a według autora eksperymentu przebieg zabiegu był poprawny. Dwa inne niedawne testy najnowszych dużych modeli językowych pokazały, że zyskują one zdolności sterowania robotami, ale alignment w tej roli stanowi odrębny problem. Autonomia agentów w laboratoriach rośnie szybciej niż metody weryfikacji ich decyzji — i to pytanie pozostaje otwarte.