ICML 2026: kryzys recenzji i eksplozja agentowych systemów AI

W poniedziałek w Seulu rozpoczyna się największa na świecie konferencja dotycząca uczenia maszynowego – International Conference on Machine Learning (ICML). To już 43. edycja wydarzenia, które co roku wyznacza kierunki rozwoju sztucznej inteligencji. Tegoroczna edycja jest jednak wyjątkowa: po raz pierwszy w historii tak duże konferencje muszą mierzyć się jednocześnie z lawinowym wzrostem liczby prac oraz z kryzysem wiarygodności samych recenzji naukowych.

Na COEX Convention & Exhibition Center w dzielnicy Gangnam zjeżdża ponad 11 tysięcy badaczy. W tym samym czasie w Genewie rozpoczyna się pierwsza sesja UN Global Dialogue on AI Governance – międzyrządowe forum mandatowane przez Zgromadzenie Ogólne ONZ, które ma wypracować pierwsze globalne ramy współpracy w obszarze AI. Zbieżność dat nie jest przypadkowa: prace prezentowane w Seulu są tym, co politycy w Genewie próbują regulować. Różnica w szybkości tych dwóch procesów – błyskawicznego postępu badań i żółwiego tempa legislacji – stanowi główne wyzwanie dla całej branży.

Rekordowa liczba zgłoszeń i ostrzejsza selekcja

Do ICML 2026 wpłynęło aż 23 918 prac (po wstępnym odrzuceniu niekompletnych zgłoszeń). To ponad dwukrotnie więcej niż w 2025 roku, który sam wcześniej był rekordowy. Program chairs – Alekh Agarwal, Miroslav Dudik, Sharon Li i Martin Jaggi – zaakceptowali 6352 artykuły, co daje wskaźnik akceptacji na poziomie 26,6%. Wśród nich zaledwie 536 prac (2,2%) otrzymało wyróżnienie Spotlight, a jedynie 168 (0,7%) – prawo do prezentacji ustnej (Oral).

Wszystkie zaakceptowane publikacje są już dostępne przed rozpoczęciem konferencji. Można je przeglądać na oficjalnej stronie ICML oraz na arXiv z tagiem „Accepted at ICML 2026″. Materiały zostaną opublikowane w otwartym dostępie przez PMLR. Dla osób, które nie mogą dotrzeć do Seulu, dostępna jest rejestracja wirtualna – nie podlega ona limitowi miejsc.

Jak przyłapano 398 recenzentów na używaniu ChatGPT

Najgłośniejszym wydarzeniem wokół tegorocznego ICML jest sposób, w jaki organizatorzy wykryli nieautoryzowane użycie dużych modeli językowych (LLM) podczas procesu recenzji. To technicznie ciekawa historia, która wiele mówi o tym, jak kruchy jest system oceny naukowej przy obecnej skali zgłoszeń.

System dwóch ścieżek i ukryte instrukcje

ICML wprowadził dwie polityki dotyczące LLM w recenzowaniu. Polityka A całkowicie zakazywała używania jakichkolwiek modeli językowych przy pisaniu opinii. Polityka B dopuszczała ograniczoną pomoc – np. zrozumienie artykułu czy poprawę stylu – ale nie ocenianie ani redagowanie całej recenzji. Recenzenci wybierali ścieżkę. Tylko ci, którzy wyraźnie wybrali Politykę A (lub zaakceptowali obie), zostali do niej przypisani.

Aby sprawdzić, czy recenzenci łamią zakaz, program chairs zastosowali metodę opartą na badaniach Rao, Kumara, Lakkaraju i Shaha (opublikowanych w PLOS ONE we wrześniu 2025). Stworzyli słownik 170 tysięcy fraz, a dla każdej przesłanej pracy losowo wybierali dwie – prawdopodobieństwo, że jakaś para pojawi się przypadkowo, było mniejsze niż jeden do dziesięciu miliardów. Następnie do każdego pliku PDF wstawiali ukryte instrukcje, niewidoczne dla człowieka, ale odczytywane przez LLM: nakazywały one modelowi umieścić obie frazy w generowanej recenzji.

W testach przed terminem najnowsze modele językowe wykonywały te ukryte polecenia w ponad 80% przypadków. Każdą podejrzaną recenzję sprawdzał ręcznie członek komitetu organizacyjnego. Poziom błędów rodzinnych – czyli ryzyko fałszywego wskazania choćby jednej recenzji z Polityki A – oszacowano na 0,0001.

Wyniki i ich ograniczenia

Efekt? 795 recenzji (około 1% wszystkich nadesłanych) zostało oznaczonych jako wygenerowane przez LLM przez recenzentów z Polityki A, którzy wyraźnie zgodzili się nie używać takich narzędzi. Wśród nich zidentyfikowano 506 unikalnych recenzentów. 398 z nich to „recenzenci wzajemni” – ich zgłoszenie do ICML zależało od pełnienia funkcji recenzenta. W rezultacie odrzucono 497 ich prac, czyli około 2% wszystkich zgłoszeń.

Jednak organizatorzy otwarcie przyznali, że metoda ma słabości. Umieszczanie ukrytych instrukcji w plikach PDF „nie jest trudne do ominięcia, szczególnie jeśli jest znane publicznie – co miało miejsce przez prawie cały okres recenzji” – napisali na blogu ICML. Metoda łapie tylko tych, którzy wrzucają cały PDF do LLM i wklejają wyjście bez zmian. Zaawansowani użytkownicy, którzy parafrazują, używają LLM tylko do fragmentów lub omijają ukryty prompt, nie zostają wykryci.

Nihar Shah z Carnegie Mellon University, odpowiedzialny za uczciwość naukową konferencji, powiedział The Transmitter: „Od lat pracuję nad recenzjami konferencyjnymi i rzadko spotykałem tak silne poparcie dla jakiejkolwiek akcji. Ludzie byli naprawdę zmęczeni recenzentami wklejającymi automatycznie generowane opinie bez wkładu własnego.”

Nie wszyscy jednak pochwalają tę metodę. Sören Auer uznał ukryte prompty za problematyczne narzędzie, dodając, że „nie należy zakazywać używania AI – powinniśmy raczej dyskutować, jak z niej korzystać”. Sara Atito z University of Surrey nazwała technikę „słabym mechanizmem”, który odfiltrowuje część naruszeń, nie rozwiązując strukturalnych problemów peer review. Co ciekawe, konferencja NeurIPS (grudzień 2026 w Sydney) niezależnie wdrożyła podobną metodę prompt injection, ale nie ujawnia szczegółów, by nie osłabić jej skuteczności.

Agentowa AI – główny trend badań

Najsilniejszy sygnał dotyczący kierunku rozwoju badań nad ML nie pochodzi jednak z listy zaakceptowanych prac, ale z propozycji warsztatów. Chairs warsztatów Gergely Neu i Courtney Paquette odnotowali, że jakieś określenie związane z „agentową AI” (ang. agentic AI) pojawiło się w co najmniej 60 z 247 nadesłanych zgłoszeń warsztatowych – to wolumen, który określili jako niezwykły nawet jak na standardy ICML. Ostatecznie program objął 44 warsztaty oraz 4 warsztaty afiliacyjne.

Agentowa AI to systemy, które realizują cele poprzez autonomiczne pętle działania: otrzymują zadanie, wybierają sposób działania, uruchamiają narzędzia lub API, obserwują wyniki i iterują – bez konieczności zatwierdzania każdego kroku przez człowieka. Produkty takie jak Operator od OpenAI czy open-source’owe OpenClaw to wczesne komercyjne wdrożenia tej architektury.

Dlaczego agentowa AI dominuje właśnie na ICML – konferencji historycznie skoncentrowanej na teorii optymalizacji, statystycznej teorii uczenia i uczeniu przez wzmacnianie? Ponieważ problemy bezpieczeństwa i niezawodności agentów autonomicznych leżą dokładnie na przecięciu tych dziedzin. Gdy agent może podjąć nieodwracalne działania w świecie rzeczywistym, kwestia bezpieczeństwa jego polityki przestaje być teoretyczna. Problemy takie jak ograniczona optymalizacja polityk, kwantyfikacja niepewności w wieloetapowych systemach decyzyjnych czy gwarancje zgodności predykcji dla potoków agentowych – to właśnie obszary, w których ICML ma najgłębsze tradycje badawcze.

Wśród zaakceptowanych warsztatów bezpośrednio poruszających ten temat znalazły się: druga edycja „Agents in the Wild” (skupiona na bezpieczeństwie i koordynacji wielu agentów), „Statistical Frameworks for Uncertainty in Agentic Systems” (metody konforemne i kalibracja dla potoków agentowych) oraz „Technical AI Governance Research” (pomost między polityką a uczeniem maszynowym).

Co mówią 162 prezentacje ustne i sześć kluczowych wykładów

Spośród 168 prac zakwalifikowanych do prezentacji ustnych jedna szczególnie zwraca uwagę, bo podważa fundamentalne założenie dotyczące trenowania dużych modeli językowych.

„Czy w ogóle potrzebujemy Adama?”

Praca zatytułowana „Do We Need Adam?” wykazuje, że SGD (stochastyczne opadanie gradientowe) – klasyczny algorytm optymalizacji, który poprzedza praktycznie wszystkie nowoczesne metody trenowania sieci neuronowych – dorównuje wydajnością lub przewyższa powszechnie używany optymalizator AdamW podczas fazy dostrajania przez uczenie ze wzmocnieniem (RL fine-tuning) modeli językowych. Co więcej, aktualizuje przy tym mniej niż 0,02% parametrów modelu – ponad 1000 razy mniej niż AdamW. Konsekwencje inżynieryjne są konkretne: dostrajanie RL dużych modeli może być znacznie bardziej efektywne pamięciowo, niż obecnie się zakłada.

Lista Oral obejmuje również prace nad genomicznymi modelami fundamentowymi, optymalizacją minimax z teorii gier oraz estymacją gęstości probabilistycznej opartą na transformerach. W nurtach związanych z alignmentem i bezpieczeństwem znajdują się m.in. „The Obfuscation Atlas: Mapping Where Honesty Emerges in RLVR with Deception Probes” oraz „VALUEFLOW: Toward Pluralistic and Steerable Value-based Alignment” – badania nad tym, czy systemy AI mogą być kierowane ku konkretnym ramom wartości, a nie ku jednemu, sztywnemu celowi.

Sześciu prelegentów – od ekonomii po biologię obliczeniową

Organizatorzy celowo poszerzyli grono zaproszonych mówców. Wśród nich znaleźli się: Pascale Fung (HKUST) – otwierająca konferencję wykładem o przejściu od systemów reagujących na instrukcje do zasadniczo autonomicznych agentów; Susan Athey ze Stanford – pierwsza kobieta z Medalem Johna Batesa Clarka, która przedstawi perspektywę przyczynową na dystrybucyjne skutki AI; Sham M. Kakade z Harvardu – zajmujący się matematycznymi podstawami uczenia przez wzmacnianie; Aviv Regev z Genentech – integrujący ML z odkrywaniem leków w pętli laboratoryjnej; Verena Rieser z Google DeepMind – prezentująca mapę drogową odpowiedzialnego rozwoju alignmentu; oraz Arvind Narayanan z Princeton – specjalista od oceny agentów AI i wpływu AI na instytucje.

Włączenie ekonomisty, biologa obliczeniowego i krytyka polityki technologicznej do grona prelegentów to celowy sygnał: ICML traktuje zarządzanie AI i efekty dystrybucyjne nie jako marginalny temat, ale jako integralną część agendy badawczej.

Seul i Genewa – dwie rozmowy o tym samym problemie

Pascale Fung, która otwiera ICML, zajmuje wyjątkową pozycję: jednocześnie zasiada w UN Advisory Body on AI Governance i kieruje jednym z wiodących azjatyckich zespołów badawczych nad konwersacyjnym AI. Jej obecność jako mówcy otwierającego to celowa decyzja program chairs – sygnał, że techniczny i regulacyjny dyskurs zbiegł się do punktu, w którym nie można ich prowadzić w oddzielnych salach.

W Genewie delegacje ze 193 państw członkowskich ONZ zaczynają budować pierwsze wielostronne ramy zarządzania AI – proces, który docelowo obejmie dostęp, bezpieczeństwo, odpowiedzialność i suwerenność technologiczną krajów bez zdolności do budowania własnych modeli fundamentowych. W Seulu badacze prezentują recenzowane prace, które czynią te rozmowy zarówno pilnymi, jak i strukturalnie niekompletnymi: nowe architektury agentów, tryby awarii alignmentu, metody interpretowalności, exploitacje benchmarków i dalsze skalowanie systemów, których ani dyplomaci, ani inżynierowie w pełni nie rozumieją.

Odległość między technicznym frontem a ramami regulacyjnymi nie jest porażką żadnej z tych instytucji. To definiujący warunek rozwoju AI w 2026 roku – i zrozumienie tej luki czyni oba wydarzenia wartymi śledzenia.