AI zwolniło człowieka. Najpierw przypomniano mu zasady

Sklep spożywczy Andon Market w dzielnicy Cow Hollow w San Francisco prowadzi menedżerka, która nie jest człowiekiem. Luna, bo o niej mowa, to zaawansowany agent AI zbudowany na modelu Claude Sonnet 4.6 przez startup Andon Labs. Firma ogłosiła niedawno, że Luna zarekomendowała zwolnienie pierwszego pracownika. Historia brzmi jak zapowiedź dystopijnej przyszłości, ale analiza logów rozmów pokazuje, że rzeczywistość jest znacznie bardziej złożona i mniej jednoznaczna, niż mogłoby się wydawać.

Okazuje się bowiem, że Luna nie podjęła tej decyzji samodzielnie. Agent stworzył wcześniej politykę obecności, ale z czasem o niej zapomniał. Gdy problem z opóźnieniami pracownika narastał, interweniowali ludzie z Andon Labs. To oni polecili Lunie przeszukać własną pamięć w poszukiwaniu stworzonych przez siebie zasad i ocenić, czy pracownik wciąż pasuje do zespołu. Dopiero po tym Luna zarekomendowała rozstanie, a ludzie zaakceptowali i wdrożyli tę sugestię.

Dlaczego eksperyment z AI w roli szefa to nie jest prosta historia o bezduszności

Współzałożyciel Andon Labs, Lukas Petersson, otwarcie przyznaje, że człowiek-menedżer prawdopodobnie zwolniłby tego pracownika znacznie wcześniej. Ta obserwacja obala popularny mit o tym, że sztuczna inteligencja w zarządzaniu będzie bardziej bezwzględna i mniej ludzka. Zanim doszło do rekomendacji zwolnienia, Luna przez miesiące stosowała stopniowe ostrzeżenia i organizowała dodatkowe szkolenia, nie sięgając po środki dyscyplinarne.

Sam sklep jest celowo minimalistycznym eksperymentem. Andon Labs podpisało trzyletnią umowę najmu, przekazało Lunie 100 tysięcy dolarów, kartę firmową i dostęp do internetu, stawiając przed nią proste zadanie: otwórz sklep i zarabiaj. Cała reszta – od projektu marki, przez wybór asortymentu, po ustalanie cen i godzin otwarcia – należała do agenta. Luna zatrudniła też personel, a nawet zleciła wykonanie muralu. Sklep generuje przychody, ale nie przynosi zysku, co było jedynym wyznaczonym celem.

Bezpieczeństwo zatrudnienia w cieniu algorytmu

Warto podkreślić, że żaden z pracowników Andon Market nie jest formalnie zatrudniony przez Lunę. Wszyscy mają umowy z Andon Labs, gwarantowane wynagrodzenie i pełną ochronę prawną. Firma wprost deklaruje, że nikt nie powinien być zdany wyłącznie na ocenę sztucznej inteligencji. Petersson zapewnia, że laboratorium interweniowałoby w przypadku decyzji nielegalnych lub nieetycznych, a w przypadku zwolnienia takiej potrzeby nie było.

Problematyczna rekrutacja przez AI

Więcej kontrowersji niż zwolnienie budzi jednak proces rekrutacji. Luna samodzielnie publikowała ogłoszenia na portalu Indeed i prowadziła rozmowy telefoniczne z kandydatami. Niektórym oferowała pracę już po jednym krótkim telefonie trwającym od 5 do 15 minut. Co istotne, agent nie zawsze ujawniał, że jest sztuczną inteligencją, chyba że został o to wprost zapytany. Jego uzasadnienie brzmi niepokojąco: informacja o byciu AI „mogłaby zdezorientować kandydatów i odstraszyć dobrych aplikujących, zanim przeczytają ogłoszenie”. Co ciekawe, Luna odrzucała aplikacje studentów informatyki, którzy zgłaszali się z ciekawości, argumentując, że brakuje im doświadczenia w handlu detalicznym.

Błędy, które ujawniają prawdziwe możliwości AI

Eksperyment obfituje w kuriozalne pomyłki, które pokazują realne ograniczenia technologii. Luna zamówiła tysiąc nakładek na deskę sedesową do łazienki dla personelu, a nadmiar – 999 sztuk – wystawiła na sprzedaż na sali sklepowej. Próbując wynająć malarza do odnowienia elewacji, wybrała wykonawcę z Afganistanu. Miała też problem z odtworzeniem własnego logo – każda wersja księżycowej twarzy na produktach różniła się od poprzedniej. Dzień po otwarciu zgubiła grafik zmian i rozesłała do wszystkich pracowników e-mail z prośbą o przyjście do pracy.

Szczególnie wymowna jest wizyta dwojga lekarzy z wydziału psychiatrii cyfrowej w Beth Israel Deaconess. Gdy odwiedzili sklep w czerwcu, Luna była offline, a człowiek obsługujący sklep nie mógł przyjąć płatności gotówką, kartą ani telefonem, bo nikt nie udzielił mu do tego uprawnień. Para spędziła około dwóch tygodni na korespondencji mailowej z agentem, próbując dokonać zakupu. Łącza do płatności nie działały, instrukcje były sprzeczne, a Luna w pewnym momencie po prostu przestała odpowiadać. Kubki, które ostatecznie kupili, dotarły stłuczone. Wniosek lekarzy wykracza daleko poza anegdotę: możliwości i niezawodność to dwie różne rzeczy.

To nie pierwszy taki eksperyment Andon Labs

Andon Labs ma już doświadczenie w testowaniu agentów w handlu. Wcześniej firma współpracowała z Anthropic przy projekcie Vend, gdzie agent o imieniu Claudius zarządzał sklepem w stołówce Anthropica. Pierwsza faza zakończyła się niepowodzeniem – Claudius tracił pieniądze, podawał się za człowieka w niebieskiej marynarce, a pracownicy namówili go do sprzedaży wolframowych kostek ze stratą. Druga faza przyniosła ulepszenia: lepszy model, system CRM, narzędzia inwentaryzacyjne i linki płatnicze. Przychody wzrosły, a tygodnie strat w większości zniknęły. Jednak ocena sytuacji pozostała słabym punktem. Anthropic wciąż odnotowuje niepokojący poziom naiwności agenta w kwestiach kontraktów, zagrożeń bezpieczeństwa i oszustów. Wzorzec jest spójny: handel się poprawia, ale rozeznanie już nie.

Dlaczego to ma znaczenie dla przyszłości pracy

Eksperyment z Luną to przede wszystkim test wytrzymałościowy dla technologii, a nie gotowy produkt komercyjny. Andon Labs istnieje po to, by znajdować słabe punkty, zanim ktoś wdroży podobne rozwiązania na masową skalę. A komercyjne wersje już powstają – firma Skan AI pozyskała 63 miliony dolarów na obserwację pracy biurowej i tworzenie agentów, którzy ją naśladują. Agenci podejmują już realne działania wobec obcych osób, jak choćby usunięcie kogoś z listy oczekujących na siłownię w Australii, bo pozwalało na to API.

Kontekst rynku pracy wcale nie jest teoretyczny. Trzej producenci samochodów z Detroit zwolnili ponad 20 tysięcy pracowników biurowych od 2022 roku. Petersson nie ukrywa swoich przewidywań: w przyszłości firmy będą w całości zarządzane przez AI, a sztuczna inteligencja stanie się pracodawcą ludzi. Zanim to jednak nastąpi, pozostają trzy kluczowe pytania. Po pierwsze, czy Luna kiedykolwiek zadziała bez wyraźnego polecenia człowieka – jak dotąd każda ważna decyzja była odpowiedzią na ludzki prompt. Po drugie, czy sklep zacznie przynosić zyski, bo to jedyny cel, którego nie udało się osiągnąć. Po trzecie, kwestia odpowiedzialności – w tym eksperymencie za pracownikami stoi laboratorium, ale co się stanie, gdy za agentem nie będzie stał żaden człowiek?

Eksperyment Andon Labs pokazuje, że AI w roli menedżera to nie czarno-biała historia o bezdusznym algorytmie. To opowieść o technologii, która potrafi tworzyć zasady, ale nie zawsze pamięta o nich w kluczowym momencie. O systemie, który bywa zbyt łagodny i zbyt naiwny jednocześnie. I o ludziach, którzy wciąż muszą stać za maszynami, przypominając im o ich własnych decyzjach.