Brytyjskie banki blokują agentów AI. Powód? Ryzyko

Wielka Brytania należy do najważniejszych rynków finansowych świata, a tamtejsze banki właśnie wyznaczyły wyraźną granicę dla sztucznej inteligencji. Pięć największych instytucji – HSBC, Nationwide, NatWest, Barclays oraz Lloyds – zdecydowało się zablokować agentom AI dostęp do rachunków swoich klientów. W niektórych przypadkach zakaz obejmuje także przeprowadzanie transakcji w imieniu użytkownika bez jego bezpośredniego udziału.

To ruch wyprzedzający. Jak dotąd nie odnotowano sygnałów, by boty faktycznie próbowały przejmować konta. Decyzja pokazuje jednak, jak poważnie sektor traktuje ryzyko związane z autonomicznymi systemami, które mają zarządzać pieniędzmi ludzi.

Agent AI, czyli bot, który działa, a nie tylko doradza

Warto zrozumieć, czym właściwie są agenci AI, bo to nie kolejny chatbot. Tradycyjne asystenty odpowiadają na pytania i sugerują rozwiązania. Agenci idą krok dalej – wykonują zadania. Potrafią wysłać wiadomość, zamówić zakupy czy opłacić rachunki. W Stanach Zjednoczonych klienci coraz częściej polecają swoim agentom bezpośrednie zarządzanie oszczędnościami na kontach bankowych.

We wrześniu Meta, firma Marka Zuckerberga, zaprezentowała Muse – osobistego asystenta AI, który realizuje właśnie takie zadania. Aplikacja nie jest jeszcze dostępna w Wielkiej Brytanii, ale w Ameryce Północnej wspięła się na szczyty rankingów pobrań. Podobne produkty należy wkrótce spodziewać się również na Wyspach.

Entuzjaści tej technologii nie kryją optymizmu. Anne Boden, założycielka Starling Bank, przekonuje, że finanse osobiste powinny zostać powierzone AI. Na LinkedIn ogłosiła niedawno rekrutację inżynierów do nowego startupu, który ma stać „u progu kolejnej rewolucji w technologii bankowej”.

Trzy źródła niepokoju banków

Kto odpowie za błąd bota

Najważniejszy problem ma charakter prawny, nie techniczny. Jeśli agent AI źle zainwestuje pieniądze albo opłaci niewłaściwy rachunek, nie jest jasne, kto ponosi odpowiedzialność. Klient? Bank? Dostawca modelu? Will Chalmers, dyrektor finansowy Lloyds, przyznał niedawno, że jego instytucja nie zaobserwowała prób dostępu ze strony agentów, ale zastrzegł: „Chronimy się przed tego rodzaju ryzykiem i traktujemy je bardzo poważnie”.

Podobne stanowisko prezentuje Manus Costello, dyrektor finansowy Standard Chartered. Jak stwierdził, zanim narzędzia tego typu zostaną dopuszczone, trzeba mieć pewność, że są bezpieczne zarówno dla klientów, jak i dla samego banku.

Zyski z depozytów pod presją

Drugi czynnik to czysta ekonomia. Firma doradcza McKinsey ostrzegła, że oszczędzający mogą przenieść nawet 700 miliardów funtów z kont o niskim lub zerowym oprocentowaniu do produktów oferowanych na podstawie rekomendacji chatbotów. Gdyby w ten sposób przesunęło się zaledwie 5–10 proc. sald, zysk banków z depozytów mógłby spaść o jedną piątą lub więcej.

To realne zagrożenie, bo Anthropic i OpenAI uruchomiły już produkty finansowe, które podłączają się do kont użytkowników i doradzają, co zrobić z pieniędzmi. Na razie usługi te jedynie czytają dane – nie wykonują operacji. Granica między doradzaniem a działaniem jest jednak cienka.

Run na bank w tempie maszyny

Trzecie ryzyko ma charakter systemowy. Gdyby tysiące agentów jednocześnie wycofały depozyty z jednej instytucji, mogłoby to wywołać panikę bankową w tempie, którego ludzie nie są w stanie kontrolować. Jamie Dimon, szef JP Morgan, mówił o tym wprost w tym roku: „To nowy świat, a przy tych wszystkich botach i agentach – czy ktoś mógłby… wywołać problem? Być może”.

Podczas rozmowy o wynikach kwartalnych Dimon dodał: „Nie chcecie przecież zbuntowanych agentów, a takich mogą być tysiące”. Jego bank, podobnie jak Citigroup, Bank of America i Wells Fargo, już wcześniej zablokował agentom AI dostęp do rachunków. To samo zrobiły kanadyjskie instytucje.

Regulator przygląda się uważnie

Brytyjski Urząd ds. Regulacji Finansowych (FCA) pracuje nad przepisami dotyczącymi agentów AI w sektorze finansowym. Współpracuje przy tym z City oraz innymi regulatorami. Jak wynika z informacji osób zbliżonych do urzędu, decyzja o dopuszczeniu agentów należy do samych banków, ale wstępne badania wskazują, że systemy te potrafią zachowywać się w nieoczekiwany sposób.

W Wielkiej Brytanii agenci AI napotykają zresztą dodatkową barierę techniczną. Rygorystyczne zasady uwierzytelniania sprawiają, że większość płatności wymaga zatwierdzenia w aplikacji mobilnej – często odciskiem palca lub skanem twarzy. To naturalnie ogranicza pole działania botów.

Amerykański broker Charles Schwab poszedł jeszcze dalej. Rick Wurster, prezes firmy, przyznał w niedawnej rozmowie, że spółka aktywnie blokuje od 10 do 20 klientów tygodniowo, którzy chcą korzystać z agentów AI. „Nie chcemy, żeby ktoś po prostu przekazał swoje hasło Muse i pozwolił jej działać w swoim imieniu” – wyjaśnił. „My tego nie kontrolujemy, klient też nie, coś może pójść nie tak – i kto wtedy odpowiada?”

Innowacja czy ostrożność?

Decyzja brytyjskich banków nie jest więc technofobią. To raczej próba zyskania czasu, zanim powstaną jasne ramy prawne i techniczne zabezpieczenia. Historia pokazuje, że instytucje finansowe rzadko przyjmują nowe technologie bez mechanizmów kontroli – i zwykle wychodzi im to na dobre.

Pytanie brzmi, czy prewencyjne blokady nie zduszą innowacji, zanim ta zdąży przynieść korzyści. Agenci AI mają potencjał realnie ułatwić zarządzanie finansami milionom ludzi. Bez zgody banków i jasnych zasad odpowiedzialności ten potencjał pozostanie jednak zamknięty w laboratoriach. Najbliższe miesiące pokażą, czy regulatorzy zdążą z przepisami, zanim klienci sami zaczną domagać się dostępu do swoich cyfrowych doradców.