Netflix testuje AI w rekomendacjach. GenRec wygrywa

Netflix od lat słynie z zaawansowanego systemu rekomendacji, który podpowiada widzom kolejne tytuły. Okazuje się jednak, że nawet najlepsze, ręcznie budowane algorytmy mają swoje granice. Firma postanowiła sprawdzić, czy modele językowe poradzą sobie z tym zadaniem lepiej. Wyniki eksperymentu, opisane przez zespół techniczny Netflixa, są zaskakujące – nowy system nazwany GenRec osiąga lepszą jakość rankingową przy ułamku danych treningowych.

Dlaczego Netflix szuka alternatywy dla klasycznych rekomendacji

Obecny system rekomendacji Netflixa opiera się na tysiącach ręcznie zaprojektowanych cech dotyczących użytkowników, tytułów i interakcji. To rozwiązanie sprawdza się w przypadku filmów i seriali, ale staje się kosztowne i problematyczne, gdy do oferty trafiają nowe typy treści – gry, formaty live czy podcasty. Każda nowa kategoria wymaga bowiem dostosowania istniejących reguł i dodawania kolejnych elementów do skomplikowanej układanki.

Z drugiej strony gotowe modele językowe dostępne na rynku również nie są idealne do rekomendacji. Mają tendencję do faworyzowania popularnych treści, potrafią „zmyślać” tytuły, których nie ma w katalogu, i ignorują reguły biznesowe. GenRec powstał właśnie po to, by wypełnić tę lukę – łączy zalety modeli językowych z kontrolą, jakiej wymaga platforma streamingowa.

Historia oglądania zamieniona w zwykły tekst

Kluczowa różnica między GenRec a starym systemem tkwi w sposobie przetwarzania danych. Zamiast zamieniać historię oglądania na gęste wektory liczb, Netflix konwertuje ją na zwykły tekst. Odtworzenia, czas oglądania, polubienia, dodawanie do listy czy porzucanie tytułów – wszystko to staje się rodzajem dialogu między użytkownikiem a systemem rekomendacji. Model sam wyłapuje wzorce, takie jak preferencje gatunkowe czy zmieniające się zainteresowania, bez potrzeby ręcznego definiowania cech.

Pełny zapis każdej interakcji przekroczyłby jednak limit kontekstu modelu, dlatego zespół stosuje agresywną filtrację. Ważne zdarzenia, jak długie sesje oglądania, pozostają w pełnej szczegółowości, podczas gdy szybkie kliknięcia czy krótkie przewijania są pomijane. Maratony serialowe są natomiast kondensowane do skróconej formy. Dodatkowo osobny komponent sprawdza, czy model nie sugeruje tytułów spoza katalogu – dzięki temu użytkownik nigdy nie zobaczy nieistniejącego filmu.

Jak działa trenowanie GenRec w dwóch etapach

Proces budowy GenRec składa się z dwóch faz. W pierwszej Netflix dostosowuje otwarty model językowy do własnych danych, aby ten zrozumiał specyfikę katalogu i zachowania użytkowników. W drugiej fazie model przechodzi specjalistyczne szkolenie, które zamienia go w narzędzie do rankingu rekomendacji. Ten drugi etap jest aktualizowany częściej, aby uwzględniać nowe tytuły i zmieniające się preferencje widzów.

Co istotne, GenRec działa na infrastrukturze vLLM w trybie, w którym model czyta dane wejściowe raz i ocenia wszystkie kandydatów w jednym przebiegu, bez generowania tekstu. To rozwiązanie pozwala utrzymać koszty obliczeniowe na rozsądnym poziomie. Zespół zauważył też, że dodawanie kolejnych zdarzeń do promptu poza pewną granicą ledwo poprawia jakość, a znacząco zwiększa koszty – więc filtrowanie ma sens również z ekonomicznego punktu widzenia.

Wyniki testów: małe różnice, ale statystycznie istotne

W porównaniu z produkcyjnym systemem, który był dopracowywany przez lata, GenRec osiągnął około 1,6 procent lepszej jakości rankingu offline. Co bardziej imponujące – potrzebował do tego około 40 razy mniej oznaczonych przykładów w drugim etapie treningu. Warto jednak zaznaczyć, że porównanie dotyczy wyłącznie tej konkretnej fazy, a nie wszystkich danych treningowych.

Netflix przeprowadził również czterotygodniowy test A/B na około dziesięciu procentach ruchu, ograniczony do powierzchni rekomendacji z wcześniej obliczonymi wynikami. Krótkoterminowy wskaźnik śledzący zachowania użytkowników na stronie głównej wzrósł o 0,115 procent, a długoterminowy kluczowy wskaźnik poprawił się o 0,006 procent. Według zespołu oba wyniki są zbyt duże, by można je było przypisać przypadkowi.

Specjalistyczne dostrojenie w drugiej fazie dodaje od 35 do 50 procent wydajności względem bazowego modelu. Gdy jednak model bazowy ma już dwa tygodnie, różnica rośnie do około 80 procent – bo nie odzwierciedla już nowych tytułów i zmienionych preferencji. Wniosek jest prosty: systemy rekomendacji szybko się dezaktualizują.

Od inżynierii cech do inżynierii kontekstu

Zespół Netflixa postrzega GenRec jako część szerszego trendu, widocznego także w projektach takich jak PLUM, GLIDE czy OneRec-Think. Zamiast budować dedykowane architektury dla każdego zadania rekomendacyjnego, jeden model językowy obsługuje wiele przypadków użycia. Praca przesuwa się z tworzenia coraz większej liczby cech na decydowanie o tym, które sygnały trafią do wejścia modelu i w jakiej ilości.

Infrastruktura również ewoluuje w kierunku serwerów GPU i narzędzi dla dużych modeli językowych. Sam zespół określa GenRec jako „wczesny, ale obiecujący krok” i opisuje system jako silną alternatywę dla tradycyjnych modeli rekomendacji. Pełna wymiana istniejącego systemu nie wchodzi jednak na razie w grę – to raczej eksperyment, który pokazuje kierunek rozwoju.

Warto przypomnieć, że Netflix wykorzystuje uczenie maszynowe na szerszą skalę od lat. Już w 2020 roku firma opisywała, jak grafy wiedzy i mapy podobieństw przewidują, do której kategorii treści trafi planowany tytuł i jakie wyniki oglądalności może osiągnąć w poszczególnych krajach. Wtedy model BERT od Google przetwarzał wyłącznie tytuły napisane przez ludzi i dostarczał ich maszynowe reprezentacje innym systemom. Teraz Netflix idzie o krok dalej, budując własne modele do produkcji, a niektóre z nich – jak framework VOID do usuwania obiektów z wideo – udostępnia publicznie.

Eksperyment z GenRec pokazuje, że modele językowe mogą skutecznie konkurować z systemami budowanymi latami. Choć różnice w metrykach są niewielkie, oszczędność danych treningowych i elastyczność w obsłudze nowych typów treści to argumenty, które trudno zignorować. Przed nami prawdopodobnie kolejne kroki w tym kierunku – a rekomendacje oparte na języku naturalnym mogą wkrótce stać się standardem w branży streamingowej.

Źródło

Może Cię zainteresować