AMD przejmuje Taalas: AI wbudowane w krzem

Rynek akceleratorów sztucznej inteligencji właśnie doczekał się kolejnego ważnego ruchu. AMD ogłosiło przejęcie kanadyjskiego startupu Taalas, który od 2023 roku rozwijał nietypowe podejście do przyspieszania inferencji – zamiast uniwersalnych układów, firma projektuje chipy z modelem AI wbudowanym bezpośrednio w strukturę krzemu. Transakcja wpisuje się w strategię AMD, która chce konkurować z Nvidią nie tylko na polu klasycznych GPU, ale również specjalizowanych rozwiązań systemowych.

Co dokładnie robi Taalas i dlaczego to przełomowe?

Taalas, założony w Toronto, wyszedł z ukrycia w lutym z zaskakującą koncepcją. Zamiast tworzyć chipy, które mogą obsługiwać różne modele, firma postanowiła wbudować architekturę konkretnego modelu oraz jego wytrenowane parametry bezpośrednio w układ scalony. Dzięki temu inferencja działa niezwykle szybko, ale jest jeden haczyk – taki chip obsługuje tylko jeden, konkretny model AI.

Demonstracyjny układ Taalas osiągnął zawrotną prędkość ponad 16 000 tokenów na sekundę na użytkownika przy modelu Llama 3.1-8B. To wynik wielokrotnie przewyższający możliwości konkurencyjnych rozwiązań sprzętowych. Dla porównania, typowe akceleratory dostępne na rynku osiągają w tym zadaniu wyniki o rząd wielkości niższe.

Co ciekawe, nad podobnym rozwiązaniem pracuje podobno również Google, które rozwija dedykowany chip dla swojego modelu Gemini. To sugeruje, że podejście Taalas może wyznaczać nowy kierunek w projektowaniu sprzętu AI – szczególnie w scenariuszach, gdzie liczy się maksymalna wydajność dla jednego, konkretnego modelu.

Jak AMD wykorzysta technologię Taalas?

AMD planuje włączyć technologię Taalas do swojej mapy drogowej akceleratorów. Układy te mają być oferowane obok procesorów graficznych Instinct jako rozwiązanie na poziomie całego systemu. To istotny sygnał, że AMD nie traktuje tej akwizycji jako eksperymentu, ale jako element szerszej strategii produktowej.

Vamsi Boppana, wiceprezes działu AI w AMD, podkreśla, że transakcja wzmacnia portfolio sztucznej inteligencji firmy. Z kolei Ljubisa Bajic, współzałożyciel Taalas, zwraca uwagę na skalę i zasięg, jakie AMD może zapewnić startupowi. To klasyczny układ – młoda firma z innowacyjną technologią zyskuje dostęp do globalnej dystrybucji i zaplecza produkcyjnego, a gigant półprzewodnikowy wzbogaca swoją ofertę o unikalne rozwiązanie.

Jakie są ograniczenia i potencjalne zastosowania?

Największą zaletą rozwiązań Taalas jest surowa wydajność. Chip z wbudowanym modelem Llama 3.1-8B bije wszystkie inne układy inferencyjne pod względem szybkości. Jednak ta przewaga ma swoją cenę – sprzęt jest przypisany do jednego modelu. Jeśli pojawi się nowsza wersja lub konieczna będzie zmiana architektury, chip trzeba będzie wymienić fizycznie.

To sprawia, że technologia Taalas znajdzie zastosowanie przede wszystkim w scenariuszach, gdzie:

  • model jest stabilny i nie wymaga częstych aktualizacji,
  • prędkość inferencji ma krytyczne znaczenie,
  • koszt wymiany sprzętu jest akceptowalny w zamian za ekstremalną wydajność,
  • skala wdrożenia uzasadnia dedykowany sprzęt.

Przejęcie Taalas przez AMD to kolejny dowód na to, że rynek akceleratorów AI ewoluuje w kierunku specjalizacji. Podczas gdy Nvidia dominuje w segmencie uniwersalnych GPU, AMD stawia na różnorodność – od klasycznych akceleratorów po wyspecjalizowane chipy dedykowane konkretnym modelom. Transakcja podlega jeszcze standardowym zatwierdzeniom regulacyjnym, ale kierunek jest jasny: przyszłość sprzętu AI to nie tylko większa moc obliczeniowa, ale także coraz głębsza integracja oprogramowania z fizyczną strukturą chipów.

Źródło

Może Cię zainteresować