Posted in

Nvidia posiluje AI inferenci licencí Groq a přetahuje vedení

Ilustrační obrázek / Foto: Depositphotos

Nvidia uzavřela se startupem Groq dohodu o neexkluzivní licenci na jeho čipovou technologii zaměřenou na AI inferenci – tedy fázi, kdy už natrénované modely odpovídají na dotazy uživatelů. Součástí oznámení je i výrazný personální přesun: do Nvidie přechází zakladatel Groqu Jonathan Ross, prezident Sunny Madra a část inženýrského týmu. Groq informaci zveřejnil na firemním blogu.

Na trhu, kde se výkon i náklady stále více přesouvají od trénování k provozu modelů v reálném čase, jde o tah, který může Nvidii pomoci upevnit pozici i v segmentu, kde už její dominance není tak samozřejmá jako u trénovacích GPU.

Proč je inference novým bojištěm

Trénování velkých modelů zůstává doménou Nvidie, ale inference je jiná disciplína: důležitější je nízká latence, vysoká propustnost a efektivita při obsluze milionů dotazů. Právě zde se prosazují nejen tradiční konkurenti typu AMD, ale i specializované startupy jako Groq nebo Cerebras Systems.

Groq se profiluje jako výrobce čipů a systémů optimalizovaných pro rychlou odezvu AI aplikací, zejména chatbotů. Jeho přístup staví na odlišné paměťové strategii: místo externích pamětí s vysokou šířkou pásma používá SRAM přímo na čipu. To může zrychlit interakci, zároveň ale omezuje velikost modelů, které lze efektivně obsloužit.

Akvizice bez akvizice: trend, který sledují i regulátoři

Dohoda zapadá do širšího trendu, kdy velké technologické firmy získávají know-how a talent bez formální koupě celé společnosti. CNBC spekulovala, že Nvidia mohla Groq koupit za 20 miliard $ (400 mld. Kč) v hotovosti, ani Nvidia, ani Groq však tuto informaci nepotvrdily. Groq naopak zdůrazňuje, že zůstává nezávislý, bude fungovat pod vedením nového CEO Simona Edwardse a jeho cloudové služby mají pokračovat.

„Největší riziko je antimonopolní. Neexkluzivní licence může udržet dojem konkurence, i když vedení a technický talent fakticky přecházejí k Nvidii,“ zaznívá ve shodě s komentáři analytiků, kteří podobné struktury sledují.

Podobné „talentové“ transakce v poslední době nabírají na intenzitě. Microsoft si v rámci dohody za 650 milionů $ (13 mld. Kč) zajistil šéfa AI, Meta podle trhu vynaložila 15 miliard $ (300 mld. Kč) na přesun CEO Scale AI a Amazon získal zakladatele Adept AI. Právě proto se tyto konstrukce čím dál častěji dostávají do hledáčku regulátorů, i když zatím žádná z velkých dohod nebyla zrušena.

Groq roste, konkurence přitvrzuje

Groq si mezitím drží silnou pozici mezi „čistě inferenčními“ hráči. V srpnu minulého roku po investičním kole 750 milionů $ (15 mld. Kč) více než zdvojnásobil valuaci na 6,9 miliardy $ (138 mld. Kč). Jeho hlavním soupeřem je Cerebras Systems, který podle médií zvažuje vstup na burzu už v příštím roce; oba startupy navíc uzavírají významné kontrakty i mimo USA, včetně Blízkého východu.

Pro Nvidii je licencování technologie a získání zkušeného týmu – v čele s Rossem, který stál u zrodu AI čipového programu Googlu – jasným signálem, že nechce nechat růst inferenčního trhu konkurenci. A jak opakovaně tvrdí i CEO Jensen Huang, rozhodující otázka příštích let nezní jen „kdo umí modely natrénovat“, ale hlavně „kdo je dokáže nejrychleji a nejlevněji provozovat“.

Zdroj: patria.cz

Odborník na internetové technologie, developer, investor a geek.
Facebook / X.com / LinkedIn

Napsat komentář

Vaše e-mailová adresa nebude zveřejněna. Vyžadované informace jsou označeny *