Przystępność Deepseek to mit: rewolucyjna sztuczna inteligencja kosztowała 1,6 miliarda dolarów na rozwój

Zaskakująco tani model AI Deepseek rzuca wyzwanie gigantom branżowym. Chiński startup twierdzi, że wyszkolił swoją potężną sieć neuronową Deepseek V3 za zaledwie 6 milionów dolarów, wykorzystując tylko 2048 GPU, znacznie podważając konkurentów. To pozornie niski koszt zaprzecza jednak o wiele bardziej znaczącej inwestycji.

Obraz: engame.com

Innowacyjna architektura Deepseek V3 przyczynia się do jej wydajności. Kluczowe technologie obejmują prognozę wielofunkcyjną (MTP) do jednoczesnej prognozy słów, mieszanka ekspertów (MOE) wykorzystujących 256 sieci neuronowych do przyspieszonego szkolenia oraz wielokrotne utajone uwagi (MLA) w celu poprawy ekstrakcji informacji.

Obraz: engame.com

Jednak raport z półproduktu pokazuje znacznie większą infrastrukturę: około 50 000 GPU NVIDIA, kosztujące około 1,6 miliarda dolarów, a wydatki operacyjne są zbliżone do 944 mln USD. Kontrastuje to gwałtownie z nagłośnionymi kosztami szkolenia w wysokości 6 milionów dolarów, co odzwierciedla jedynie wstępne wykorzystywanie GPU, wykluczając badania, udoskonalanie, przetwarzanie danych i ogólną infrastrukturę.

Niezależność i wydajna struktura Deepseek, spółka zależna funduszu hedgingowego o wysokiej flyer, są kluczem do jego sukcesu. Posiadanie centrów danych pozwala na zoptymalizowane rozwój modeli i szybkie innowacje. Samorozwieńcza i szczupła struktura firmy również przyczyniają się do jej zwinności. Wysokie wynagrodzenie, przekraczające 1,3 miliona dolarów rocznie dla niektórych naukowców, przyciągają najlepsze talenty z chińskich uniwersytetów.

Obraz: engame.com

Podczas gdy roszczenie Deepseek w wysokości 6 milionów dolarów wprowadza w błąd, faktyczna inwestycja przekraczająca 500 milionów dolarów nadal stanowi znaczną przewagę kosztową w porównaniu z konkurentami. Model firmy R1 kosztował 5 milionów dolarów na trening, a Chatgpt-4 podobno kosztował 100 milionów dolarów. Sukces Deepseek podkreśla potencjał konkurencyjny dobrze finansowanej, niezależnej firmy AI, choć jej „przyjazna budżet” narracja wymaga kwalifikacji.

Obraz: engame.com

Podsumowując, przewagę konkurencyjną Deepseek wynika z kombinacji znacznych inwestycji, innowacji technologicznych i wysoce wykwalifikowanego zespołu, a nie wyłącznie z niezwykle niskiego budżetu szkoleniowego. Jednak nawet przy skorygowanych liczbach jego koszty pozostają znacznie niższe niż koszty jego konkurentów.