Ipinagmamalaki ng bagong chatbot ng Deepseek ang isang kahanga -hangang pagpapakilala: "Kumusta, nilikha ako upang maaari kang magtanong ng anuman at makakuha ng isang sagot na maaaring sorpresa ka." Ang AI na ito, isang produkto ng China Startup Deepseek, ay mabilis na naging isang pangunahing manlalaro ng merkado, kahit na nag -aambag sa isang makabuluhang pagbagsak sa presyo ng stock ni Nvidia. Ang tagumpay nito ay nagmula sa isang natatanging pamamaraan ng arkitektura at pagsasanay, na isinasama ang ilang mga makabagong teknolohiya.
Multi-Token Prediction (MTP): Hindi tulad ng tradisyonal na hula ng salita-by-word, ang mga pagtataya ng MTP ng maraming mga salita nang sabay-sabay, na pinag-aaralan ang mga segment ng pangungusap para sa pinahusay na kawastuhan at kahusayan.
Paghahalo ng mga eksperto (MOE): Ang arkitektura na ito ay gumagamit ng maraming mga neural network upang maproseso ang data ng pag -input, pabilis ang pagsasanay sa AI at pagpapalakas ng pagganap. Ang Deepseek V3 ay gumagamit ng 256 na mga network, pag -activate ng walong para sa bawat token.
Multi-head latent pansin (MLA): Ang mekanismong ito ay nakatuon sa mga mahahalagang elemento ng pangungusap. Paulit -ulit na kinukuha ng MLA ang mga pangunahing detalye, na minamaliit ang panganib ng pagtatanong ng mahahalagang impormasyon at pagpapahusay ng pag -unawa sa pag -unawa.
Una nang inangkin ng Deepseek ang isang napakababang gastos sa pagsasanay na $ 6 milyon para sa malakas na modelo ng Deepseek V3, gamit lamang ang 2048 GPU. Gayunpaman, ang semianalysis ay nagsiwalat ng isang mas malaking imprastraktura: humigit -kumulang 50,000 NVIDIA HOPPER GPUs (kabilang ang 10,000 H800s, 10,000 H100s, at karagdagang mga H20) na kumalat sa maraming mga sentro ng data. Ito ay kumakatawan sa isang kabuuang pamumuhunan ng server na humigit -kumulang na $ 1.6 bilyon, na may mga gastos sa pagpapatakbo na tinatayang $ 944 milyon.
Ang Deepseek, isang subsidiary ng high-flyer hedge fund, ay nagmamay-ari ng mga data center nito, na nagbibigay ng kumpletong kontrol sa pag-optimize at mas mabilis na pagpapatupad ng pagbabago. Ang diskarte na pinondohan ng sarili na ito ay nagpapaganda ng kakayahang umangkop at bilis ng paggawa ng desisyon. Bukod dito, ang kumpanya ay umaakit sa nangungunang talento, na may ilang mga mananaliksik na kumikita ng higit sa $ 1.3 milyon taun -taon, lalo na mula sa mga unibersidad ng Tsino.
Ang $ 6 milyong figure, samakatuwid, ay lilitaw na isang makabuluhang hindi pagkakamali, na kumakatawan lamang sa mga gastos sa pre-training GPU. Ang aktwal na pamumuhunan sa pag -unlad ng AI ay lumampas sa $ 500 milyon. Sa kabila nito, ang streamline na istraktura ng Deepseek ay nagbibigay -daan para sa mahusay na pagpapatupad ng pagbabago kumpara sa mas malaki, mas maraming mga kumpanya ng burukrasya.
Ang tagumpay ng Deepseek ay nagpapakita ng potensyal ng isang mahusay na pinondohan na independiyenteng kumpanya ng AI upang makipagkumpetensya sa mga higanteng industriya. Habang ang "rebolusyonaryong badyet" na pag -angkin ay maaaring pinalaki, ang tagumpay ng kumpanya ay hindi maikakaila, na na -fueled ng malaking pamumuhunan, teknolohikal na mga pambihirang tagumpay, at isang mataas na bihasang koponan. Ang kaibahan ay kapansin -pansin kapag isinasaalang -alang ang mga gastos sa katunggali; Ang modelo ng R1 ng Deepseek ay nagkakahalaga ng $ 5 milyon, habang ang Chatgpt4 ay nagkakahalaga ng $ 100 milyon. Kahit na sa mga nilinaw na gastos, ang Deepseek ay nananatiling mas mura kaysa sa mga katunggali nito.
