NVIDIA - ang unang kumpanya sa kasaysayan ng industriya ng chip, ang capitalization na lumampas sa isang trilyong dolyar. Ano ang sikreto ng tagumpay?
Sigurado ako na marami sa inyo ang nakarinig tungkol sa kumpanya NVIDIA at karamihan sa inyo ay partikular na iniuugnay ito sa mga graphics processor, dahil ang pariralang "NVIDIA GeForce" ay narinig ng halos lahat.
NVIDIA kamakailan ay gumawa ng kasaysayan ng pananalapi sa industriya ng IT. Ito ang unang pinagsama-samang kumpanya ng circuit na ang halaga ng pamilihan ay lumampas sa isang trilyong dolyar. Ito rin ang ikalimang kumpanyang may kaugnayan sa teknolohiya sa kasaysayan na nakamit ang ganoong kalaking tagumpay (sa pamamagitan ng market capitalization). Noong nakaraan, ang mga tao lamang ang maaaring magyabang ng ganoong kataas na rating Apple, Microsoft, Alphabet (may-ari ng Google) at Amazon. Kaya naman minsan tinatawag ito ng mga financier na "Club of Four", na ngayon ay pinalawak na NVIDIA.
Bilang karagdagan, sa mga tuntunin ng capitalization ng merkado, ito ay malayo sa likod ng AMD, Intel, Qualcomm at iba pang mga kumpanya ng teknolohiya. Hindi ito magiging posible kung wala ang visionary policy ng kumpanya, na ipinakilala isang dekada na ang nakalipas.
Basahin din: Mayroon bang hinaharap para sa TruthGPT ni Elon Musk?
Hindi kapani-paniwalang demand para sa NVIDIA H100 Tensor Core
Ano ang sikreto ng gayong pagtaas ng capitalization? Una sa lahat, ito ang reaksyon ng stock exchange sa tagumpay ng chip NVIDIA H100 Tensor Core, na mataas ang demand sa mga nangungunang provider ng cloud infrastructure at online na serbisyo. Ang mga chip na ito ay binili ng Amazon, Meta at Microsoft (para sa sarili nitong mga pangangailangan at mga pangangailangan ng kasosyo nito - ang kumpanyang OpenAI). Ang mga ito ay partikular na matipid sa enerhiya sa pagpapabilis ng mga kalkulasyon na tipikal ng generative artificial intelligence, gaya ng ChatGPT o Dall-E. Ito ay isang hindi kapani-paniwalang paglukso ng isang order ng magnitude para sa pinabilis na pag-compute. Nakakakuha kami ng hindi pa nagagawang performance, scalability, at seguridad para sa anumang workload NVIDIA H100 Tensor Core GPU.
Gamit ang switching system NVIDIA Maaaring ikonekta ang NVLink sa hanggang 256 H100 GPU para mapabilis ang mga workload sa exa scale. Kasama rin sa GPU ang isang nakatuong Transformer Engine para sa paglutas ng mga modelo ng wika na may trilyong parameter. Maaaring pabilisin ng pinagsamang teknolohiya ng H100 ang mga malalaking modelo ng wika (LLM) ng hindi kapani-paniwalang 30x kumpara sa nakaraang henerasyon, na naghahatid ng AI sa pakikipag-usap na nangunguna sa industriya. Itinuturing ng mga developer na ito ay halos perpekto para sa machine learning.
Gayunpaman, ang H100 ay hindi lumitaw nang wala saan. At, para sabihin ang totoo, hindi ito partikular na rebolusyonaryo. NVIDIA, tulad ng walang ibang kumpanya, ay namumuhunan ng malalaking mapagkukunan sa artificial intelligence sa loob ng maraming taon. Bilang resulta, ang isang kumpanya na pangunahing nauugnay sa tatak ng GeForce graphics card ay maaaring tratuhin ang merkado ng consumer na halos isang libangan. Ito ay bumubuo ng tunay na kapangyarihan sa merkado ng mga higanteng IT, pagkatapos ng lahat NVIDIA nakakausap na sila bilang magkapantay.
Interesante din: Ano ang 6G network at bakit kailangan ang mga ito?
Ang artificial intelligence ba ang hinaharap?
Ngayon, halos lahat ay kumbinsido dito, kahit na ang mga nag-aalinlangan na eksperto sa larangang ito. Ngayon ito ay halos isang axiom, isang truism. Bagaman NViDIA alam ang tungkol dito 20 taon na ang nakakaraan. Nagulat ba kita?
Sa teknikal, ang unang malapit na kontak NVIDIA na may artipisyal na katalinuhan ang nangyari noong 1999, nang lumitaw ang GeForce 256 processor sa merkado, na may kakayahang pabilisin ang mga kalkulasyon ng machine learning. Gayunpaman NVIDIA nagsimulang seryosong mamumuhunan sa artificial intelligence lamang noong 2006, nang ipakilala nito ang arkitektura ng CUDA, na nagpapahintulot na gamitin ang parallel processing na kakayahan ng mga graphics processor para sa pagsasanay at pananaliksik.
Ano ang CUDA? Ito ay pinakamahusay na tinukoy bilang isang parallel computing platform at application programming interface (API) na nagpapahintulot sa software na gumamit ng mga general purpose graphics processing units (GPGPUs). Ang pamamaraang ito ay tinatawag na general-purpose computing sa mga GPU. Bilang karagdagan, ang CUDA ay isang software layer na nagbibigay ng direktang access sa virtual instruction set at parallel computing elements ng graphics processor. Ito ay dinisenyo upang gumana sa mga programming language tulad ng C, C++ at Fortran.
Ang accessibility na ito ang nagpapadali para sa mga parallel na developer na samantalahin ang mga mapagkukunan ng GPU, hindi tulad ng mga nakaraang API gaya ng Direct3D at OpenGL, na nangangailangan ng mga advanced na kasanayan sa graphics programming.
Ang isang mahalagang tagumpay ay ang probisyon ng kumpanya NVIDIA computing power para sa groundbreaking na AlexNet neural network. Ito ay isang convolutional neural network (CNN), na binuo ng Ukrainian Alex Kryzhevskyi sa pakikipagtulungan kina Ilya Sutzkever at Jeffrey Ginton.
Ang Convolutional Neural Networks (CNNs) ay palaging ang go-to model para sa pagkilala ng bagay—sila ay mga mahuhusay na modelo na madaling kontrolin at mas madaling sanayin. Hindi sila nakakaranas ng labis na paglalagay sa anumang nakababahala na lawak kapag ginamit sa milyun-milyong larawan. Ang kanilang pagganap ay halos magkapareho sa mga karaniwang feed-forward neural network na may parehong laki. Ang problema lang ay mahirap ilapat ang mga ito sa mga larawang may mataas na resolution. Ang laki ng ImageNet ay nangangailangan ng mga inobasyon na ma-optimize para sa mga GPU at bawasan ang oras ng pagsasanay habang pinapabuti ang pagganap.
Noong Setyembre 30, 2012, lumahok ang AlexNet sa ImageNet Large Scale Visual Recognition Challenge. Nakamit ng network ang markang 15,3% sa nangungunang limang error na pagsubok, higit sa 10,8% na mas mababa kaysa sa marka ng pangalawang pwesto.
Ang pangunahing konklusyon mula sa orihinal na gawain ay ang pagiging kumplikado ng modelo ay dahil sa mataas na pagganap nito, na napakamahal din sa pagkalkula, ngunit naging posible sa pamamagitan ng paggamit ng mga graphics processing unit (GPU) sa panahon ng proseso ng pagsasanay.
Ang AlexNet convolutional neural network mismo ay binubuo ng walong layer; ang unang limang ay convolutional layer, ang ilan sa mga ito ay nauuna sa pinakamataas na pinagsamang mga layer, at ang huling tatlo ay ganap na konektado na mga layer. Ang network, maliban sa huling layer, ay nahahati sa dalawang kopya, bawat isa ay tumatakbo sa isang GPU.
Ibig sabihin, salamat sa NVIDIA at karamihan pa rin sa mga eksperto at siyentipiko ay naniniwala na ang AlexNet ay isang napakalakas na modelo na may kakayahang makamit ang mataas na katumpakan sa napakasalimuot na mga dataset. Ang AlexNet ay ang nangungunang arkitektura para sa anumang gawain sa pagtuklas ng bagay at maaaring magkaroon ng napakalawak na mga aplikasyon sa sektor ng computer vision para sa mga problema sa artificial intelligence. Sa hinaharap, maaaring gamitin ang AlexNet kaysa sa CNN sa larangan ng imaging.
Interesante din: Ang Bluesky phenomenon: anong uri ng serbisyo at matagal na ba ito?
Ang artificial intelligence ay hindi lamang sa mga laboratoryo at data center
В NVIDIA nakakita rin ng magagandang prospect para sa AI sa mga teknolohiya ng consumer device at sa Internet of Things. Habang ang mga kakumpitensya ay nagsisimula pa lamang na isaalang-alang ang pamumuhunan nang mas malawak sa isang bagong uri ng integrated circuit, NVIDIA gumagawa na ng kanilang miniaturization. Ang Tegra K1 chip, na binuo sa pakikipagtulungan sa Tesla at iba pang mga kumpanya ng kotse, ay malamang na lalong mahalaga.
Ang Tegra K1 processor ay isa sa mga unang processor NVIDIA, partikular na idinisenyo para sa mga AI application sa mga mobile at naka-embed na device. Ginagamit ng Tegra K1 ang parehong arkitektura ng GPU gaya ng serye ng mga graphics card at system NVIDIA GeForce, Quadro at Tesla, na nagbibigay ng mataas na performance at compatibility sa mga graphics at computing standards gaya ng OpenGL 4.4, DirectX 11.2, CUDA 6.5 at OpenCL 1.2. Dahil dito, maaaring suportahan ng processor ng Tegra K1 ang mga advanced na algorithm ng artificial intelligence tulad ng mga deep neural network, reinforcement learning, image at speech recognition, at data analysis. Ang Tegra K1 ay mayroong 192 CUDA core.
Sa 2016 NVIDIA naglabas ng isang serye ng mga processor ng Pascal na na-optimize upang suportahan ang mga malalim na neural network at iba pang mga modelo ng artificial intelligence. Sa loob ng isang taon, lumitaw sa merkado ang isang serye ng mga processor ng Volta para sa mga application na nauugnay sa artificial intelligence, na mas mahusay at nakakatipid ng enerhiya. Sa 2019 NVIDIA bumibili ng Mellanox Technologies, isang gumagawa ng mga network ng computer na may mataas na pagganap para sa mga data center at supercomputer.
Bilang resulta, lahat sila ay gumagamit ng mga processor NVIDIA. Sa consumer market, halimbawa, ginagamit ng mga gamer ang rebolusyonaryong DLSS image reconstruction algorithm, na nagbibigay-daan sa kanila na mag-enjoy ng mas matalas na graphics sa mga laro nang hindi gumagastos ng malaking pera sa isang graphics card. Sa merkado ng negosyo, kinikilala na ang mga chips NVIDIA sa maraming paraan na higit pa sa iniaalok ng mga kakumpitensya. Bagaman hindi ang Intel at AMD ay ganap na natulog sa pamamagitan ng intelektwal na rebolusyon.
Kawili-wili din: Ang pinakamahusay na mga tool batay sa artificial intelligence
Intel at AMD sa larangan ng artificial intelligence
Pag-usapan natin ang tungkol sa mga direktang kakumpitensya NVIDIA sa market segment na ito. Ang Intel at AMD ay nagtatrabaho dito nang higit at mas aktibo, ngunit may mahabang pagkaantala.
Ang Intel ay nakakuha ng ilang kumpanya ng AI tulad ng Nervana Systems, Movidius, Mobileye at Habana Labs upang palakasin ang portfolio nito ng mga teknolohiya at solusyon ng AI. Nag-aalok din ang Intel ng mga platform ng hardware at software para sa artificial intelligence, gaya ng mga Xeon processor, FPGA, NNP chips, at optimization library. Nakikipagtulungan din ang Intel sa mga kasosyo sa publiko at pribadong sektor para isulong ang innovation at edukasyon ng AI.
Ang AMD ay bumuo ng isang serye ng mga Epyc processor at Radeon Instinct graphics card na na-optimize para sa AI at deep learning application. Gumagana rin ang AMD sa mga kumpanya tulad ng Google, Microsoft, IBM at Amazon, na nagbibigay ng mga solusyon sa ulap para sa AI. Nagsusumikap din ang AMD na lumahok sa pananaliksik at pagpapaunlad ng AI sa pamamagitan ng pakikipagtulungan sa mga institusyong pang-akademiko at mga organisasyon sa industriya. Ang lahat ay napakahusay, bagaman NVIDIA nauna na sa kanila, at ang tagumpay nito sa larangan ng pag-unlad at suporta ng mga algorithm ng AI ay hindi mapapantayan.
Interesante din: Buod ng Google I/O 2023: Android 14, Pixel at maraming AI
NVIDIA ay nauugnay sa mga video game sa loob ng mga dekada
Hindi rin ito dapat kalimutan. NVIDIA ay hindi nagbibigay ng eksaktong breakdown ng mga kita nito sa pagitan ng mga merkado ng consumer at negosyo, ngunit maaari silang matantya batay sa mga operating segment na ibinubunyag ng kumpanya sa mga financial statement nito. NVIDIA naghihiwalay ng apat na operating segment: Gaming, Professional Visualization, Data Centers, at Automotive.
Maaaring ipagpalagay na ang segment ng paglalaro ay pangunahing nakatuon sa merkado ng consumer, dahil kabilang dito ang pagbebenta ng mga GeForce video card at Tegra chips para sa mga game console. Ang segment ng propesyonal na visualization ay pangunahing nakatuon sa merkado ng negosyo, dahil kabilang dito ang pagbebenta ng mga Quadro video card at RTX chips para sa mga workstation at mga propesyonal na application. Pangunahing nakatuon din ang segment ng data center sa market ng negosyo, dahil kabilang dito ang pagbebenta ng mga GPU at NPU (iyon ay, mga susunod na henerasyong chips - hindi na mga GPU, ngunit eksklusibong idinisenyo para sa AI) para sa mga server at serbisyo sa cloud. Tina-target ng automotive segment ang mga consumer at business market, dahil kabilang dito ang mga benta ng Tegra at Drive system para sa infotainment at autonomous na pagmamaneho.
Batay sa mga pagpapalagay na ito, posibleng tantiyahin ang bahagi ng mga kita mula sa mga merkado ng consumer at negosyo sa kabuuang mga kita NVIDIA. Ayon sa pinakabagong ulat sa pananalapi para sa taong 2022, ang mga kita ng kumpanya NVIDIA ayon sa mga operating segment ay ang mga sumusunod:
- Mga Laro: $12,9 bilyon
- Propesyonal na visualization: $1,3 bilyon
- Mga sentro ng data: $9,7 bilyon
- Mga Sasakyan: $0,8 bilyon
- Lahat ng iba pang mga segment: $8,7 bilyon
Kabuuang kita NVIDIA umabot sa $33,4 bilyon. Kung ipagpalagay namin na ang segment ng sasakyan ay nahahati nang humigit-kumulang pantay sa pagitan ng mga merkado ng consumer at negosyo, maaaring kalkulahin ang mga sumusunod na proporsyon:
- Kita mula sa consumer market: (12,9 + 0,4) / 33,4 = 0,4 (40%)
- Kita mula sa merkado ng negosyo: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (60%)
Nangangahulugan ito na halos 40% ng kita NVIDIA ay mula sa merkado ng consumer, at tungkol sa 60% mula sa merkado ng negosyo. Iyon ay, ang pangunahing direksyon ay ang segment ng negosyo. Ngunit ang industriya ng laro ay nagdudulot din ng magandang kita. Ang pinakamahalagang bagay ay lumalaki sila bawat taon.
Interesante din: Diary ng isang Grumpy Old Geek: Bing vs Google
Ano ang idudulot sa atin ng hinaharap?
Obvious naman yun NVIDIA mayroon nang plano na lumahok sa pagbuo ng mga algorithm ng artificial intelligence. At ito ay mas malawak at mas promising kaysa sa alinman sa mga direktang kakumpitensya nito.
Noong nakaraang buwan lang NVIDIA nag-anunsyo ng maraming bagong pamumuhunan sa artificial intelligence. Ang isa sa mga ito ay ang mekanismo ng GET3D, na may kakayahang makabuo ng mga kumplikadong three-dimensional na modelo ng iba't ibang mga bagay at character na matapat na sumasalamin sa katotohanan. Ang GET3D ay maaaring makabuo ng humigit-kumulang 20 bagay sa bawat segundo gamit ang isang graphics chip.
Dapat ding banggitin ang isa pang kawili-wiling proyekto. Tungkol sa Israel-1 ay isang supercomputer para sa mga programa ng artificial intelligence, na NVIDIA ay nilikha sa pakikipagtulungan sa Ministri ng Agham at Teknolohiya ng Israel at ang kumpanya ng Mellanox. Ang makina ay inaasahang magkakaroon ng higit sa 7 petaflops ng computing power at gumamit ng higit sa 1000 GPUs NVIDIA A100 Tensor Core. Ang Israel-1 ay gagamitin para sa pananaliksik at pagpapaunlad sa mga larangan tulad ng medisina, biology, chemistry, physics at cyber security. At ang mga ito ay napaka-promising na mga pamumuhunan sa kapital, dahil sa mga pangmatagalang prospect.
Gayundin, mayroon nang isa pang proyekto - NVIDIA ACE. Ito ay isang bagong teknolohiya na nakatakdang baguhin ang industriya ng paglalaro sa pamamagitan ng pagpayag sa manlalaro na makipag-ugnayan sa isang non-player character (NPC) sa natural at makatotohanang paraan. Ang mga character na ito ay magagawang magsagawa ng isang bukas na dialogue sa player, reaksyon sa kanyang mga damdamin at mga kilos, at kahit na ipahayag ang kanilang sariling mga damdamin at mga saloobin. NVIDIA Gumagamit ang ACE ng mga advanced na modelo ng wika at mga generator ng imahe na nakabatay sa AI.
Ang unang trilyong dolyar sa NVIDIA. Mukhang magkakaroon pa. Sisiguraduhin naming susundan ang pag-usad ng kumpanya at ipaalam sa iyo.
Basahin din: