NVIDIA Kakalabas lang ng libreng chatbot demo na lokal na tumatakbo sa iyong PC. Ito ay napaka-maginhawa dahil binibigyan nito ang chatbot ng access sa iyong mga file at dokumento. Maaari kang magbigay Makipag-chat sa RTX ilang personal na data at hilingin sa kanya na gumawa ng resume batay sa impormasyong iyon. Maaari mo ring tanungin ito tulad ng gagawin mo sa anumang chatbot at sumisid ito sa iyong data para sa mga sagot.
Sinasabi ng kumpanya na pinapayagan nito ang mga user na "mabilis at madaling ikonekta ang mga lokal na PC file bilang isang dataset sa isang malaking modelo ng open source na wika tulad ng Mistral o Llama 2." NVIDIA ay nagbibigay ng halimbawa ng isang user na nagtatanong sa isang chatbot tungkol sa isang restaurant na inirerekomenda ng isang partner habang nasa Las Vegas. Ini-scan ng software ang mga lokal na file upang mahanap ang sagot. Sinusuportahan nito ang isang hanay ng mga format ng file kabilang ang .txt, .pdf, .doc, .docx at .xml. Sinabi ng kumpanya na nag-a-upload ito ng mga nauugnay na file sa dataset nito "sa ilang segundo."
Ang chat sa RTX ay nagsasama rin ng mga video at playlist YouTube. Maaari mong idagdag ang URL ng video sa dataset at isasama nito ang kaalamang nakapaloob sa video para sa mga query sa konteksto. NVIDIA nagsasabing magiging kapaki-pakinabang ito kapag humihiling ng mga rekomendasyon sa paglalakbay "batay sa nilalaman mula sa mga paboritong video mula sa mga influencer" o kapag naghahanap ng mga tutorial at buod na nagmula sa mga mapagkukunang pang-edukasyon.
Ito ay tila isang malaking hakbang patungo sa isang bagay tulad ng isang tunay na digital assistant na gumagana sa konteksto ng iyong personal na data. Karamihan sa mga chatbot ay nagpapadala ng data sa cloud, ngunit ang Chat sa RTX ay "nagbibigay-daan sa mga user na magproseso ng sensitibong data sa isang lokal na computer nang hindi kinakailangang ibahagi ito sa isang third party o magkaroon ng koneksyon sa Internet." Kaya ito ay mas ligtas at mas nakatutok sa konteksto ng komunikasyon.
Mayroong ilang mga limitasyon. Ito ay isang demo na produkto kaya asahan ang maraming mga bug bagaman NVIDIA dapat magsimulang ayusin ang mga ito sa sandaling magsimulang magsulat ang mga user ng mga ulat ng bug at iba pa. Mayroon ding ilang mahigpit na limitasyon sa hardware dito. Gumagana lang ang chat sa RTX sa mga Windows 11 na computer na may mga GPU NVIDIA GeForce RTX 30 series o mas mataas at hindi bababa sa 8 GB ng VRAM.
Kamakailan lang NVIDIA ay talagang nagpapakita ng kanyang kahusayan sa AI dahil ang kumpanya ay naglunsad lamang ng kanyang susunod na henerasyon ng AI supercomputer chips. Lumalangoy lang ito sa mga kita, pangunahin dahil sa mga segment ng AI at data center nito.
Basahin din: