NVIDIA PC'nizde yerel olarak çalışan ücretsiz bir chatbot demosu yayınladık. Bu çok kullanışlıdır çünkü sohbet robotunun dosyalarınıza ve belgelerinize erişmesini sağlar. Sağlayabilirsiniz RTX ile sohbet edin belirli kişisel verileri ve bu bilgilere dayanarak bir özgeçmiş oluşturmasını isteyin. Ayrıca ona herhangi bir sohbet robotu gibi sorular sorabilirsiniz ve yanıtlar için verilerinize dalacaktır.
Şirket, kullanıcıların "yerel PC dosyalarını bir veri kümesi olarak Mistral veya Llama 2 gibi büyük bir açık kaynak dil modeline hızlı ve kolay bir şekilde bağlamasına" olanak tanıdığını söylüyor. NVIDIA Las Vegas'tayken bir iş ortağının önerdiği bir restoran hakkında chatbot'a soru soran bir kullanıcının örneğini veriyor. Yazılım, cevabı bulmak için yerel dosyaları tarar. .txt, .pdf, .doc, .docx ve .xml gibi çeşitli dosya formatlarını destekler. Şirket, ilgili dosyaları "saniyeler içinde" veri kümesine yüklediğini söylüyor.
RTX ile sohbet, videoları ve oynatma listelerini de entegre eder YouTube. Videonun URL'sini veri kümesine ekleyebilirsiniz; bu, bağlamsal sorgular için videoda yer alan bilgileri entegre edecektir. NVIDIA "Etkileyicilerin en sevdiği videoların içeriğine dayalı olarak" seyahat önerileri isterken veya eğitim kaynaklarından elde edilen öğreticileri ve özetleri ararken bunun faydalı olacağını söylüyor.
Bu, kişisel verileriniz bağlamında çalışan gerçek bir dijital asistan gibi bir şeye doğru atılmış büyük bir adım gibi görünüyor. Çoğu sohbet robotu verileri buluta gönderir, ancak RTX ile Sohbet "kullanıcıların hassas verileri üçüncü bir tarafla paylaşmaya veya İnternet bağlantısına sahip olmadan yerel bir bilgisayarda işlemesine olanak tanır." Dolayısıyla daha güvenli ve bağlam odaklı bir iletişimdir.
Bazı sınırlamalar var. Bu bir demo ürünüdür, bu nedenle birçok hata bekliyoruz NVIDIA kullanıcılar hata raporları vb. yazmaya başlar başlamaz bunları düzeltmeye başlamalıdır. Burada ayrıca bazı katı donanım sınırlamaları da vardır. RTX ile sohbet yalnızca GPU'lu Windows 11 bilgisayarlarda çalışır NVIDIA GeForce RTX 30 serisi veya üzeri ve en az 8 GB VRAM.
Son zamanlarda NVIDIA şirket yeni nesil AI süper bilgisayar çiplerini piyasaya sürdüğü için gerçekten AI hünerini gösteriyor. Esas olarak yapay zeka ve veri merkezi segmentleri nedeniyle kâr elde etmenin tadını çıkarıyor.
Ayrıca okuyun: