Root NationNesneŞirketlerCUDA'dan Yapay Zekaya: Başarının Sırları NVIDIA

CUDA'dan Yapay Zekaya: Başarının Sırları NVIDIA

-

NVIDIA - çip endüstrisi tarihinde, sermayesi trilyon doları aşan ilk şirket. Başarının sırrı nedir?

Eminim çoğunuz şirketi duymuşsunuzdur NVIDIA ve çoğunuz bunu özellikle grafik işlemcilerle ilişkilendiriyorsunuz çünkü "NVIDIA GeForce" neredeyse herkes tarafından duyuldu.

NVIDIA

NVIDIA yakın zamanda bilişim sektöründe mali tarih yazdı. Piyasa değeri trilyon doları aşan ilk entegre devre şirketidir. Aynı zamanda tarihte bu kadar büyük (piyasa değeri açısından) bir başarıya ulaşan beşinci teknolojiyle ilgili şirkettir. Daha önce yalnızca insanlar bu kadar yüksek bir derecelendirmeyle övünebilirdi Apple, Microsoft, Alphabet (Google'ın sahibi) ve Amazon. Finansörlerin bazen buna "Dörtlü Kulüp" adını vermelerinin nedeni budur; bu kulüp artık daha da genişletilmiştir. NVIDIA.

Ayrıca piyasa değeri açısından AMD, Intel, Qualcomm ve diğer teknoloji şirketlerinin çok gerisindedir. Şirketin on yıl önce uygulamaya koyduğu vizyoner politikası olmasaydı bu mümkün olmazdı.

Ayrıca okuyun: Elon Musk'ın TruthGPT'si için bir gelecek var mı?

İnanılmaz talep NVIDIA H100 Tensör Çekirdeği

Sermayedeki bu kadar artışın sırrı nedir? Öncelikle çipin başarısına borsanın tepkisi bu NVIDIA Önde gelen bulut altyapısı ve çevrimiçi hizmet sağlayıcıları arasında yüksek talep gören H100 Tensor Core. Bu çipler Amazon, Meta ve Microsoft (kendi ihtiyaçları ve ortağı OpenAI şirketinin ihtiyaçları için). ChatGPT veya Dall-E gibi üretken yapay zekaya özgü hesaplamaları hızlandırma konusunda özellikle enerji açısından verimlidirler. Bu, hızlandırılmış bilgi işlem için inanılmaz derecede büyük bir sıçramadır. Her türlü iş yükü için benzeri görülmemiş bir performans, ölçeklenebilirlik ve güvenlik elde ediyoruz. NVIDIA H100 Tensör Çekirdek GPU'su.

NVIDIA-H100-Tensör Çekirdeği

Bir anahtarlama sistemi kullanma NVIDIA NVLink, iş yüklerini büyük ölçekte hızlandırmak için 256 adede kadar H100 GPU'ya bağlanabilir. GPU ayrıca trilyonlarca parametreye sahip dil ​​modellerini çözmek için özel bir Transformer Engine içerir. H100'ün birleşik teknoloji yenilikleri, büyük dil modellerini (LLM'ler) önceki nesle kıyasla inanılmaz bir 30 kat hızlandırabilir ve endüstri lideri konuşma yapay zekası sunar. Geliştiriciler bunun makine öğrenimi için neredeyse ideal olduğunu düşünüyor.

- Reklam -

Ancak H100 birdenbire ortaya çıkmadı. Ve doğruyu söylemek gerekirse pek de devrimci değil. NVIDIABaşka hiçbir şirket gibi, uzun yıllardır yapay zekaya büyük kaynaklar yatırmıyor. Sonuç olarak, öncelikli olarak GeForce grafik kartı markasıyla ilişkilendirilen bir şirket, tüketici pazarına neredeyse bir hobi gibi davranabilir. Sonuçta bu, BT devleri pazarında gerçek bir güç yaratıyor NVIDIA zaten onlarla eşitmiş gibi konuşabiliyoruz.

Ayrıca ilginç: 6G ağları nedir ve neden gereklidir?

Yapay zeka gelecek mi?

Bugün neredeyse herkes buna ikna olmuş durumda, hatta bu alandaki şüpheci uzmanlar bile. Artık bu neredeyse bir aksiyom, bir gerçektir. Rağmen NViDIA bunu 20 yıl önce biliyordu. Seni şaşırttım mı?

Teknik olarak ilk yakın temas NVIDIA yapay zeka ile 1999 yılında, makine öğrenimi hesaplamalarını hızlandırabilen GeForce 256 işlemcinin piyasaya sürülmesiyle gerçekleşti. Fakat NVIDIA Yapay zekaya ciddi yatırım yapmaya ancak 2006 yılında, eğitim ve araştırma için grafik işlemcilerin paralel işleme yeteneklerinin kullanılmasına izin veren CUDA mimarisini tanıttığında başladı.

NVIDIA-CUDA

CUDA nedir? En iyi şekilde, yazılımın genel amaçlı grafik işleme birimlerini (GPGPU'lar) kullanmasına izin veren bir paralel bilgi işlem platformu ve uygulama programlama arabirimi (API) olarak tanımlanır. Bu yaklaşım, GPU'larda genel amaçlı bilgi işlem olarak adlandırılır. Ayrıca CUDA, grafik işlemcinin sanal komut setine ve paralel bilgi işlem öğelerine doğrudan erişim sağlayan bir yazılım katmanıdır. C, C++ ve Fortran gibi programlama dilleri ile çalışacak şekilde tasarlanmıştır.

Direct3D ve OpenGL gibi gelişmiş grafik programlama becerileri gerektiren önceki API'lerin aksine, paralel geliştiricilerin GPU kaynaklarından yararlanmasını kolaylaştıran da bu erişilebilirliktir.

NVIDIA-CUDA

Önemli bir atılım şirket tarafından sağlanan hüküm oldu NVIDIA Çığır açan AlexNet sinir ağı için bilgi işlem gücü. Ukraynalı Alex Kryzhevskyi tarafından Ilya Sutzkever ve Jeffrey Ginton ile işbirliği içinde geliştirilen evrişimli bir sinir ağıdır (CNN).

Konvolüsyonel Sinir Ağları (CNN'ler), nesne tanıma için her zaman tercih edilen model olmuştur; bunlar, kontrol edilmesi ve eğitilmesi daha da kolay olan güçlü modellerdir. Milyonlarca görüntüde kullanıldıklarında endişe verici ölçüde fazla uydurma yaşamazlar. Performansları, aynı boyuttaki standart ileri beslemeli sinir ağlarıyla neredeyse aynıdır. Tek sorun, yüksek çözünürlüklü görüntülere uygulanmasının zor olmasıdır. ImageNet'in ölçeği, GPU'lar için optimize edilecek ve performansı artırırken eğitim süresini azaltacak yenilikler gerektiriyordu.

AlexNet

30 Eylül 2012'de AlexNet, ImageNet Büyük Ölçekli Görsel Tanıma Yarışmasına katıldı. Ağ, ilk beş hata testinde ikinci sıradaki puandan %15,3 daha düşük bir puanla %10,8 puan elde etti.

Orijinal çalışmanın ana sonucu, modelin karmaşıklığının, aynı zamanda hesaplama açısından çok pahalı olan, ancak eğitim sürecinde grafik işleme birimlerinin (GPU'lar) kullanılmasıyla mümkün olan yüksek performansından kaynaklandığıydı.

AlexNet evrişimli sinir ağının kendisi sekiz katmandan oluşur; ilk beşi evrişimli katmanlardır, bazılarından önce maksimum düzeyde birleştirilmiş katmanlar gelir ve son üçü tamamen bağlantılı katmanlardır. Ağ, son katman hariç, her biri tek bir GPU üzerinde çalışan iki kopyaya bölünmüştür.

- Reklam -

Yani onun sayesinde NVIDIA ve hala çoğu uzman ve bilim insanı, AlexNet'in çok karmaşık veri kümelerinde yüksek doğruluk elde edebilen inanılmaz derecede güçlü bir model olduğuna inanıyor. AlexNet, herhangi bir nesne algılama görevi için lider mimaridir ve yapay zeka sorunlarına yönelik bilgisayarlı görme sektöründe çok geniş uygulamalara sahip olabilir. Gelecekte AlexNet görüntüleme alanında CNN'den daha fazla kullanılabilir.

Ayrıca ilginç: Bluesky fenomeni: ne tür bir hizmet ve uzun zamandır mı?

Yapay zeka sadece laboratuvarlarda ve veri merkezlerinde değil

В NVIDIA Tüketici cihazları ve Nesnelerin İnterneti teknolojilerinde de yapay zeka için büyük umutlar gördü. Rakipler yeni bir entegre devre türüne daha geniş kapsamlı yatırım yapmayı yeni düşünmeye başlarken, NVIDIA zaten minyatürleştirme üzerinde çalışıyor. Tesla ve diğer otomobil şirketleriyle işbirliği içinde geliştirilen Tegra K1 çipi muhtemelen özellikle önemlidir.

NVIDIA-Tegra-K1

Tegra K1 işlemci ilk işlemcilerden biridir NVIDIA, mobil ve gömülü cihazlardaki yapay zeka uygulamaları için özel olarak tasarlanmıştır. Tegra K1, bir dizi grafik kartı ve sistemle aynı GPU mimarisini kullanıyor NVIDIA OpenGL 4.4, DirectX 11.2, CUDA 6.5 ve OpenCL 1.2 gibi grafik ve bilgi işlem standartlarıyla yüksek performans ve uyumluluk sağlayan GeForce, Quadro ve Tesla. Bu sayede Tegra K1 işlemci, derin sinir ağları, takviyeli öğrenme, görüntü ve konuşma tanıma, veri analizi gibi gelişmiş yapay zeka algoritmalarını destekleyebiliyor. Tegra K1'de 192 CUDA çekirdeği bulunuyor.

2016'de NVIDIA derin sinir ağlarını ve diğer yapay zeka modellerini desteklemek için optimize edilmiş bir dizi Pascal işlemciyi piyasaya sürdü. Bir yıl içinde, yapay zeka ile ilgili uygulamalara yönelik, daha verimli ve enerji tasarrufu sağlayan bir dizi Volta işlemci piyasaya çıktı. 2019'da NVIDIA veri merkezleri ve süper bilgisayarlar için yüksek performanslı bilgisayar ağları üreticisi Mellanox Technologies'i satın aldı.

NVIDIA

Sonuç olarak hepsi işlemci kullanıyor NVIDIA. Örneğin tüketici pazarında oyuncular, grafik kartına çok fazla para harcamadan oyunlarda daha keskin grafiklerin keyfini çıkarmalarına olanak tanıyan devrim niteliğindeki DLSS görüntü yeniden yapılandırma algoritmasını kullanıyor. İş piyasasında cipslerin olduğu kabul edilmektedir. NVIDIA birçok açıdan rakiplerin sunduklarının ötesinde. Intel ve AMD'nin entelektüel devrim boyunca tamamen uyuduğu söylenemez.

Ayrıca ilginç: Yapay zekaya dayalı en iyi araçlar

Yapay zeka alanında Intel ve AMD

Doğrudan rakipler hakkında konuşalım NVIDIA bu pazar segmentinde. Intel ve AMD burada giderek daha aktif bir şekilde çalışıyor ancak uzun bir gecikmeyle.

Intel, AI teknolojileri ve çözümleri portföyünü güçlendirmek için Nervana Systems, Movidius, Mobileye ve Habana Labs gibi birçok AI şirketini satın aldı. Intel ayrıca yapay zeka için Xeon işlemciler, FPGA'lar, NNP yongaları ve optimizasyon kitaplıkları gibi donanım ve yazılım platformları sunar. Intel ayrıca yapay zeka inovasyonunu ve eğitimini ilerletmek için kamu ve özel sektör ortaklarıyla birlikte çalışır.

Intel ve AMD

AMD, yapay zeka ve derin öğrenme uygulamaları için optimize edilmiş bir dizi Epyc işlemci ve Radeon Instinct grafik kartı geliştirdi. AMD ayrıca Google gibi şirketlerle de çalışıyor. Microsoft, IBM ve Amazon, yapay zeka için bulut çözümleri sağlıyor. AMD ayrıca akademik kurumlar ve sektör kuruluşlarıyla ortaklıklar kurarak yapay zeka araştırma ve geliştirme çalışmalarına katılmaya da çalışıyor. Herşey çok iyi yine de NVIDIA halihazırda onların çok ilerisindedir ve AI algoritmalarının geliştirilmesi ve desteklenmesi alanındaki başarısı kıyaslanamayacak kadar büyüktür.

Ayrıca ilginç: Google I/O 2023 Özeti: Android 14, Pixel ve çok sayıda AI

NVIDIA onlarca yıldır video oyunlarıyla ilişkilendiriliyor

Şunu da unutmamak lazım. NVIDIA Gelirlerinin tüketici ve ticari pazarlar arasındaki kesin dağılımını sağlamaz ancak bunlar, şirketin mali tablolarında açıkladığı faaliyet bölümlerine göre tahmin edilebilir. NVIDIA dört faaliyet segmentine ayrılır: Oyun, Profesyonel Görselleştirme, Veri Merkezleri ve Otomotiv.

NVIDIA

GeForce ekran kartları ve oyun konsolları için Tegra yongalarının satışını içerdiğinden, oyun segmentinin esas olarak tüketici pazarına odaklandığı varsayılabilir. Profesyonel görselleştirme segmenti, iş istasyonları ve profesyonel uygulamalar için Quadro grafik kartları ve RTX yongalarının satışını içerdiğinden, esas olarak iş piyasasına odaklanır. Veri merkezi segmenti, sunucular ve bulut hizmetleri için GPU'ların ve NPU'ların (yani, artık GPU'lar değil, yalnızca yapay zeka için tasarlanmış yeni nesil yongalar) satışını da içerdiğinden, esas olarak iş pazarına odaklanmıştır. Otomotiv segmenti, bilgi-eğlence ve otonom sürüş için Tegra ve Drive sistemlerinin satışını içerdiği için hem tüketici hem de ticari pazarları hedefliyor.

NVIDIA

Bu varsayımlara dayanarak tüketici ve iş piyasalarından elde edilen gelirlerin toplam gelirler içindeki payını tahmin etmek mümkündür. NVIDIA. 2022 yılı son mali raporuna göre şirketin gelirleri NVIDIA faaliyet bölümlerine göre şu şekilde oluştu:

  • Oyunlar: 12,9 milyar dolar
  • Profesyonel görselleştirme: 1,3 milyar dolar
  • Veri merkezleri: 9,7 milyar dolar
  • Otomobiller: 0,8 milyar dolar
  • Diğer tüm segmentler: 8,7 milyar dolar

Toplam gelir NVIDIA Otomotiv segmentinin tüketici ve iş pazarları arasında yaklaşık olarak eşit olarak bölündüğünü varsayarsak aşağıdaki oranlar hesaplanabilir:

  • Tüketici pazarından elde edilen gelir: (12,9 + 0,4) / 33,4 = 0,4 (%40)
  • İş piyasasından elde edilen gelir: (1,3 + 9,7 + 0,4 + 8,7) / 33,4 = 0,6 (%60)

Bu da gelirin yaklaşık yüzde 40'ının NVIDIA Tüketici pazarından ve yaklaşık %60'ı iş pazarından geliyor. Yani ana yön iş segmentidir. Ama oyun sektörü de oldukça iyi gelir getiriyor. En önemlisi her yıl büyüyorlar.

Ayrıca ilginç: Huysuz Yaşlı Bir Geek'in Günlüğü: Bing ve Google

Gelecek bize ne getirecek?

Açıkça görülüyor ki NVIDIA Yapay zeka algoritmalarının geliştirilmesine katılmaya yönelik bir plan zaten var. Ve doğrudan rakiplerinden çok daha geniş ve daha umut verici.

Sadece son ayda NVIDIA yapay zekaya çok sayıda yeni yatırım yapacağını duyurdu. Bunlardan biri, çeşitli nesnelerin ve karakterlerin gerçeği tam olarak yansıtan karmaşık üç boyutlu modellerini üretme yeteneğine sahip GET3D mekanizmasıdır. GET3D, tek bir grafik yongasını kullanarak saniyede yaklaşık 20 nesne üretebilir.

İlginç bir projeden daha bahsetmek gerekiyor. İsrail-1 hakkında yapay zeka programları için bir süper bilgisayardır. NVIDIA İsrail Bilim ve Teknoloji Bakanlığı ve Mellanox şirketi ile işbirliği içinde yaratıyor. Makinenin 7 petafloptan fazla hesaplama gücüne sahip olması ve 1000'den fazla GPU kullanması bekleniyor. NVIDIA A100 Tensör Çekirdeği. İsrail-1 tıp, biyoloji, kimya, fizik ve siber güvenlik gibi alanlarda araştırma ve geliştirme amacıyla kullanılacak. Uzun vadeli beklentiler göz önüne alındığında bunlar zaten çok umut verici sermaye yatırımlarıdır.

NVIDIA

Ayrıca zaten başka bir proje daha var - NVIDIA ACE. Oyuncunun oyuncu olmayan bir karakterle (NPC) doğal ve gerçekçi bir şekilde etkileşime girmesine olanak tanıyarak oyun endüstrisinde devrim yaratacak yeni bir teknolojidir. Bu karakterler oyuncuyla açık bir diyalog yürütebilecek, onun duygu ve jestlerine tepki verebilecek, hatta kendi duygu ve düşüncelerini ifade edebilecek. NVIDIA ACE, gelişmiş dil modellerini ve yapay zeka tabanlı görüntü oluşturucuları kullanır.

İlk trilyon dolar NVIDIA. Yakında daha fazlası da olacak gibi görünüyor. Şirketin ilerleyişini mutlaka takip edip size bildireceğiz.

Ayrıca okuyun:

Yuri Svitlyk
Yuri Svitlyk
Karpat Dağları'nın oğlu, tanınmayan matematik dehası, "avukat"Microsoft, pratik fedakar, sol-sağ
- Reklam -
Üye olmak
hakkında bilgilendir
konuk

0 Yorumlar
Gömülü İncelemeler
Tüm yorumları görüntüle