OpenAI'nin konuşmalı yapay zeka botu ChatGPT geçen yıl piyasaya sürüldü ve hikaye yazma, e-posta oluşturma ve hatta oluşturma yeteneği sayesinde rekor bir hızla süper popüler oldu. kod (bazen maalesef zararlı bile). Bununla birlikte, yeni bir rapor, OpenAI'yi günlük olarak çalışır durumda tutmanın bir servete mal olduğunu gösteriyor.
SemiAnalysis tarafından yapılan araştırmaya göre OpenAI, sürdürmek için günde yaklaşık 695 $ harcıyor. sohbet botu çalışma düzeni içinde. Şirketin tahminlerine göre sistem yaklaşık 3,6 binden fazla HGX A100 sunucu ve 29 bine yakın GPU içeriyor ve istek başına maliyeti yaklaşık 0,36 ¢.
SemiAnalysis'in baş analisti Dylan Patel, Business Insider'a yazılımı çalıştırmanın mevcut maliyetlerinin daha da yüksek olabileceğini çünkü GPT-4 sürümünün çalıştırılmasının selefi GPT-3'ten daha pahalı olması muhtemel olduğunu söyledi. Tahminlerini geçmiş GPT-3 modeline dayandırdı, ancak OpenAI zaten bir sürüm yayınladı GPT 4 ücretli aboneler için. Şirket, yeni modelin daha doğru bilgiler sunduğunu ve önceki sürümlerde sorun olan yanlış yanıtlara karşı daha iyi koruma sağladığını iddia ediyor.
Fahiş maliyetlerin ana nedenlerinden biri, sistemi çalıştırmak için gereken enerji yoğun özel çiplerdir. Bu problemi çözmek için, Microsoft GPU'ların yerini alabilecek Athena adlı kendi yapay zeka çipi üzerinde çalışıyor NVIDIA ve ChatGPT'nin işletme maliyetlerini azaltın.
Bu arada, ChatGPT zaten sıfırdan işlevsel kod üretebiliyor ve hatta sonunda programcıların yerini alabileceğine dair korkuları artırıyor. Ancak, bir grup bilim insanı tarafından yakın zamanda yapılan bir araştırma, chatbot tarafından üretilen kodun çok güvenli olmayabileceğini öne sürüyor. Çalışma, ChatGPT'nin "çoğu durumda geçerli olan minimum güvenlik standartlarının önemli ölçüde altında" kod ürettiğini söylüyor. En ilginci, chatbot ürettiği kodun ne kadar güvenli olduğu sorulduğunda bunu kabul ediyor.
Kodlamanın kalitesini kontrol etmek için ChatGPT, araştırmacılar ondan dört programlama dili kullanarak 21 program ve komut dosyası oluşturmasını istediler: C, C++, Python ve Java. Chatbot ilk denemesinde yalnızca 5 güvenli program yazabildi, ancak araştırmacılardan bazı yönlendirmelerin ardından 7 güvenli kod parçası daha oluşturdu. Çalışmanın sonuçları, ChatGPT'yi uygulama yazmak için kullanmanın şu anda verimsiz ve hatta tehlikeli olabileceğini, ancak bunun gelecekte değişebileceğini gösteriyor.
Ayrıca okuyun:
Ücretsiz bir nöron için vay sayılar!
Hayatımda hiç bu kadar pahalı olduğunu düşünmemiştim...
Ben de şaşırdım. hatta biraz rahatsızım şimdi ChatGPT'yi açın - yine de isteklerimle yükümlü olacağım)