, що генерують код, можуть створити реальну проблему для безпеки програмного забезпечення в майбутньому.){kind=link}
Makine öğrenimi algoritmaları, önceden var olan devasa veri kümeleri üzerinde eğitimden sonra herhangi bir tür "orijinal" içerik oluşturmak için kullanıldıkları için şu anda çok popüler. Bununla birlikte, kod üreten yapay zeka (AI) gelecekte yazılım güvenliği için gerçek bir sorun oluşturabilir.
GitHub Copilot gibi yapay zeka sistemleri, doğal dildeki metin verilerine ve önceden var olan bağlama dayalı "yeni" kod yığınlarının tamamını oluşturarak programcıların hayatlarını kolaylaştırmayı vaat ediyor. Ancak, son zamanlarda birkaç geliştiriciyi içeren yeni bir çalışmanın bulduğu gibi, kod oluşturma algoritmaları bir güvensizlik faktörü de getirebilir.
Bahsi geçen GitHub Copilot'un arkasındaki kod motoru olan OpenAI tarafından geliştirilen yapay zeka platformu Codex'e özel olarak bakıldığında, çalışmaya 47 farklı geliştirici katıldı. Öğrencilerden deneyimli profesyonellere kadar, Python, JavaScript, C ve diğer üst düzey programlama dillerinde güvenlikle ilgili sorunları çözmek için Codex'i kullanma konusunda zorlandılar.
Araştırmacılar, programcıların Codex'in yapay zekasına erişimi olduğunda, ortaya çıkan kodun, bir kontrol grubu tarafından tasarlanan "manuel" çözümlere kıyasla yanlış veya güvensiz olma olasılığının daha yüksek olduğunu belirtti. Ayrıca, yapay zeka destekli çözümlere sahip programcıların, yukarıda belirtilen kontrol grubuna kıyasla korumasız kodlarının güvenli olduğunu söyleme olasılığı daha yüksekti.
Stanford Üniversitesi'nde yüksek lisans öğrencisi ve çalışmanın baş yazarlarından Ale Perry, "kod üreten sistemler şu anda insan geliştiricilerin yerini alamaz" dedi. Ona göre geliştiriciler, yetkinlikleri dışındaki görevleri gerçekleştirmek veya zaten belirli becerilere sahip oldukları programlama sürecini hızlandırmak için yapay zeka araçlarını kullanabilirler. Çalışmanın yazarına göre, her ikisiyle de ilgilenmeli ve üretilen kodu her zaman kontrol etmelidirler.
Stanford'da yüksek lisans öğrencisi ve çalışmanın ikinci ortak yazarı Megha Srivastava'ya göre Codex işe yaramaz değil: "aptal" yapay zekanın eksikliklerine rağmen, kod oluşturma sistemleri düşük riskli görevler için kullanıldığında yararlı olabilir. Ayrıca, Srivastava, çalışmaya katılan programcıların güvenlik konularında çok fazla deneyime sahip olmadığını ve bunun savunmasız veya tehlikeli kodu belirlemeye yardımcı olabileceğini söyledi.
AI algoritmaları, kodlama önerilerini iyileştirmek için de ince ayar yapılabilir ve kendi sistemlerini geliştiren şirketler, kendi güvenlik uygulamalarına daha uygun kod üreten bir modelle daha iyi çözümler elde edebilir. Çalışmanın yazarlarına göre, kod oluşturma teknolojisi "heyecan verici" bir gelişme ve birçok kişi onu kullanmak için can atıyor. Yapay zekanın eksikliklerini gidermek için doğru çözümleri bulmak için yapılacak çok iş var.
Ukrayna'nın Rus işgalcilerine karşı savaşmasına yardım edebilirsiniz. Bunu yapmanın en iyi yolu, Ukrayna Silahlı Kuvvetlerine bağış yapmaktır. Hayat kurtarmak veya resmi sayfa aracılığıyla NBU.
Ayrıca ilginç: