Anthropic Modellerini Hızla İyileştiriyor

Yapay zeka güvenliği araştırma kuruluşu METR, Anthropic'in yapay zekayı kendi araştırma ve geliştirme süreçlerinde aktif olarak kullanarak modellerini yaklaşık iki kat daha hızlı geliştirdiğini ortaya koyan 11 haftalık bir inceleme yayımladı. Araştırma sonuçları, söz konusu ivmenin büyük kısmının Ekim ayı itibarıyla yapay zeka kaynaklı olduğunu ve bu durumun yavaşlama işareti göstermediğini belirtti.

Araştırma Bulguları ve Üretkenlik Artışı

İnceleme kapsamında elde edilen benchmark puanları, şirketin son bir yılda yaklaşık iki yıllık tarihi ilerleme kaydettiğini gösterdi. Yapay zeka destekli çalışanların, AI yardımı olmadan çalıştırıldıkları durumlara kıyasla ortalama 12 kat daha fazla üretkenlik rapor ettiği belirlendi. Öte yandan Anthropic, son altı ay içinde Model 2, Model 3 ve Model 4 adını taşıyan ve henüz yayımlanmamış üç modelin eğitimini tamamladı.

Sansür Tartışmaları ve Şeffaflık Endişeleri

METR, hazırladığı yaklaşık 100 sayfalık tam raporu Anthropic'e sunarken, şirketin kamuoyuna açıklanan sürümde bulguların büyük bir kısmını sansürlediği bildirildi. METR, "We submitted a ~100-page full report on our assessment to Anthropic. For the public version, Anthropic redacted a majority of the evidence we found most informative" dedi ve bu durumun kamuoyunun değerlendirme yapmasını zorlaştırdığını vurguladı. Anthropic ortak kurucusu Sam McCandlish ise "We redacted a lot, and I accept that this makes it harder for others to check METR’s work" ifadelerini kullandı ve bilginin ticari olarak hassas olduğunu kaydetti.

Neden önemli?

METR'nin incelemesi, yapay zekanın kendi kendini geliştirme (recursive self-improvement) potansiyeline dair endişeleri artırırken, sektördeki hızlanma eğilimlerinin güvenlik ve zaman çizelgeleri üzerindeki etkilerini tartışmaya açıyor.

Kaynak: The Verge Ai

Temsili görsel: Negative Space / Pexels