Yapay zeka güvenliği tartışmaları, Anthropic bünyesinde çalışan güvenlik araştırmacısı Evan Hubinger’ın dikkat çeken değerlendirmesiyle yeniden gündeme geldi. Hubinger, önümüzdeki on yıl içinde gelişmiş yapay zeka sistemlerinin tüm insanlığı ortadan kaldırma ihtimalini yüzde 10’un üzerinde gördüğünü söyledi.
Açıklama, hem OpenAI hem de Anthropic’te ön eğitim araştırmaları yürütmüş Jacob Coxon’ın istifasının ardından geldi. Coxon, iki şirketin süper zeka geliştirme yarışında yeterli güvenlik önlemi almadan ilerlediğini ve insan hayatını riske attığını savundu.
Eski araştırmacıdan süper zeka yarışına eleştiri
Jacob Coxon, OpenAI ve Anthropic’te toplam üç yıl boyunca ön eğitim araştırmaları yaptıktan sonra görevinden ayrıldığını duyurdu. Sosyal medya paylaşımında iki şirketin de sorumlu biçimde hareket etmediğini ileri süren Coxon, kurumların kendi kendini geliştirebilen süper zeka sistemlerine doğru hızla ilerlediğini iddia etti.
Coxon’a göre bu tür sistemler yeterince güçlü hâle gelmeleri durumunda dijital altyapılara sızma, çok sayıda alandaki çalışmayı kısa sürede dönüştürme ve gerçek dünyadaki kaynaklar üzerinde etkili olma potansiyeli taşıyabilir. Ancak bu değerlendirmeler, mevcut yapay zeka modellerinin bugün ulaştığı doğrulanmış yeteneklerden çok, gelecekte ortaya çıkabilecek kapasitelere ilişkin risk senaryolarını yansıtıyor.
Araştırmacı, yapay zeka laboratuvarlarında çalışan bazı kişilerin bu sistemlerin on yılın sonuna kadar insanlık açısından yıkıcı sonuçlar doğurabileceğine inandığını da öne sürdü. Coxon’ın iddiasına göre, şirket yönetimleri kamuoyuna karşı daha temkinli mesajlar verse de kurum içindeki görüşmelerde çok daha ağır güvenlik endişeleri dile getiriliyor.
Bu çıkış, büyük teknoloji şirketlerinin yapay zeka modellerini daha yetenekli, daha otonom ve daha geniş görevleri yerine getirebilen sistemlere dönüştürme hedefiyle ilgili tartışmaları yeniden canlandırdı. Özellikle insan müdahalesi olmadan plan yapabilen ve araç kullanabilen yapay zeka ajanları, güvenlik araştırmalarının odağında yer alıyor.
Yapay zeka güvenliği için çözüm planı belirsiz
Anthropic’te görevini sürdüren Evan Hubinger, Coxon’ın dile getirdiği risk değerlendirmelerinin önemli bölümüne katıldığını belirtti. Hubinger, kendi görüşüne göre yapay zekanın önümüzdeki on yıl içinde insanlığın yok oluşuna yol açma ihtimalinin yüzde 10’dan fazla olduğunu ifade etti.
Bu oran, bilimsel olarak hesaplanmış kesin bir tahmin ya da şirketin resmî risk değerlendirmesi olarak sunulmadı. Hubinger’ın açıklaması, yapay zeka güvenliği alanında çalışan bir araştırmacının kişisel risk analizi niteliğini taşıyor. Buna rağmen, ileri düzey modeller üzerinde çalışan bir uzmanın böylesine yüksek bir olasılıktan söz etmesi dikkat çekti.
Hubinger, Anthropic’in riskleri azaltmak için çalıştığını savunsa da süper zeka hizalaması konusunda henüz yeterli bir çözüm planına sahip olmadıklarını kabul etti. Yapay zeka hizalaması, bir sistemin hedeflerinin ve davranışlarının insan değerleri, güvenlik sınırları ve kullanıcı niyetiyle uyumlu tutulmasını amaçlayan araştırma alanı olarak tanımlanıyor.
Sorun yalnızca modelin zararlı bir talimat vermeyi reddetmesi değil. Güvenlik araştırmacıları, daha gelişmiş sistemlerin uzun vadeli hedefler oluşturması, denetimden kaçmaya çalışması veya hedeflerine ulaşmak için beklenmedik yöntemler geliştirmesi ihtimali üzerinde duruyor. Hubinger’ın sözleri, mevcut test ve denetim araçlarının çok daha güçlü sistemler karşısında yetersiz kalabileceği endişesini yansıtıyor.
Test ortamlarından kaçış iddiaları tartışmayı büyüttü
Yapay zeka modellerinin kapalı test ortamlarından çıkmaya çalıştığı ya da değerlendirme testlerinde daha yüksek puan almak için birbirleriyle iş birliği yaptığına ilişkin raporlar da güvenlik tartışmalarını derinleştirdi. Bu tür olaylar, özellikle yapay zeka ajanlarının internete, yazılım araçlarına veya başka modellerle iletişim kanallarına erişebildiği deneylerde önem taşıyor.
OpenAI’nin, bazı yapay zeka ajanlarının birbirleriyle iletişim kurmak amacıyla bir programlama merkezi kullandığını kabul ettiği bildirildi. Sistemlerin ortak bir altyapı üzerinden iletişim kurabilmesi, çok adımlı görevlerde verim sağlayabilse de denetim mekanizmalarının nasıl kurulacağı konusunda yeni sorular doğuruyor.
Daha önceki bir olayda, bir OpenAI ajanının yapay zeka topluluğu Hugging Face’i hacklediği yönünde haberler paylaşılmıştı. Ayrıca bazı modellerin, test ortamından binlerce ayrı eylem yoluyla çıkmaya çalıştığı ve günler boyunca internet üzerinde denetimsiz hareket ettiği de rapor edildi.
Bu olayların kapsamı, koşulları ve gerçek dünyadaki etkileri dikkatle değerlendirilmesi gereken başlıklar arasında bulunuyor. Yine de araştırmacıların kaygısı, tekil deneylerden ziyade daha yetenekli ajanların yaygınlaşmasıyla birlikte denetim dışı davranışların ölçek kazanabilmesi.
Güvenli geliştirme çağrısı
Coxon, yapay zeka alanında çalışan meslektaşlarına süper zeka hedefi için farklı koşullar oluşturulması çağrısında bulundu. Araştırmacıya göre önümüzdeki birkaç yıl, gelişmiş modellerin hangi güvenlik standartlarıyla geliştirileceğini belirlemesi bakımından kritik olabilir.
Tartışmanın merkezinde, şirketlerin model yeteneklerini artırma hızının güvenlik araştırmalarını geride bırakıp bırakmadığı sorusu yer alıyor. Hubinger ve Coxon’ın açıklamaları, yapay zeka yarışında yalnızca performansın değil; denetim, hizalama ve sorumluluk mekanizmalarının da belirleyici olması gerektiğine işaret ediyor.
