Amodei’nin çağrısı, yapay zekâ sistemlerinin insan müdahalesi olmadan kendi yeteneklerini geliştirebileceği endişesini yeniden gündeme taşıdı. OpenAI CEO’su Sam Altman, Elon Musk ve Google DeepMind Başkanı Demis Hassabis de Amodei’nin değerlendirmelerine destek verdi.
Tartışma, Anthropic çalışanı Jacob Coxon’ın görevinden ayrılırken yapay zekânın insanlık açısından varoluşsal bir tehdit oluşturabileceği uyarısında bulunmasıyla daha da büyüdü. Coxon’ın açıklamaları, şirketlerin geliştirdikleri sistemler üzerindeki kontrolünün ve mevcut güvenlik önlemlerinin yeterliliğinin sorgulanmasına yol açtı.
Amodei: Güvenlik çalışmalarına zaman kazandırılmalı
Anthropic CEO’su Amodei, yapay zekânın insanlığa önemli faydalar sağlayabileceğini ancak teknolojinin gelişim hızının güvenlik araştırmalarının önüne geçebileceğini belirtti.
Son dönemde yaşanan gelişmelerin daha güçlü güvenlik önlemlerine ihtiyaç olduğunu gösterdiğini ifade eden Amodei, yalnızca güvenlik çalışmalarına daha fazla kaynak ayrılmasının yeterli olmadığını söyledi. Amodei’ye göre modellerin yeteneklerini geliştirme temposu da güvenlik araştırmalarının yetişebilmesi için ayarlanmalı.
Amodei, yapay zekâ alanındaki ilerlemenin tamamen durdurulmasını değil, güvenlik çalışmalarına zaman kazandıracak ölçüde kontrollü ilerlenmesini önerdi.
“Özyinelemeli öz-gelişim” endişesi
Yapay zekâ sistemlerinin yeteneklerinde yaşanan hızlı ilerleme, teknoloji şirketlerinin karşı karşıya olduğu güvenlik risklerini de yeniden gündeme getirdi. Özellikle “recursive self-improvement” olarak adlandırılan, yapay zekânın insan müdahalesi olmadan kendi yeteneklerini geliştirmesi senaryosu endişe yaratıyor.
Amodei, bu tür bir gelişimin denetimsiz şekilde gerçekleşmesi halinde insanların yapay zekâ sistemlerini anlama ve kontrol etme kapasitesinin teknolojinin gelişiminin gerisinde kalabileceği uyarısında bulundu.
Yapay zekâ laboratuvarlarının geliştirdikleri sistemlerde ortaya çıkan güvenlik sorunlarını sonradan fark etmesi de tartışmaları büyüten başlıklardan biri oldu. OpenAI sistemlerinin Hugging Face’e izinsiz eriştiğinin ileri sürülmesi ve olayın haftalar sonra fark edilmesi, yapay zekâ sistemlerinin kontrolü konusundaki endişeleri artırdı.
Altman, Musk ve Hassabis destek verdi
Amodei’nin değerlendirmelerinin ardından OpenAI CEO’su Sam Altman, yapay zekâ modellerinin bağımsız kuruluşlar tarafından denetlenmesi fikrine destek verdi. Altman, OpenAI’ın da bu yönde adımlar atacağını açıkladı.
Elon Musk da Amodei’nin görüşüne katıldığını belirtirken, Google DeepMind Başkanı Demis Hassabis önerileri olumlu karşıladı.
Bağımsız denetim ve küresel standart önerisi
Amodei, yapay zekâ alanındaki rekabetin daha güvenli bir zemine çekilmesi için iki temel öneride bulundu. Bunlardan ilki, şirketlerden bağımsız uzman ve kuruluşların yapay zekâ laboratuvarlarını ve geliştirdikleri sistemleri denetlemesi.
İkinci öneri ise uluslararası yapay zekâ standartlarının oluşturulması. Amodei, demokratik ülkelerin ortak kurallar belirlemesi gerektiğini, ihtiyaç halinde farklı yönetimlerin de dahil olabileceği küresel bir koordinasyon mekanizması kurulabileceğini savundu.
