Yapay zekâ (AI) teknolojilerinin hızla gelişmesi, beraberinde getirebileceği risklere ilişkin tartışmaları da büyütüyor. Teknoloji sektörünün önde gelen isimleri, yapay zekânın geleceğine dair farklı görüşler ortaya koyarken, bazı araştırmacılar kontrolün kaybedilebileceği uyarısında bulunuyor. Bir kesim daha sıkı denetim ve yavaşlama çağrısı yaparken, diğerleri yapay zekâ geliştirmelerinin hız kesmeden sürdürülmesi gerektiğini savunuyor.
Yapay zekâ tartışması nasıl başladı?
Neden istifa etti?
Coxon, paylaşımında Anthropic'teki görevinden istifa ettiğini de açıkladı. Araştırmacı, yapay zekâ şirketlerinin giderek daha gelişmiş ve kendi kendini geliştirebilen bir süper zekâ ortaya çıkarmak için yürüttüğünü düşündüğü yarışa tepki olarak görevinden ayrıldığını belirtti. Coxon ayrıca, yapay zekâ sistemlerinin kendi kaynak kodlarını bağımsız şekilde analiz edip geliştirmeye başlaması halinde gelişim süreçlerinin büyük ölçüde hızlanabileceği uyarısında bulundu.
Böyle bir durumda aylar süren geliştirme döngülerinin dakikalar içinde tamamlanabileceğini belirten Coxon, bunun teknolojinin kontrol edilmesini son derece zorlaştırabileceğini ifade etti.
“Tüm insanları öldürebileceğine ciddi biçimde inanıyoruz”
Coxon'ın eski çalışma arkadaşı ve yapay zekâ araştırmacısı Evan Hubinger da konuya ilişkin değerlendirmede bulundu.
Hubinger, X'teki paylaşımında Coxon'ın görüşlerine destek vererek yapay zekânın insanlığın tamamını yok etme ihtimalinin ciddiye alınması gerektiğini savundu. Hubinger, kişisel tahminine göre bunun önümüzdeki 10 yıl içinde gerçekleşme olasılığının yüzde 10'un üzerinde olduğunu ifade etti.
“Acil kapatma düğmesi”
Anthropic'in kurucu ortaklarından Jack Clark ise yapay zekâ şirketlerinin sistemleri tamamen devre dışı bırakabilecek bir “acil kapatma düğmesi” bulundurmasının gelecekte zorunlu hale gelebileceğini söyledi.
