New York'ta reşit olmayan bireylerin yapay zeka teknolojileriyle kurduğu iletişimi sınırlandıran ve çocukların güvenliğini hedefleyen yeni bir yasa yürürlüğe girdi. DW Türkçe’de yer alan habere göre; getirilen yeni düzenlemeyle birlikte ChatGPT'nin geliştiricisi OpenAI ve diğer teknoloji şirketlerine kullanıcıların yaşını doğrulama zorunluluğu yüklendi.
Kullanıcının 18 yaşın altında olduğunun tespit edilmesi durumunda yapay zeka arayüzünün bazı özellikleri sınırlandırılacak. Bu kapsamda sohbet botları, reşit olmayan bir kullanıcıda "insan olduğu, yaşadığı ya da insani duygular hissettiği" izlenimini uyandırabilecek içerikler üretemeyecek.
Ayrıca söz konusu botlar, kullanıcının kendileriyle "kişisel bir ilişkisi olduğunu" düşünmesine yol açacak yanıtlar veremeyecek ve ürettikleri içerikleri "kişisel görüş" olarak sunamayacak. Uygulama, çocukların yapay zeka ile duygusal bağ kurmasının ve manipüle edilmesinin önüne geçmeyi amaçlıyor.
Teknoloji sektöründen eleştiri, sivil toplumdan destek
New York'taki teknoloji sektörünün çıkarlarını savunan Tech:NYC örgütü, yeni yasayı eleştirerek düzenlemenin "belirsiz ifadeler" içerdiğini savundu. Yapılan açıklamada, "Çocukların internette güvende olmasını sağlamak, onları öğrenmelerine ve mesleklere hazırlanmalarına yardımcı olan araçlardan yoksun bırakmak anlamına gelmemeli" ifadelerine yer verildi.
Buna karşın, ailelere medya içeriklerinin uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasanın kabulünü memnuniyetle karşıladı. Düzenlemeyi "ülkedeki çocuklara yönelik en güçlü yapay zeka güvenlik yasası" olarak nitelendiren Common Sense Media CEO'su Jim Steyer, şu değerlendirmede bulundu:
"YZ şirketleri, çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özelliklere sahip sohbet botları sunuyor. Bundan böyle bu zararlı özellikler New York'ta yasaklanmış olacak."
