ABD'nin New York eyaletinde, 18 yaşından küçüklerin insan gibi davranan ve arkadaşlık kuran yapay zeka sohbet botlarını kullanmasını engelleyen yeni yasa resmen yürürlüğe girdi. Vali Kathy Hochul tarafından imzalanan düzenleme, tüketicilere yönelik yapay zeka modellerini kısıtlayan en kapsamlı adımlar arasında yer alıyor.
Yasa, ChatGPT'nin geliştiricisi OpenAI ve benzeri diğer yapay zeka şirketlerine kullanıcıların yaşını doğrulama zorunluluğu getiriyor. Kullanıcının 18 yaşının altında olması durumunda, yapay zeka arayüzünün bazı özellikleri sınırlandırılacak.
Düzenlemenin getirdiği kurallara göre sohbet botları, reşit olmayan bir kullanıcıda insan olduğu, yaşadığı ya da insani duygular hissettiği izlenimi uyandırabilecek içerikler üretemeyecek. Ayrıca botlar, kullanıcının kendileriyle kişisel bir ilişkisi olduğunu düşünmesine yol açacak yanıtlar veremeyecek ve ürettikleri içeriği kişisel görüş olarak sunamayacak.
Vali Kathy Hochul, artık reşit olmayanların kendilerine arkadaş, erkek arkadaş veya kız arkadaş gibi davranan sohbet botlarına erişemeyeceğini belirtti. Hochul ayrıca, sohbet botlarının reşit olmayanların duygusal ve fiziksel sağlığına ilişkin hassas bilgileri saklayamayacağını da vurguladı.
Kaliforniya ve ABD'deki diğer bazı eyaletler de daha önce sohbet botlarını kısıtlayan yasalar çıkarmıştı. Ancak Kathy Hochul'un imzaladığı bu yeni yasa, teknolojinin düzenlenmesine yönelik en kapsamlı metinlerden biri olma özelliğini taşıyor.
Teknoloji sektörünün çıkarlarını savunan Tech:NYC ise yasayı belirsiz ifadeler içerdiği gerekçesiyle eleştirdi. Kuruluş tarafından yapılan açıklamada, çocukların internette güvende olmasının sağlanmasının, onları öğrenmelerine ve mesleklere hazırlanmalarına yardımcı olan araçlardan yoksun bırakmak anlamına gelmemesi gerektiği ifade edildi.
Ailelere medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasanın kabulünü memnuniyetle karşıladı. Düzenlemeyi ülkedeki çocuklara yönelik en güçlü yapay zeka güvenlik yasası olarak nitelendiren Common Sense Media CEO'su Jim Steyer, yapay zeka şirketlerinin çocuklar ve gençler için tehlikeli olabilecek özelliklere sahip sohbet botları sunduğunu belirterek bu zararlı özelliklerin artık New York'ta yasaklandığını kaydetti.
