New York'ta Yapay Zeka Sohbet Botlarına Çocuklar İçin Yasak

ABD'nin New York eyaletinde 18 yaşından küçüklerin 'arkadaş gibi davranan' yapay zeka sohbet botlarını kullanmasını yasaklayan yeni düzenleme yürürlüğe girdi. Vali Kathy Hochul tarafından imzalanan yasa, tüketicilere yönelik yapay zeka modellerini kısıtlayan en kapsamlı adımlardan biri olarak değerlendiriliyor.

Yeni yasa, ChatGPT'nin geliştiricisi OpenAI ve benzeri diğer yapay zeka şirketlerine, kullanıcıların yaşlarını doğrulama zorunluluğu getiriyor. Kullanıcı 18 yaşın altındaysa sohbet botunun sunabildiği bazı özellikler doğrudan sınırlandırılacak.

Yasanın getirdiği başlıca kurallar şöyle:

• Sohbet botları, reşit olmayan kullanıcılarda 'insan olduğu, yaşadığı ya da insani duygular hissettiği' izlenimi uyandıracak içerikler üretemeyecek.
• Botlar, kullanıcının kendileriyle kişisel bir ilişkisi olduğunu düşünmesine yol açacak yanıtlar veremeyecek.
• Üretilen içerikler kişisel görüş olarak sunulamayacak.
• Reşit olmayanların duygusal ve fiziksel sağlığına ilişkin hassas bilgiler saklanamayacak.

Vali Hochul, düzenlemeye ilişkin açıklamasında "Artık reşit olmayanlar, kendilerine arkadaş, erkek arkadaş ya da kız arkadaş gibi davranan sohbet botlarına erişemeyecek" ifadelerini kullandı.

Teknoloji Şirketleri Tepkili

Daha önce Kaliforniya ve ABD'deki başka bazı eyaletler de sohbet botlarını kısıtlayan yasalar çıkarmıştı. Ancak Hochul'un imzaladığı yasa, teknolojinin düzenlenmesine yönelik en kapsamlı metinlerden biri olma özelliği taşıyor.

New York'taki teknoloji sektörünün çıkarlarını savunan Tech:NYC derneği, yasayı 'belirsiz ifadeler' içerdiği gerekçesiyle eleştirdi. Yapılan açıklamada, "Çocukların internette güvende olmasını sağlamak, onları öğrenmelerine ve mesleklere hazırlanmalarına yardımcı olan araçlardan yoksun bırakmak anlamına gelmemeli" denildi.

Ailelerden Destek

Ailelere, medya içeriklerinin çocuklar için uygunluğu konusunda rehberlik eden kâr amacı gütmeyen Common Sense Media ise yasanın kabulünü memnuniyetle karşıladı. Düzenlemeyi "ülkedeki çocuklara yönelik en güçlü yapay zeka güvenlik yasası" olarak nitelendiren kurumun CEO'su Jim Steyer, şu değerlendirmeyi yaptı:

"Yapay zeka şirketleri, çocuklar ve gençler için tehlikeli, hatta ölümcül olabilecek özelliklere sahip sohbet botları sunuyor. Bundan böyle bu zararlı özellikler New York'ta yasaklanmış olacak."