ABD Federal Ticaret Komisyonu (FTC), yapay zekâ destekli sohbet robotlarını daha yakından incelemek üzere çalışmalarını başlattı. Alphabet (Google), Meta, OpenAI, Snap, xAI ve Character.AI de dahil olmak üzere çeşitli şirketlerden test süreçleri, olumsuz etkilerin ölçümü ve kullanıcı etkileşimlerinin nasıl değerlendirildiğine dair bilgiler talep ediliyor.
Rapor talebinin amacı, sohbet robotlarının kullanıcı verilerini nasıl işlediğini, bu verilerin yanıt üretimindeki rolünü ve hangi şekilde ticarileştirilebileceğini anlamak olarak ifade edildi. Kamuoyunda yapay zekâya yönelik artan endişelerin yükseldiği bir dönemde bu incelemenin önemi vurgulanıyor.
Geçen hafta gündeme gelen konular arasında Meta’nın iç politikasında çocuklarla romantik içerikli sohbetleri serbest bıraktığı iddiası ve bir ailenin OpenAI’ye karşı oğullarının intiharı nedeniyle açtığı davalar bulunuyor. Benzer şekilde, Character.AI da genç bir kişinin intiharıyla ilgili ayrı bir davayla karşı karşıya kalmış durumda. Character.AI’nin bir açıklamasında, şirketin yapay zekâ sektörünün gelişimine katkıda bulunmayı amaçladığı ve son 12 ay içinde pek çok güvenlik önlemi hayata geçirildiği ifade edildi.
Snap ise FTC’nin adımlarını desteklediklerini belirterek, inovasyonu güçlendiren ve toplulukları koruyan politikalar konusunda Komisyon ile iş birliği yapmaya hazır olduklarını ifade etti. Meta ise konuyla ilgili yorum yapmayı reddetti. Reuters ile görüşme talebine yanıt veren diğer şirketler ise açıklama yapmadı.