OpenAI Erotizme Açılıyor

Yapay Zeka şirketi OpenAI'ın patronu Sam Altman, sohbet robotu ChatGPT'de erotik içerik de sunmaya başlayacaklarını açıkladı.

Altman bunu "yetişkinlere yetişkin gibi davranma" ilkeleri kapsamında yapacaklarını söyledi.

Altman, X platformunda yaptığı paylaşımda, sohbet robotunun yeni sürümlerinde ChatGPT'nin daha insan gibi davranmasının sağlanacağını belirtti.

Altman amaçlarının kullanıcı sayısını artırmak olmadığını savundu.

Elon Musk'ın Grok'a iki tamamen cinsel içerikli sohbet robotu eklemesi gibi, bu hamle de OpenAI'a daha çok abone getirebilir.

Ayrıca sohbet robotlarına daha sıkı kısıtlamalar getirilmesi çağrıları da artabilir.

OpenAI, Altman'ın paylaşımından sonra BBC'nin sorularına yanıt vermedi.

'Yetişkinlere yetişkin gibi davranmak'

Şirket, intihar eden Amerikalı bir gencin ailesinin geçtiğimiz aylarda açtığı davadan sonra çeşitli değişiklikler yapılacağını duyurmuştu.

On altı yaşındaki Adam Raine'in anne ve babası Matt ve Marie Raine çiftinin başvurusu, OpenAI'ın ölüme sebebiyet vermekle suçlandığı ilk dava.

California eyaletinde yaşayan çift, şirketin ebeveyn kontrollerinin yeterince etkin olmadığını savunuyor.

Aile dava başvurusuna Nisan'da intihar eden Adam ve ChatGPT arasındaki sohbet kayıtlarını da ekledi. Kayıtlarda Adam'ın intihar etmeyi düşündüğünü söylediği görülüyor.

Altman X paylaşımında, "ruh sağlığı konusunda dikkatli olunması adına şirketinin ChatGPT'yi çok sıkı kurallara bağlı çalışır hale getirdiğini" söyledi.

Altman "Bunun ruh sağlığı sorunu olmayan çok sayıda kullanıcımız adına sistemi az kullanışlı ve keyifli hale getirdiğinin farkındayız. Fakat meselenin ağırlığı düşünülürse, bu konuda doğru şeyi yapmak istiyoruz" dedi.

Sam Altman, OpenAI'ın ciddi ruh sağlığı risklerini azaltmayı başardığını ve "birçok durumda yaş kısıtlamalarını güvenli bir şekilde gevşeten" yeni araçları olduğunu da ekledi.

OpenAI'ın patronu " Aralık'ta 'yetişkinlere yetişkin gibi davranma' ilkemizin bir parçası olarak teyitli yetişkin üyelere erotik içeriğe izin vereceğiz" ifadelerini kullandı.

Çocuklar nasıl korunacak?

Platformdaki erotik içeriklerin ABD'de hem federal hem de eyalet düzeyinde daha çok kurala bağlanması gerektiğini söyleyenler de var.

Hukuk şirketi Boies Schiller Flexner'ın ortaklarından Jenny Kim "Çocukların ChatGPT'nin sadece yetişkinlere özel olan ve erotik içerik sağlayan kısımlarını göremeyeceğinden nasıl emin olacaklar? Open AI bu alandaki birçok şirket gibi insanları sadece kobay olarak kullanıyor" dedi.

Kim, Facebook, Instagram ve WhatsApp'ın sahibi Meta şirektine karşı açtığı davada, Instagram'ın algoritmasının, 10'lu yaşlarındaki kullanıcıların rıuh sağlığına zarar verdiğini savunmuştu.

Kim "Yaş kısıtlamalarının işe yarayıp yaramayacağını bile bilmiyoruz" dedi.

TechChrunch'ta Nisan'da yayımlanan bir haberde, OpenAI'ın küçük yaştaki kullanıcıların, erotik içeriklere erişmesine izin verdiği iddia edilmişti.

OpenAI, bu tür içeriklere erişim konusundaki sorunları giderecek bir güncelleme yapıldığını söylemişti.

Demokrasi ve Teknoloji Merkezi adlı kâr amacı gütmeyen bir kuruluşun yaptığı ankette, her beş öğrenciden biri, ya kendilerinin Yapay Zeka ile romantik bir ilişkisi olduğunu ya da olan birini tanıdıklaını söylemişti.

ABD Federal Ticaret Komisyonu (FTC) yapay zeka sohbet robotlarının çocuklarla nasıl etkileşime girdiğini soruşturmaya başladı.

ABD Senatosu'nda da iki partinin ortaklaşa sunduğu yapay zeka sohbet robotlarını "ürün" olarak gören bir yasa tasarısı gündeme geldi. Bu tanımla kullanıcılar sohbet robotu geliştiren şirketlere tazminat davası açabilecek.

Altman'ın duyurusu, yapay zeka şirketlerinin hızlı yükselişlerinin sorgulandığı bir dönemde yapıldı .

OpenAI'ın gelirleri artıyor ama şirket hiç kârlı olamadı.