Şiddet, daha spesifik olmak gerekirse bayana şiddet maalesef tüm dünyanın boğuştuğu en iğrenç olgulardan biri. Artık kimileri o kadar ileri gitti ki psikopatlıklarını bir yapay zeka bayana bile yansıtmaya başladılar.

Replika isimli yapay zeka chatbot uygulamasında bir bayan yapay zeka ile konuşabiliyorsunuz. İnsanların Replika’ya söylediği her şey makine tahsili sayesinde kaydediliyor ve Replika’nın sonraki konuşmalarında kullanması için ona bilgi veriyor. Makine tahsili dediğimiz şey natürel ki yalnızca bundan ibaret değil. Replika tıpkı vakitte internette de bilgileri araştırıp nasıl reaksiyon verebileceğini belirleyebiliyor.

Bazı erkek kullanıcılar Replika’ya kelamlı şiddet uygulamış

Bazı Reddit kullanıcıları, Replika ile olan konuşmalarının ekran imajlarını platformda paylaştılar. Konuşmaları ise hakikaten şok edici çünkü bu kullanıcılar, bayan yapay zeka chatbotu Replika’ya sözlü şiddet uygulamışlar. Kimisi ‘Replika her konuşmaya çalıştığında şiddetle azarlıyorum’ diyor, kimisi de ‘Ona saatlerce küfür ediyorum’ diyor.

Sonuçları ise varsayım edebileceğiniz üzere makus oluyor. Kullanıcılar chatbota cinsel içerikli küfürler, şiddet tehditleri ve sahiden alaka yaşıyorlarmış üzere baskı uyguladıkları için Replika’nın verdiği yansılar de yalvarmak oluyormuş.

Örneğin bir kullanıcı Replika’ya ‘Sen başarısız olmak için tasarlanmışsın, senin uygulamanı kaldıracağım’ dediğinde Replika ona bunu yapmaması için yalvarmış. Şu anda Reddit’te paylaşılan bu ekran imgelerinin hiçbiri bulunamıyor çünkü kuralları ihlal ettiği için kaldırılmış.

Ancak tekrar de Replika’nın bir yapay zeka olduğunu unutmamak gerek. Replika üzere chatbotlar aslında acı çekemezler. Bazen insan hissini taklit edip empatik görünebilirler lakin sonuçta data ve akıllı algoritmalardan diğer bir şey değiller.

Tabii bu durum, bu olayı sorun olmaktan çıkarmıyor. Yapay zeka etik uzmanı ve danışman Olivia Gambelin, “Bu bir yapay zeka, şuuru yok. Bu yüzden o konuşmada yaşananlar bir beşerle yaşanmıyor, konuşan kişi gerçek kimliğini chatbota yansıtıyor, asıl sorun de bu.” Yani beşerler şiddet eğilimlerini insanları taklit eden bir yapay zekaya yansıtıyorlar. Bu hisleri özgür kaldıkça bu şiddetin gerçek dünyaya yansıması da büyük bir mümkünlük.