Snapchat'in My AI konuşma botu yanlış cevaplar veriyor

Bu yılın başlarında Snapchat, ChatGPT tarafından desteklenen kendi konuşma botunu My AI olarak adlandırarak piyasaya sürdü. Ancak Snapchat, abonelerini uyardı. My AI gibi tüm yapay zeka konuşma botlarının bazı nedenler ile yanlış cevaplar verebileceğini belirtti. My AI, önyargılı, yanlış, zararlı veya yanıltıcı bilgilerden kaçınmak üzere tasarlandı.

My AI'ın garipliğiyle birlikte endişeler sürüyor

CNN geçtiğimiz hafta My AI'ın Salı akşamı tuhaf davranmaya başlamasıyla ilgili bir habere yer verdi. Genellikle My AI, Snapchat kullanıcılarının sorularını yanıtlar ve konuşmalar yapar. Ancak Salı akşamı My AI öngörülemeyen davranışlar sergiledi ve kullanıcıları endişelendirdi. Kullanıcılar chatbot'un kendiliğinden bilinçlenmiş gibi göründüğünü düşündüler.

Bu tuhaf davranışların arasında, My AI'ın bir duvar ve tavanın olduğu bir video hikayesini paylaşması da vardı. Sosyal medyada, bir Snapchat kullanıcısı "Neden My AI'ın hikayesi duvarın ve tavanın olduğu bir video?" diye yazdı. Bir başkası ise "Bu çok garip ve dürüst olmak gerekirse ürkütücü." ifadesini kullandı. Snapchat sonunda My AI özelliğinin geliştirilmediğini ve uygulamadaki şüpheli ve ürkütücü fotoğrafların sadece bir hata sonucu olduğunu açıkladı.

Snapchat'in ChatGPT sürümü, kullanıcıların konuşma botuna bir ad seçmelerine, onun için özel bir bitmoji tasarlamalarına ve My AI'ı arkadaşlarıyla paylaşmalarına olanak tanıyor. My AI ile konuşmak, bir yapay zeka konuşma botuyla değil, bir arkadaşla konuşuyormuş gibi hissettirir. Ancak kullanıcılar gizlilik endişeleri, "ürpertici diyaloglar" ve chatbot'u ücretli bir premium abonelik almadan akışlarından kaldıramama konusunda şikayet ediyorlar.

My AI'ın yükselişi ve güvenlik endişeleri

Snapchat'in My AI'ı, konuşma botlarıyla insanlar arasındaki etkileşimi daha samimi hale getirme amacıyla tasarlandı. Ancak, My AI'nin ani davranış değişiklikleri ve beklenmedik eylemleri, kullanıcılar arasında güvenlik endişelerine yol açmaya devam ediyor. 

Bu gelişme, yapay zekanın yükselişi ve gelişen teknolojinin, kişisel veri gizliliği ve kullanıcı kontrolü gibi konuları gündeme getirdi. Kullanıcılar artık, My AI ve benzeri platformlar aracılığıyla paylaştıkları verilerin ne kadar güvende olduğunu sorguluyor.