Teknolojinin yalnızlığa çare olma vaadiyle sunduğu “yapay zeka arkadaşlık” uygulamaları, dünya genelinde hızla yaygınlaşırken beraberinde ciddi güvenlik endişelerini de getiriyor. Siber güvenlik çözümlerinde dünya lideri ESET, son dönemde popülerliği artan bu dijital dostlukların karanlık yüzüne dikkat çekti. Kullanıcıların psikolojik ve hatta romantik ihtiyaçlarını karşılayan bu botlarla yapılan kontrolsüz paylaşımlar, kişisel verilerin ifşasından şantaja kadar uzanan büyük riskler barındırıyor.
Character.AI, Nomi ve Replika gibi uygulamalar, gelişmiş dil modellerini (LLM) kullanarak kullanıcılarla son derece gerçekçi ve kişiselleştirilmiş sohbetler kuruyor. Ancak bu samimiyet, kullanıcıların gardını düşürmesine ve mahremiyetlerini tehlikeye atmasına neden olabiliyor.
Dev Şirketler de Bu Trende Katılıyor
Yapay zeka arkadaşlığı sadece niş uygulamalarla sınırlı kalmıyor; teknoloji devleri de bu alana yatırım yapıyor. OpenAI, kısa süre önce “doğrulanmış yetişkinler için erotik içerik” sunabileceğini ve geliştiricilerin ChatGPT altyapısı üzerine yetişkinlere yönelik uygulamalar inşa etmesine izin verebileceğini açıkladı. Benzer şekilde, Elon Musk’ın xAI şirketi de Grok uygulamasında flörtöz yapay zeka arkadaşları piyasaya sürerek rekabete dahil oldu.
Gençler Arasında Endişe Verici İstatistikler
Temmuz ayında yayımlanan bir araştırma, tehlikenin boyutunu gözler önüne seriyor:
- Gençlerin yaklaşık dörtte üçü yapay zeka arkadaş uygulamalarını kullanıyor.
- Yarısı bu uygulamaları düzenli olarak ziyaret ediyor.
- Daha da çarpıcı olanı, gençlerin üçte biri, ciddi konuları konuşmak için insan yerine yapay zeka botlarını tercih ediyor.
- Dörtte biri ise bu botlarla kişisel bilgilerini paylaşıyor.
Bu istatistikler, siber suçlular için iştah kabartıcı bir veri havuzu anlamına geliyor. Ekim ayında araştırmacılar, iki popüler yapay zeka arkadaş uygulamasının, farkında olmadan son derece hassas kullanıcı bilgilerini ifşa ettiğini ortaya çıkardı.
Sırlarınız Şantaj Malzemesi Olabilir
ESET uzmanları, bu botlarla kurulan duygusal bağın yarattığı en büyük riskin “aşırı paylaşım” olduğunu vurguluyor. Kullanıcılar, karşısındakini bir sırdaş gibi görüp en mahrem detaylarını, korkularını veya finansal durumlarını anlatabiliyor. Ancak fırsatçı tehdit aktörleri için bu bilgiler bulunmaz bir nimet. Özellikle romantik veya cinsel içerikli sohbetlerde paylaşılan veriler, ileride kullanıcıya karşı şantaj (sextortion) malzemesi olarak kullanılma potansiyeli taşıyor.
Ailenizi ve Kendinizi Nasıl Korursunuz?
İster kendiniz kullanın ister çocuğunuzun güvenliğinden endişe edin, ESET uzmanları şu noktalara dikkat edilmesi gerektiğini belirtiyor:
- Güvenlik Yokmuş Gibi Davranın: Yapay zekanın yerleşik bir gizlilik önlemi olmadığını varsayın. Sokaktaki bir yabancıyla paylaşmayacağınız hiçbir bilgiyi (finansal veri, ev adresi, özel fotoğraflar) botlarla paylaşmayın.
- Gizlilik Politikasını Okuyun: Uygulamayı indirmeden önce verilerinizi nasıl işlediklerini araştırın. Kullanım amacını net belirtmeyen veya verileri üçüncü taraflara sattığını söyleyen uygulamalardan uzak durun.
- Ayarları Sıkılaştırın: İki faktörlü kimlik doğrulamayı (2FA) mutlaka etkinleştirin. Ayrıca gizlilik ayarlarını inceleyerek, konuşmalarınızın yapay zeka modelini eğitmek için kaydedilmesini (varsa) devre dışı bırakın.
- Kâr Amaçlı Olduğunu Unutmayın: Bu uygulamaların temel amacının ticari olduğunu ve kullanıcı çıkarlarını her zaman ön planda tutmayabileceklerini çocuklarınıza hatırlatın.
Düzenleyicilerin bu “gri alan” için henüz net kuralları yok. Ancak AB’de yakında yürürlüğe girecek Dijital Adalet Yasası‘nın, aşırı bağımlılık yapan ve kişiselleştirilmiş deneyimleri kısıtlaması bekleniyor. O zamana kadar, en güvenli yol yapay zeka arkadaşları bir sırdaş olarak görmemekten geçiyor.
