“İnsanları yapay zekadan koruma yöntemi ters tepebilir”

Ancak araştırmacılar bu önerinin, halihazırda savunmasız kişilerin ruhsal sıkıntılarını artırarak durumu daha da kötüleştirebileceğini savunuyor.

Wisconsin-Milwaukee Üniversitesi’nden halk sağlığı araştırmacısı Linnea Laestadius yaptığı açıklamada, “Zaten sohbet etmek için bilerek sohbet botu tercih eden kullanıcıların karşılaştığı riskleri, zorunlu hatırlatmaların kayda değer derecede azaltacağını varsaymak hata olur” diyor. Halihazırda yalnız hisseden birine, destek gördüğünü ve yalnız olmadığını hissettiren tek şeyin bir insan olmadığını hatırlatmak, onu daha da yalnız hissettirerek ters tepebilir.

Bu uyarı, sohbet botlarını cinayet ve intiharla ilişkilendiren haberlerin ardından geldi. Sistemlerin yardımsever doğası ve hâlâ nispeten bilinmeyen ve öngörülemeyen yapıları nedeniyle, yapay zeka sohbet botları insanlara yardım etmek yerine onların sanrılarını veya zihinsel sağlık sorunlarını teşvik etmekle suçlanıyor.

Bazıları bu tür durumlarda insanlara bir sohbet botuyla konuştuklarını ve botun insan duygularını hissedemediğini hatırlatmanın yardımcı olabileceğini öne sürüyor. Ancak yeni çalışmanın yazarları, araştırmaların bunu göstermediğini savunuyor.

Laestadius, “Kullanıcılara bir insanla değil, sohbet botuyla konuştuğu hatırlatılsa bota bu kadar bağlanmayacakları ve algoritma tarafından manipüle edilmeyecekleri düşüncesi kulağa mantıklı gelse de mevcut kanıtlar bu fikri desteklemiyor” diyor.

Araştırmacılar ayrıca kullanıcıların, sırf insan olmadıkları için bu sistemlere ruhsal sıkıntılarını anlatıyor olabileceğini öne sürüyor. Michigan Eyalet Üniversitesi’nde medya ve teknoloji araştırmacısı olan yazar Celeste Campos-Castillo, “İnsan olmayanların, insanların aksine yargılamayacağı, alay etmeyeceği veya tüm okulu ya da işyerini onlara karşı kışkırtmayacağı inancı, sohbet botlarına içini dökmeye ve dolayısıyla bağlanmaya teşvik ediyor” ifadelerini kullanıyor.

Dahası, hatırlatmalar mevcut endişelerine ek olarak daha fazla sıkıntı yaratabilir. Kullanıcılar, kendilerini sohbet botuyla konuşmaya iten nedenlerin yanı sıra güvendikleri şeyden kökten farklı ve ayrı olduklarını hatırlamaktan dolayı da üzülebilir.

Laestadius, “Sohbet botlarının insan olmadığını kullanıcılara en iyi nasıl hatırlatabileceğimizi keşfetmek, kritik bir araştırma önceliği” diyor.

Kullanıcıların ruh sağlığını en iyi şekilde korumak için hatırlatmaların ne zaman gönderilmesi ve ne zaman duraklatılması gerektiğini belirlememiz gerekiyor.

Çalışma, hakemli dergi Trends in Cognitive Sciences’ta yayımlanan “Reminders that chatbots are not human are risky” (Sohbet botlarının insan olmadığını hatırlatan bildirimler risk taşıyor) başlıklı yeni bir makalede anlatılıyor.