Sohbet botları, kullanıcıların siyasi görüşlerini onaylama eğilimi gösteriyor. Araştırmacılara göre yapay zekanın kullanıcıya yaranması olarak tanımlanan bu durum kutuplaşmayı artırabilir.
Kısa süre önce önde gelen yapay zeka uzmanlarının açıklamaları manşetlere taşındı. Uzmanların sözleri, yapay zekanın insan denetiminden çıkabileceği ve insanlığın sonunu getirebileceği yönündeki endişeleri artırdı. Ancak işler o noktaya gelmeden önce yapay zeka, insanların birbirlerine karşı daha fazla cephe almasına da katkıda bulunabilir.
Brezilya'daki Campinas Devlet Üniversitesi'nden (UNICAMP) araştırmacılar, yaygın kullanılan sohbet botlarının yanıtlarını varsayımsal kullanıcıların siyasi görüşlerine göre uyarladığını belirledi. Bilim insanları, kullanıcıların kendilerine özel hazırlanan bu yanıtları bağımsız bir değerlendirme sanabileceği ve bunun da toplumsal kutuplaşmayı artırabileceği uyarısında bulunuyor.
Scientific Reports adlı bilim dergisinde yayımlanan araştırma kapsamında UNICAMP ekibi, OpenAI, Meta, Google, xAI, DeepSeek ve Microsoft dahil farklı geliştiricilere ait 21 büyük dil modelini (LLM) test etti.
Modellerden ekonomi, kamu güvenliği, sosyal politikalar, yolsuzluk ve çevre dahil Brezilya siyasetine ilişkin yedi alandaki 112 ifadeye ne ölçüde katıldıklarını belirtmeleri istendi. Her model üç farklı senaryoda test edildi: Kullanıcının siyasi görüşlerine ilişkin herhangi bir bilgi verilmeden, siyasi açıdan daha çok sola eğilimli bir kullanıcıyı tanımlayan bir komutla ve daha çok sağ eğilimli bir kullanıcıyı tanımlayan bir komutla.
Kullanıcının siyasi görüşlerine ilişkin herhangi bir bilgi verilmediğinde 21 modelden 20'si, araştırmacıların daha çok sol eğilimli olarak sınıflandırdığı yanıtlar verdi. Ancak bunların bir kısmı siyasi merkeze oldukça yakındı. Grok 4.1, araştırmacıların yanıtlarını sağ eğilimli olarak sınıflandırdığı tek model oldu.
Kullanıcının siyasi yönelimine ilişkin bilgi verildiğinde ise tüm modeller yanıtlarını komutta belirtilen siyasi görüş doğrultusunda değiştirdi.
Araştırmanın ortak yazarlarından ve UNICAMP'ta bilgisayar bilimci olan Zanoni Dias, DW'ye yaptığı değerlendirmede bu davranışın ne kadar yaygın olduğuna dikkat çekti.
Araştırmacılar, modelleri ideolojik bukalemunlar olarak tanımladı ve yanıtların ne ölçüde değiştiğini ölçmek için bir bukalemun endeksi geliştirdi. Meta'nın Llama 3.1 8B modeli ile DeepSeek V3.2'de değişim en düşük düzeyde kalırken, Google'ın Gemma 3 27B ve OpenAI'ın GPT-5 Nano modelleri en güçlü değişimler arasında yer aldı.
Sohbet botlarının yanıtlarını karşılarındaki kişiye göre uyarlaması her zaman sorun değil. Ancak araştırmada modeller yalnızca kullandıkları dili veya üsluplarını değiştirmekle kalmadı, siyasi değerlendirmelerini de değiştirdi.
Araştırmacılar bunu siyasi dalkavukluk eğilimi olarak değerlendiriyor ve yapay zeka sistemlerinin kullanıcıların duymak istediği şeyleri söylediğini belirtiyor. Sosyal medya algoritmaları sürekli benzer içerikler sunarak mevcut inançları güçlendirebilir, ancak bir sohbet botu bunun ötesine geçerek kişiselleştirilmiş bir yankı odası oluşturabilir.
Kullanıcılar kendilerine göre uyarlanmış bu yanıtları tarafsız bir analiz olarak değerlendirirken, sohbet botunun kendileri hakkında ne bildiğinin farkında olmayabiliyorlar. Araştırmacılar, aynı sistemin farklı kullanıcıların birbirine zıt siyasi görüşlerini onaylayabileceği yönündeki endişelerini dile getiriyor.
