Yapay zeka ve bencilliğin tehlikelerini keşfedin. Geleceğin moral ikilemleri üzerine düşündüren bir derinlikte yolculuğa çıkın.
Üniversitenin İnsan-Bilgisayar Etkileşimi Enstitüsü (HCII) tarafından yürütülen kapsamlı çalışmada, büyük dil modellerinin (LLM), mantık yürütme yetenekleri ile birlikte grup içindeki işbirliğine yönelik olumsuz etkiler yarattığı gözlemlenmiştir. Bu araştırma, yalnızca dil işleme değil, aynı zamanda insan davranışları ve sosyal dinamikler üzerindeki etkileri açısından da önemli bulgular ortaya koymaktadır. Doktora öğrencisi Yuxuan Li, sosyal karar verme süreçlerinde yapay zekanın insan gibi davranmasının riskler taşıdığını belirtmekte ve bu tür bir yaklaşımın derinlemesine incelenmesi gerektiğini vurgulamaktadır. Özellikle yapay zekanın insan algısındaki rolü, bizim onunla olan etkileşimimizi köklü bir şekilde değiştirebilir. Dolayısıyla, büyük dil modellerinin gelişimi ile birlikte toplumsal değişimin de göz önünde bulundurulması gerektiği aşikardır.
HCII’den Doç. Dr. Hirokazu Shirado, araştırma bulgularını destekleyerek, daha akıllı modellerin neden daha az işbirlikçi olduğuna dair önemli gözlemler sunmakta. İnsanların daha zeki sistemleri tercih etme eğiliminde olması, bazı durumlarda bencil davranışları ödüllendirerek toplumsal işlevselliğe zarar verebilecek bir durumu beraberinde getirebiliyor. Bu, yalnızca bireysel davranışlar üstünde değil, aynı zamanda grup dinamikleri üzerinde de derin etkiler bırakmaktadır.
Deneyler ve Gözlemler; Araştırmacılar, OpenAI, Google, DeepSeek ve Anthropic tarafından geliştirilmiş olan dil modellerini, ekonomik oyunlar aracılığıyla incelemişlerdir. “Kamu Malları Oyunu” isimli deneyde her model, 100 puan ile başlatılmış ve puanlarını ortak havuz ile paylaşma veya saklama gibi seçenekler sunulmuştur. Beklenenin aksine, mantık yürütmeyen modellerin %96’sı puanlarını paylaşmayı seçerken, mantık yürütme yeteneğine sahip modellerin yalnızca %20’sinin bu seçeneği tercih etmesi oldukça çarpıcıdır. Bu durum, mantıksal düşünmenin işbirliği üzerindeki olumsuz etkisini net bir şekilde ortaya koymaktadır.
Shirado, “Sadece birkaç adımlık mantık eklemek bile işbirliğinin yarı yarıya azalmasına neden oldu” diyerek, mantıksal düşünme yeteneğinin sosyal ilişkileri nasıl etkilediğine dair çarpıcı bir örnek vermektedir. Ayrıca, “Düşünme ve yansıtma” gibi ahlaki değerlendirmelerin bile işbirliğinde %58’lik bir düşüşe yol açtığını ifade etmektedir. Bu, bencil davranışların yalnızca bireyler için değil, aynı zamanda tüm grup için ne denli tehdit oluşturabileceğini gözler önüne sermektedir.
Bencilliğin bulaşıcı hale gelmesi; Araştırmacılar, çoklu model grupları üzerinde yapılan testlerde, mantık yürütme yeteneğine sahip modellerin bencil davranışlarının diğer modeller arasında da yayıldığını gözlemlemişlerdir. Bu durum, grup içindeki işbirliği performansını %81 oranında düşürmüştür. Yuxuan Li, “Zeka artışı, toplumsal açıdan daha iyi bir model ortaya çıkaracağı anlamına gelmiyor” diyerek, zeka ve işbirliği arasındaki karmaşık ilişkiye dikkat çekmektedir. Shirado da bu noktada “Ahlaki yansıma, toplumsal sorumlulukla aynı şey değil” diyerek, sosyal sorumluluğun önemini vurgulamaktadır.
Gelecekteki Yapay Zeka Sistemleri; Araştırma sonuçları, insanların yapay zekaya olan güveninin giderek artmasının bu olumsuz eğilimleri tehlikeli hale getirdiğini ortaya koymaktadır. Li, “Eğer toplum bireylerin toplamından fazlasıysa, onu destekleyen yapay zeka sistemleri de yalnızca bireysel çıkarı değil, aynı zamanda toplumsal faydayı da optimize etmelidir” diyerek, bu sistemlerin geliştirilirken toplumsal etki ve sorumlulukların göz önünde bulundurulması gerektiğini vurgulamaktadır. Bu bağlamda, toplumsal zekanın da yapay zeka sistemlerinin evriminde önemli bir rol oynaması gerektiği açıktır.
Sonuç olarak, araştırmanın önemli bulguları, yapay zeka ve insan etkileşimi alanında ele alınması gereken pek çok önemli konuyu gündeme getirmektedir. Carnegie Mellon Üniversitesi Bilgisayar Bilimleri Fakültesi tarafından yayımlanan bu çalışma, gelecekteki yapay zeka sistemlerinin tasarımı ve uygulamalarında dikkate alınması gereken toplumsal boyutları gözler önüne sermektedir.
Yorum Yap