Yapay Zeka Halüsinasyonu Nedir, Çocuklar Nasıl Fark Eder?

Bir sohbet robotuna ödeviniz için bir kitap önerisi sordunuz. Size yazarı, yayın yılı ve kısa özetiyle birlikte harika bir liste verdi. Tek sorun şu: listedeki kitaplardan biri hiç yazılmamış. Yazar gerçek, konu mantıklı, özet ikna edici, ama kitap yok.

Bu duruma yapay zeka halüsinasyonu denir. Yapay zekayla büyüyen bir çocuğun öğrenmesi gereken en önemli becerilerden biri, bu hataları fark edebilmektir. Bu yazıda halüsinasyonun ne olduğunu, neden ortaya çıktığını ve çocukların onu nasıl yakalayabileceğini anlatıyoruz.

Halüsinasyon ne demek?

Yapay zekada halüsinasyon, bir modelin gerçek olmayan, uydurma ya da yanlış bir bilgiyi, doğruymuş gibi kendinden emin bir dille sunmasıdır.

Önemli olan “kendinden emin” kısmıdır. Model genellikle “Emin değilim ama…” demez. Uydurma bir bilgiyi de doğru bir bilgiyi de aynı akıcılıkla, aynı düzgün cümlelerle yazar. Bu yüzden cümlenin düzgünlüğüne bakarak doğruluğuna karar veremeyiz.

Sık görülen halüsinasyon türleri:

• Var olmayan kaynaklar: Hiç yazılmamış kitaplar, makaleler, web adresleri
• Yanlış tarihler ve sayılar: Bir olayın yılını, bir şehrin nüfusunu yanlış söylemek
• Karışmış kişiler: İki farklı kişinin hayatını birbirine karıştırmak
• Uydurma alıntılar: Ünlü birinin hiç söylemediği bir sözü ona atfetmek
• Hayali özellikler: Bir uygulamada ya da cihazda olmayan bir özelliği varmış gibi anlatmak

Neden oluyor? Kısa ve dürüst cevap

Halüsinasyonu anlamak için dil modellerinin nasıl çalıştığını hatırlamak gerekir. ChatGPT gibi bir model, bir bilgi deposundan cevap çekip getirmez. Yaptığı şey, metnin devamında en olası parçanın ne olacağını tahmin etmektir. (Ayrıntılar için büyük dil modelleri nasıl çalışır yazımıza bakabilirsiniz.)

Bir benzetme yapalım. Sınıfta, konuyu çalışmamış ama çok iyi konuşan bir öğrenci düşünün. Öğretmen soru sorduğunda susmak yerine, konuya uygun kelimeleri kullanarak düzgün bir cevap uydurur. Cevap kulağa doğru gelir çünkü doğru cevapların nasıl göründüğünü bilir. Ama içerik doğru değildir.

Dil modelleri de “bir kitap önerisi nasıl görünür” konusunda çok iyidir: yazar adı, başlık, yıl, özet. Bu kalıbı doldururken gerçek bilgi ile makul görünen uydurma arasında her zaman ayrım yapamazlar. Bunun birkaç nedeni vardır:

• Model, “bilmiyorum” demek yerine bir cevap üretmeye yatkın olabilir.
• Eğitim verisinde bir konu hakkında az bilgi varsa, boşluğu olası görünen kelimelerle doldurur.
• Model, bilgiyi tek tek kayıtlar halinde değil, sayısal örüntüler halinde tutar; ayrıntılar bu süreçte bulanıklaşabilir.
• Eğitim verisi belirli bir tarihte kesildiği için güncel olaylar hakkında eski ya da eksik bilgi verebilir.

Model geliştiricileri halüsinasyonu azaltmak için sürekli çalışıyor ve modeller bu konuda gelişiyor. Ama bu sorun bugün tamamen çözülmüş değildir. Dolayısıyla çözüm, kullanıcının dikkatli olmasından geçer.

Çocuklar halüsinasyonu nasıl fark eder?

İşte çocuklarla birlikte kullanabileceğiniz bir kontrol listesi. Yapay zekadan gelen her önemli bilgi için bu soruları sorun:

1. Bu bilgi kontrol edilebilir mi?

Tarih, isim, sayı, kaynak gibi somut bilgiler kontrol edilebilir. “Fatih Sultan Mehmet İstanbul’u 1453’te fethetti” doğrulanabilir bir bilgidir. Önemli her somut bilgi en az bir güvenilir kaynaktan kontrol edilmelidir: bir ders kitabı, bir ansiklopedi, resmi bir kurumun sitesi.

2. Kaynak gerçekten var mı?

Model bir kitap, makale ya da web adresi verdiyse, onu gerçekten arayın. Kitabın adı bir kütüphane kataloğunda çıkıyor mu? Web adresi açılıyor mu? Açılıyorsa, orada gerçekten söylenen şey yazıyor mu?

3. Çok mu mükemmel görünüyor?

Aradığınız bilgi tam da istediğiniz gibi, hiç pürüzsüz bir şekilde geldiyse, bir kez daha bakın. Özellikle çok nadir konularda, “tam aradığım şey” hissi bazen uydurmanın işaretidir.

4. Aynı soruyu farklı sorunca cevap değişiyor mu?

Soruyu başka kelimelerle tekrar sorun. Temel bilgi değişiyorsa (bir yıl, bir isim), modelin o konuda emin olmadığını düşünmek için bir sebep vardır.

5. Benim bildiklerimle çelişiyor mu?

Çocuğun zaten bildiği bir konuda yanlış bir şey fark etmesi çok değerlidir. Bu, “yapay zeka her zaman haklıdır” düşüncesini kıran en güçlü deneyimdir.

Evde deneyin: halüsinasyon avı

Bu etkinliği bir yetişkinle birlikte, yetişkinin hesabıyla yapın.

1. Çocuğunuzun çok iyi bildiği bir konu seçin: tuttuğu futbol takımı, sevdiği bir çizgi film, yaşadığınız mahalle.
2. Yapay zekaya bu konuda ayrıntılı sorular sorun. Örneğin “Florya’da hangi sokaklar var ve her birinin adı nereden geliyor?” gibi çok yerel sorular.
3. Cevapları birlikte okuyun. Çocuğunuz yanlışları işaretlesin.
4. Sonra modelden kaynak isteyin ve kaynakları kontrol edin.
5. Son olarak konuşun: Hangi tür sorularda model daha çok yanıldı? Genel mi, çok özel mi?

Çocuklar genellikle modelin, çok yerel ya da çok ayrıntılı sorularda daha sık yanıldığını kendileri keşfeder. Bu keşif, bir kuraldan çok daha kalıcıdır.

Halüsinasyon her zaman kötü mü?

İlginç bir soru. Bir hikaye yazarken, bir oyun karakteri icat ederken ya da hayali bir gezegen tasarlarken, modelin “uydurması” tam da istediğimiz şeydir. Sorun, uydurmanın kendisi değil, gerçek bilgi beklenen yerde uydurma çıkmasıdır.

Bu ayrım çocuklara şunu öğretir: Yapay zekayı ne için kullandığınızı bilin. Yaratıcı işlerde serbest bırakın, bilgi gerektiren işlerde doğrulayın.

Veliler için üç öneri

• Yapay zekayı son söz değil, ilk taslak olarak görün. Ödevde kullanılacaksa, çıktı mutlaka kontrol edilip çocuğun kendi cümleleriyle yeniden yazılmalı.
• “Nereden biliyoruz?” sorusunu alışkanlık haline getirin. Bu soru sadece yapay zeka için değil, internet ve sosyal medya için de geçerli bir beceridir.
• Hataları birlikte kutlayın. Çocuğunuz bir halüsinasyon yakaladığında bunu bir başarı olarak görün. Bu, eleştirel düşünmenin tam kendisidir.

Bu konular, daha geniş bir çerçevede yapay zeka etiği yazımızda da yer alıyor.

Son olarak

Yapay zeka halüsinasyonu, modelin makul görünen ama yanlış bilgiyi kendinden emin bir dille sunmasıdır. Bunun nedeni, modelin bilgi çekmek yerine metin tahmin etmesidir. Çocuklar basit bir kontrol listesi ve biraz pratikle bu hataları yakalamayı öğrenebilir.

L’Atelier AI’da öğrenciler yapay zeka araçlarını kendi adlarına hesap açmadan, atölye hesaplarıyla ve mentor gözetiminde kullanıyor; her çıktıyı sorgulamak da çalışmanın doğal bir parçası. Yaklaşımımızı program sayfasında okuyabilirsiniz.