Güney Koreli bilim insanları, yapay zekanın yanlış bilgi üretme sorununa çözüm olabilecek bir eğitim yöntemi geliştirdi. Model, bilmediğini kabul etmeyi öğreniyor.
Güney Koreli bilim insanları, yapay zekanın bilmediği konularda yanlış bilgi üretmesini engelleyebilecek yeni bir eğitim yöntemi geliştirdi. Kore İleri Bilim ve Teknoloji Enstitüsü (KAIST) araştırmacıları, bu yaklaşımla yapay zekanın “halüsinasyon” sorununu azaltmayı hedefliyor. Çalışma, Nature Machine Intelligence dergisinde yayımlandı. Bu yöntem, yapay zekanın kendi belirsizliğini tanıma becerisini artırıyor.
Yapay zekanın en büyük sorunlarından biri, uzmanlara göre “aşırı özgüven” olarak tanımlanıyor. Sağlık gibi kritik sektörlerdeki sistemler, emin olmadıkları konularda dahi kesin yanıtlar verebiliyor. OpenAI’ın geliştirdiği ChatGPT gibi modellerin yanlış bilgileri gerçek gibi sunabildiği daha önce belirlenmişti. Teknoloji dünyası bu durumu “halüsinasyon” olarak adlandırıyor.
Araştırmacılar, bu sorunu çözmek için insan beyninin çalışma prensiplerinden ilham aldı. Bilim insanları, insan beyninin doğum öncesinde bile dış uyaran olmaksızın sinyaller üretebildiğini belirtiyor. KAIST ekibi, benzer bir yaklaşımı yapay zeka modellerine uyguladı.
Yeni yöntemde yapay zeka modeli, gerçek verilerle eğitilmeden önce rastgele “gürültü” verileriyle kısa bir ön eğitim sürecinden geçiyor. Bu süreç, modelin öğrenmeye başlamadan önce kendi belirsizliğini tanımasını sağlıyor. Böylece sistem, “henüz hiçbir şey bilmiyorum” aşamasını öğreniyor.
Araştırmacılar, bu yöntemin yapay zekanın başlangıçtaki aşırı güvenini azalttığını belirtiyor. Sistemler, eğitim sırasında karşılaşmadıkları konularda yanlış cevap vermek yerine daha düşük güven düzeyiyle yanıt üretmeye başlıyor. Ekip, yöntemin yapay zekanın bildikleri ile bilmediklerini ayırt etme becerisini geliştirdiğini ifade ediyor.
Bilim insanları, geliştirilen yöntemin otonom araçlar, tıbbi teşhis sistemleri ve karar destek teknolojileri gibi alanlarda önemli katkı sağlayabileceğini düşünüyor. Bu tür kritik uygulamalarda hata payının düşük olması büyük önem taşıyor.
Çalışmanın yazarlarından Se-Bum Paik, yapay zekanın kendi bilgi durumunu insanlara daha benzer şekilde tanıyabildiğini gösterdiğini belirtti. Araştırmacılara göre hedef, yapay zekanın yalnızca daha fazla doğru cevap vermesi değil, aynı zamanda ne zaman emin olmadığını da anlayabilmesi.
Yorum Yap