Son dönemde, ChatGPT kullanıcıları, beklenmedik bir dil karmaşası ile karşı karşıya kaldı. Genellikle akıcı bir şekilde İngilizce yanıtlar veren bu yapay zeka uygulaması, son bir ay içinde Arapça gibi farklı dillerden kelimeleri yanıtlarına dahil etmeye başladı. Sosyal medya üzerinde yayılan ekran görüntüleri, mutfak tariflerinden iş raporlarına kadar birçok metnin aniden yabancı alfabelerle karıştığını gösteriyor.
Başlangıçta, birçok kullanıcı bu durumu cihazlarındaki bir virüs veya ayar hatası olarak değerlendirse de, olayın kökeninde daha karmaşık bir sistemsel mesele olduğu anlaşıldı. Reddit’te deneyimlerini paylaşan bir kullanıcı, Arapça konuşulan bir bölgede olmadığını belirtmesine rağmen, hem mobil hem de masaüstü cihazlarında benzer sorunlar yaşadığını ifade ediyor. Örneğin, yapay zeka bir kek tarifi verirken malzemelerden birinin adını aniden Arapça harflerle sunabiliyor. Bu durum yalnızca Arapça ile sınırlı kalmıyor; İbranice, Çince ve Ermenice gibi diğer diller de zaman zaman yanıtların içinde yer alıyor.
Bu garip dil değişikliklerinin arkasında yatan sebep, yapay zekanın temel çalışma mantığına dayanıyor. Büyük dil modelleri, metinleri “token” adı verilen küçük veri parçaları halinde işler. Bu parçalar bazen bir harf dizisi, bazen de bir ek olabilir. Yapay zeka, bir sonraki adımı belirlerken matematiksel olasılıklara ve verimliliğe odaklanıyor. Eğer bir İngilizce kavramı ifade etmek için üç ayrı veri parçası gerekiyorsa ve aynı anlama gelen başka bir dildeki kelime daha “kısa ve verimli” görünüyorsa, sistem bu kelimeyi otomatik olarak cümle içinde kullanabiliyor. Bu durumda, yapay zeka bilinçli bir dil değişikliği yapmak yerine en verimli yolu seçiyor.
OpenAI, daha önce benzer sorunlarla karşılaşmış olsa da, mevcut durum daha farklı bir boyutta. Önceki hatalarda yapay zeka anlamsız karakter dizileri üretiyordu; ancak şu anda eklenen kelimeler bağlamla mükemmel bir uyum sağlıyor. Örneğin, düşük yağlı bir üründen bahsedilirken “az” kelimesinin yerini tam olarak Arapça karşılığı alabiliyor. Bu durum, hatanın rastgele bir veri bozulmasından ziyade, sistemin karar verme mekanizmasındaki bir değişimden kaynaklandığı izlenimini veriyor.
Kullanıcılar ise bu duruma karşı şaşkınlık ve merak içinde. Bir kullanıcının bu durumu ChatGPT’ye sorması sonrasında aldığı “Yanlışlıkla araya sızmış” cevabı, yapay zekanın kendi hatasını bile absürt bir şekilde savunmaya çalıştığını gösteriyor. OpenAI yetkililerinden bu yeni dil karmaşası ile ilgili henüz kapsamlı bir teknik açıklama yapılmamış olsa da, bu durum, milyarlarca dolarlık yapay zeka sistemlerinin hala ne kadar öngörülemez olabileceğini bir kez daha gözler önüne seriyor.
