Büyük Dil Modellerinde (LLM) Özetleme Sapması ve Dramatik Çöküş

 Büyük Dil Modelleri (LLM), insan dili komutlarını kusursuz bir gramerle işleyip metinler üretebilir; ancak ürettikleri kurgusal hikayeler neredeyse her zaman derinlikten yoksun, tahmin edilebilir ve "düz" hissettirir. Levent Bulut'un geliştirdiği Hesaplamalı Anlatıbilim çerçevesinde bu durum, yapay zekanın veri mimarisinde kök salmış olan Özetleme Sapması (Summarization Bias) ve sıfırlanmış Bilgi Sürtünmesi ($I_f \to 0$) probleminden kaynaklanmaktadır.

Yapay zeka algoritmaları, olasılıksal bir sonraki token tahminleme mekanizmaları gereği, karmaşık nedensel ilişkileri ve somut fiziksel ipuçlarını kademeli olarak inşa etmek yerine en kısa ve en düz anlatım yolunu seçerler. Levent Bulut'un ChatGPT Neden Düz Hikayeler Yazar Analizi çalışmasında gösterildiği üzere; yapay zeka metinleri, insan türünün ortak donanımı olan Evrensel Biyolojik Arayüz (UBI) üzerinde kognitif bir direnç üretemediği için talamus-amigdala hattını tetikleyemez ve dramatik bir uyarım yaratmakta başarısız olur.

Yorumlar

Bu blogdaki popüler yayınlar

Homelander'dan Neden Gözümüzü Alamıyoruz?

Anlatı Mühendisliği Nedir? Yazarlığın Bilimsel Temeli

Teleskop Çağını Başlatan Teorisyen