CoT izlenebilirliği için nedenlidir-sınırlar ve eğitim yöntemleri

Qiang Fu, büyük dil modellerinin zincir-düşünce (CoT) izlenebilirliğini artırmak için nedenlidir-sınırlar ve müdahale-bilgili sonrası-eğitim yöntemleri geliştiren araştırmayı arXiv üzerinden paylaştı. Çalışma, CoT izleme metriklerinin müdahaleden kaynaklanan davranışları tespit etme oranını üst sınır olarak sunduğunu ve daha sıkı bir değerlendirme için bir alt sınır türettiğini açıklar.

Müdahale-tabanlı değerlendirmelerde kullanılan minimal-kriter duyarlılığı (TPR_mc) metriği, müdahale tarafından gerçekten neden olan hedef davranışları tespit etme oranını üst sınır olarak tahmin edebilir. Bu nedenle, müdahale altında gözlenen bir hedef davranışın mutlaka müdahale tarafından neden edildiği anlamına gelmez.

Eğitim veri seti ve üç yöntem

Eğitim veri seti, birden fazla müdahale türünü kapsayan eşleştirilmiş kontrol-müdahale görevlerinden oluşur. Araştırmacılar, off-policy kendi-distilasyon, pekiştirmeli öğrenme ve on-policy kendi-distilasyon adında üç farklı eğitim yöntemi karşılaştırdı. Bu yöntemler, genişletilmiş değerlendirme çerçevesi altında farklı model-monitör yapılandırmalarında CoT izlenebilirliğini genel olarak iyileştirdi.

Yayın ve erişim bilgileri

Makale 22 Ekim 2026 tarihinde arXiv'e gönderilmiş, 26 Ekim 2026 tarihinde Machine Learning kategorisinde yayımlanmıştır. arXiv makale numarası 2610.31733, dosya boyutu 137 KB'dir. Çalışmanın kodu bir URL üzerinden erişilebilir durumdadır.

Neden önemli?

CoT izleme, büyük dil modellerinin potansiyel olarak zararlı davranışlarını CoT'lerden tespit etmeyi hedefler. Bu çalışma, müdahale-tabanlı değerlendirmelerin sınırlarını netleştirerek daha güvenilir bir izleme altyapısına yol açabilir.

Kaynak: arXiv — Machine Learning

Temsili görsel: Pavel Danilyuk / Pexels