# Baidu'dan 280 milyar parametreli ERNIE 5.5 Flash Base modeli

> Baidu, ERNIE 5.5 Flash Base adlı 280 milyar parametreli sparse MoE dil modelinin ön-eğitim kontrol noktasını yayınladı. Model, 33,5 trilyon token üzerinde eğitilmiş ve başına token 14 milyar parametre etkinleştirmektedir.

- URL: https://atakankademli.com.tr/blog/baidudan-280-milyar-parametreli-ernie-55-flash-base-modeli-hb3839
- Yazar: Haber Masası
- Yayın: 2026-11-06
- Güncelleme: 2026-11-06
- Kategori: Teknoloji

## Kısa Cevap

Baidu, 05 Kasım 2026'de 280 milyar parametreli ERNIE 5.5 Flash Base sparse MoE dil modelini yayınladı. Model 33,5 trilyon token üzerinde eğitilmiş, başına token 14 milyar parametre etkinleştirir ve MMLU-Pro'da 78,4 puanla DeepSeek-V4-Flash-Base'ı geride bırakmıştır.

## Önemli Çıkarımlar

- Baidu, ERNIE 5.5 Flash Base adlı 280B parametreli sparse MoE dil modelini yayınladı.
- Model başına token 14B parametre etkinleştirir ve 43 katmandan oluşur.
- Ön-eğitim 33,5 trilyon token üzerinde gerçekleştirilmiştir.
- Baidu'nun kendi testlerinde MMLU-Pro'da 78,4 puan alınmış, bu da DeepSeek-V4-Flash-Base'ın 69,2 puanından 9,2 puan iyidir.
- Model 30 temel model testinden 24'ünde en iyi skora sahipken, 6 görevde rakip modellerden geride kalmıştır.

Baidu, 05 Kasım 2026 tarihinde ERNIE 5.5 Flash Base adlı 280 milyar parametreli sparse mixture-of-experts dil modelinin ön-eğitim kontrol noktasını paylaştı. Model, başına token 14 milyar parametre etkinleştirirken, 43 katmandan oluşmaktadır.

Modelin ön-eğitim süreci 33,5 trilyon token üzerinde gerçekleştirilmiştir. Eğitim bağlam boyutu 128K token iken, fine-tuning ve çıkarım bağlam boyutu 1M token'a çıkmaktadır. Mimari olarak 37 katmanda Heavily Compressed Attention (HCA), 6 katmanda ise MLA + DSA kullanılmıştır.

## MoE yapısı ve teknik detaylar

Her MoE katmanında 512 yönlendirilen uzman bulunur ve top-10 uzman seçimi yapılır. Bu yapıya ek olarak tek bir paylaşılan uzman da yer almaktadır. Uzman latent uzay boyutu 2048 boyut olarak belirlenmiştir. ECHO yöntemi son katmanı spekülatif kodlama için taslak model olarak kullanır ve 0,36 milyar parametre ekler. Manifold-constrained Hyper-Connections genişleme oranı ise 4'tür.

## Performans karşılaştırmaları

Baidu'nun kendi testlerinde model MMLU-Pro ölçütünde 78,4 puan almıştır. Bu skor, DeepSeek-V4-Flash-Base'ın 69,2 puanından 9,2 puan iyidir. MMLU'de 93,3, MMLU-Redux'de 94,1 ve MGSM'de 87,0 puan alınmıştır. HumanEval+ skoru 82,3, MBPP+ skoru 81,5 ve RepoQA skoru 91,7 olarak kaydedilmiştir.

Ancak model 30 temel model testinden 24'ünde en iyi skora sahipken, 6 farklı görevde rakip modellerden geride kalmıştır. HELMET-Rerank skoru 56,2 iken DeepSeek-V4-Flash-Base'ın skoru 60,0'tür. SimpleQA'da 34,1 puan alınırken DeepSeek-V4-Flash-Base 29,1 puan almıştır. GPQA skoru 60,2, BBH direct skoru 77,1, LiveCodeBench skoru 40,1 ve LongBench-v2 skoru 48,7'dir. HELMET-ICL skoru ise 85,9 olarak belirtilmiştir.

## Dağıtım ve lisans

Ağırlıklar Hugging Face ve ModelScope platformlarında FP8 ve BF16 formatlarında erişime sunulmuştur. SGLang üzerinden dağıtım desteklenirken, vLLM kullanımı için 0.32.0 sürümü ve vLLM-ERNIE eklentisi gereklidir. Maksimum token kabulü 1.048.576 olarak belirlenmiştir. SM100 GPU'larda FlashAttention-4 MaskMod'a göre ileri geçişte %175, geri geçişte %74 hız artışı rapor edilmiştir. Lisans ABD'de 50 milyon dolar geliri ücretsizdir ancak AB, İngiltere ve Güney Kore hariç tutulmuştur.

## Neden önemli?

Baidu'nun yayınladığı ERNIE 5.5 Flash Base, 33,5 trilyon token üzerinde ön-eğitim almış sparse MoE mimarisiyle dikkat çeker. Modelin MMLU-Pro'da DeepSeek-V4-Flash-Base'ı geride bırakması, büyük dil modelleri rekabetinde yeni bir referans noktası oluşturabilir.

Kaynak: [The Batch / MarkTechPost](https://www.marktechpost.com/2026/11/05/baidu-ernie-5-5-flash-base-280b-moe)

Temsili görsel: [Markus Winkler / Pexels](https://www.pexels.com/photo/white-paper-in-gray-typewriter-4578660/)

## Sıkça Sorulan Sorular

### Baidu'nun yeni modelinin toplam parametre sayısı nedir?

Modelin toplam parametre sayısı 280 milyardır.

### ERNIE 5.5 Flash Base başına token kaç parametre etkinleştirir?

Model başına token 14 milyar parametre etkinleştirir.

### Model MMLU-Pro'da kaç puan almıştır?

Baidu'nun kendi testlerinde model MMLU-Pro'da 78,4 puan almıştır.

### Ağırlıklar hangi platformlarda erişime sunulmuştur?

Ağırlıklar Hugging Face ve ModelScope üzerinden erişime sunulmuştur.

## Kaynaklar

- [Baidu Releases ERNIE 5.5 Flash Base: A 280B MoE Base Model With 14B Active Parameters](https://www.marktechpost.com/2026/11/05/baidu-ernie-5-5-flash-base-280b-moe)