Baidu'dan 280 milyar parametreli ERNIE 5.5 Flash Base modeli
Baidu, ERNIE 5.5 Flash Base adlı 280 milyar parametreli sparse MoE dil modelinin ön-eğitim kontrol noktasını yayınladı. Model, 33,5 trilyon token üzerinde eğitilmiş ve başına token 14 milyar parametre etkinleştirmektedir.
