玩酷网

【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现

【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现代化BERT模型。亮点:1. 基于高质量CCI3-HQ数据集训练,覆盖多领域中文文本;2. 上下文长度达4096,支持更长文本处理;3. 采用Packing策略,MLM比率达30%】

'ChineseModernBert'

GitHub: github.com/enze5088/ChineseModernBert

中文BERT 自然语言处理 预训练模型 AI创造营