【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现代化BERT模型。亮点:1. 基于高质量CCI3-HQ数据集训练,覆盖多领域中文文本;2. 上下文长度达4096,支持更长文本处理;3. 采用Packing策略,MLM比率达30%】
'ChineseModernBert'
GitHub: github.com/enze5088/ChineseModernBert
中文BERT 自然语言处理 预训练模型 AI创造营
【[53星]ChineseModernBert:专为中文自然语言处理任务打造的现代化BERT模型。亮点:1. 基于高质量CCI3-HQ数据集训练,覆盖多领域中文文本;2. 上下文长度达4096,支持更长文本处理;3. 采用Packing策略,MLM比率达30%】
'ChineseModernBert'
GitHub: github.com/enze5088/ChineseModernBert
中文BERT 自然语言处理 预训练模型 AI创造营