人工智能研究所 AI2 发布最大的 LLM 开源数据集 Dolma,包含 3 万亿 Tokens

2023-08-23 21:58

免责声明 免责声明:内容来源于网络收集,不构成任何投资建议!

据 The Decoder 报道,艾伦人工智能研究所(Allen Institute for AI,简称 AI2)发布包含各种网络内容、科学出版物、代码和书籍的三万亿个 token 的开源数据集 Dolma,是迄今为止最大的公开数据集。Dolma 是开放语言模型 (OLMo) 的基础。OLMo 是 AI2 目前正在开发的语言模型,计划于 2024 年初发布,目标是成为“最佳开放语言模型”。Dolma 的第一个版本主要限于英文文本,开发人员和研究人员现可以通过 Hugging Face 访问该数据集。