IBM Granite 是IBM推出的一系列仅解码器大型语言模型和基础模型。该系列于2023年9月7日宣布，四天后发布了一篇初始论文，这些模型最初设计用于IBM基于云的数据和生成式AI平台Watsonx，与其他模型一同使用。IBM后来开源了部分专注于代码的变体，在宽松许可证下免费提供。
Granite模型在从互联网、学术出版物、代码库以及法律和金融文档中精选的数据集上进行训练。该系列涵盖从30亿到340亿不等的参数规模，以满足不同的部署需求。
基础模型架构
基础模型是一种在广泛数据上进行大规模训练的AI模型，能够适应各种下游任务。IBM Granite模型是仅解码器变换器，这是生成式语言模型的一种常见架构，用于预测序列中的下一个标记。首批基础模型Granite.13b.instruct和Granite.13b.chat各有130亿参数，这比许多同期的大型模型要小。后来的变体将参数范围扩展到30亿至340亿，为不同的计算预算和用例提供了灵活性。
训练数据的策划强调质量和多样性，纳入了学术论文、代码数据集以及法律和金融等专业领域。这种方法旨在提高面向企业任务的性能，这是IBM商业产品的关键重点。
发布与开源代码模型
2024年5月6日，IBM在Apache 2.0许可证下发布了Granite代码模型四个变体的源代码，这是一种宽松的开源许可证，允许自由使用、修改和分享。这些模型在Hugging Face（一个流行的AI模型托管平台）上提供。根据IBM的内部报告，Granite 8b模型在类似的参数范围内，在多项编码相关基准测试中优于Llama 3，突显了其在代码生成和理解方面的竞争性能。
开源发布是促进社区采用和协作的更广泛战略的一部分，与其他供应商的一些专有模型形成对比。IBM将Granite定位为寻求可定制AI解决方案的企业的一个灵活替代方案。
应用与生态系统
Granite模型集成到IBM的Watsonx平台中，该平台提供数据分析、生成式AI和模型部署工具。这些模型用于代码生成、文档摘要和问答等任务，特别是在金融和法律等受监管行业，这些行业对数据隐私和合规性要求严格。通过提供开源和基于云的访问方式，IBM旨在服务从初创公司到大型企业的广泛客户。
开源代码模型的发布还使第三方开发人员能够在自己的基础设施上微调和部署Granite，包括在Amazon Web Services和其他云提供商上。这种生态系统方法反映了更广泛AI社区的趋势，其中像LLaMA和Mistral AI这样的开放模型已获得广泛关注。
性能与比较
IBM已发布基准测试，显示Granite模型在标准NLP和编码任务上取得了具有竞争力的结果。例如，据报道，Granite 8b模型在编码基准测试中超过了Llama 3，尽管参数数量相似。然而，对这些声明的独立验证有限，性能可能因具体任务和评估方法而异。这些模型设计为高效，较小的变体适合边缘部署，较大的变体适合基于云的工作负载。
参见
- Mistral AI，一家也提供开源模型的公司
- GPT
- LLaMA
- Gemini
参考文献
（根据文章风格，不包含外部链接。）