IBM 已将其 Granite 3.0 企业 AI 模型开源
IBM 推出紧凑型 Granite 3.0 企业 AI 模型，承诺性能可与更大的竞争对手相媲美，同时消耗更少的计算能力。
随着企业对业务应用程序的需求增加，全球科技公司正在扩展其企业 AI 产品。IBM 在开源许可下推出了其最新的企业 AI 模型。
该版本标志着企业 AI 市场的转变，大多数提供商都对访问其模型收费。IBM 的 Granite 3.0 系列包括三种专为商业用途而设计的模型类型，据称它们更小、更快且便宜得多——IBM 发现在早期概念验证中，其新模型比大型 Frontier 模型便宜 3 到 24 倍。
模型架构和功能
Granite 3.0 系列包含在 Apache 2.0 许可下发布的三种模型类型。通用语言模型提供 8B 和 2B 版本，用于处理文本生成、分类和摘要任务。这些模型支持 Retrieval Augmented Generation （RAG），这是一种使 AI 系统能够整合外部数据源的技术。
这些名为 Granite Guardian 的安全模型在 19 项安全基准中建立了道德参数，包括社会偏见、毒性和幻觉检测。IBM 报告称，与 Meta 的 Llama Guard 模型相比，这些模型在伤害检测方面表现出更高的准确性。
专家混合模型支持低延迟应用程序和基于 CPU 的系统部署，而 IBM 表示，其新的时间序列模型声称的性能超过了 Google 和阿里巴巴等竞争对手的 10 倍。
企业集成
IBM 的战略将开源可访问性与商业服务相结合。该公司为通过其 Watsonx 平台使用的 Granite 模型提供知识产权赔偿，以解决企业对数据安全的担忧。
这些模型与 IBM 的 watsonx Code Assistant 集成，支持的语言包括 C、C++、Go、Java 和 Python。此集成扩展到 Enterprise Java Applications，其代码功能可通过名为 IBM Granite.Code 的 Visual Studio Code 扩展进行访问。
业务部署
IBM 使用跨越 12 种自然语言和 12 种编程语言的 116 万亿个令牌训练这些模型。该公司表示，在标准学术基准上，这些模型的性能优于 Meta 和 Mistral 的类似大小的开源模型。
包括 Docker、Domo、Qualcomm Technologies、Salesforce 和 SAP 在内的生态系统合作伙伴将 Granite 模型集成到他们的产品中。这些模型还将通过 Ollama 和 Replicate 等平台提供，用于本地和边缘部署。
IBM 将 Granite 3.0 作为其 Consulting Advantage 平台的默认系统，该平台供 160,000 名顾问使用。该平台包括 AI 代理和应用程序，用于财务、人力资源和采购领域的云转型和业务运营。
IBM 数据和模型工厂项目总监 Kate Soule 表示：“新的 IBM Granite 3.0 模型反映了我们对功能与实用之间平衡的关注，它提供了相对于模型大小最先进的性能，同时最大限度地提高了企业用例的安全性、速度和成本效益。
