在波士顿举行的年度 Think Conference 上，IBM 首席执行官 Arvind Krishna 表示，他的公司专注于使用与边缘网络功能集成的小型 genAI 模型来解决成本、速度和安全问题。
IBM 首席执行官 Arvind Krishna 表示，由于众多数据中心、云服务和边缘环境之间缺乏集成和协调，迄今为止只有 1% 的企业数据可以通过生成式人工智能 (genAI) 模型访问。为了改变这种情况，需要针对特定领域任务（例如人力资源、销售、零售和制造）量身定制的更小、专用的 genAI 模型。
讲话于IBM 的 Think 2025周二在波士顿举行的会议上，克里希纳阐述了公司未来的重点：整合开源和开源（法学硕士）和无论企业使用它们。
“较小的模型非常准确，”克里希纳说。 “它们的速度要快得多。它们的运行成本效益要高得多。而且您可以选择在您想要的地方运行它们。它不是大型 [AI] 模型的替代品，而是与您现在可以根据企业需求定制的大型模型的‘和’。”
以及作为他说，较小的 AI 模型的运行成本比传统的 LLM 低 30 倍。
Krishna 表示，正如存储和计算成本自 20 世纪 90 年代以来急剧下降一样，随着时间的推移，人工智能技术也将变得更加便宜。 “当这种情况发生时，你可以用[人工智能]来解决更多问题，”他说。 “计算机科学中没有法律规定人工智能必须保持昂贵和庞大。这就是我们面临的工程挑战。”
Krishna 重点介绍了 IBM 的 Granite 系列开源 AI 模型（具有 30 亿到 200 亿个参数的较小模型），以及它们与 GPT-4 等拥有超过 1 万亿个参数的 LLM 的比较。 （OpenAI、Meta 和其他 AI 模型构建者也专注于为其较大平台创建“迷你”模型，例如 GPT o3 和 GPT o4 mini，以及 Llama 2 和 Llama 3，据报道，所有这些模型的参数数量都在 80 亿个或更少。）
IBM 最新的 Granite 3.0 模型已集成到其 WatsonX 平台中，该平台是该公司的 AI 和数据平台，旨在帮助企业大规模构建、训练、调整和部署 AI 模型，特别是针对特定的业务应用程序。 Granite 3.0 于去年 10 月推出，是 IBM 更广泛战略的一部分，旨在为企业提供可扩展、高效和可定制的 AI 解决方案
“人工智能实验的时代已经结束，”克里希纳说。 “成功将由集成和业务成果来定义。这就是我们今天宣布的内容。借助我们的 WatsonX Orchestrate 系列产品，您可以在不到五分钟的时间内构建自己的代理。”
WatsonX Orchestrate 还附带 150 个用于各种目的的预构建 AI 模型。
为了使 AI 嵌入式网络能够连接地理上分散的数据源，IBM 和电信公司 Lumen Technologies 在 Think 期间宣布建立合作伙伴关系。两家公司将专注于在更接近数据生成位置的地方创建实时人工智能推理，随着公司扩大 genAI 的采用范围，这将降低成本和延迟并解决安全障碍。
Lumen 首席执行官 Kate Johnson 表示，她的公司正在启动数十年来最大规模的网络升级和扩展； Lumen 的网络现在将在边缘运行 WatsonX，从而能够更安全地访问正在创建的数据，从而克服更传统网络上可能出现的延迟问题。
“我们为那些试图充分利用人工智能的公司带来了接近的力量，”她说。 “想象一下，使用您的 AI 模型，不断地将所有数据发送回云端并等待。它成本高昂、速度缓慢、安全性也差强人意。我们与边缘 WatsonX 的组合功能可实现实时推理。
“所有边缘位置都连接到结构，”约翰逊说。 “它无处不在，涵盖所有用例。”
例如，genAI 可用于临床环境中对患者记录进行实时诊断。当对患者进行检查时，该数据会被输入本地数据库，genAI 可以访问该数据库，并将其与另一个位置（医院数据中心）的历史数据相结合。
“这将改变游戏规则，并可能挽救生命，”约翰逊说。
约翰逊还阐述了人工智能如何在无人值守的制造工厂中工作，几乎完全由机器人运行，并生成数 TB 的数据来运行。
“每一毫秒都很重要。我们看到工厂正在寻找邻近数据中心，从网络到电力和冷却，我们的组合解决方案为他们提供了开箱即用的强大功能，”她说。