微软的生成式 AI 工具 M365 Copilot 详解

微软的生成式 AI 助手已集成到该公司的众多办公应用中。以下是企业需要了解的信息以及他们可以为 Microsoft 365 Copilot 的正式发布做好准备。

经过最近几个月对数百名客户的试用,Microsoft 365 Copilot 将于 11 月 1 日向大客户全面开放。

自今年早些时候宣布与 ChatGPT 创始人 OpenAI 建立合作伙伴关系以来,微软一直在部署副驾驶生成式人工智能 (genAI) 助手在其 Microsoft 365 商业生产力和协作应用程序套件中。Word、Outlook、Teams、Excel、PowerPoint 和一系列其他应用程序都连接到 AI 助手,它可以自动执行任务并创建内容——从而节省用户的时间并提高生产力。

Copilot 的目标是自动执行诸如起草电子邮件或创建幻灯片之类的任务。在宣布该工具的博客文章微软首席执行官萨蒂亚·纳德拉将其描述为“我们与计算交互方式演变的下一个重要步骤……借助我们新的工作副驾驶,我们赋予人们更多自主权,并通过最通用的界面——自然语言,让人们更容易获得技术。”

和Forrester 未来工作团队副总裁兼首席分析师 JP Gownder 表示,微软的目标是打造一款“更实用、功能更强大的工作助手”。“这个概念是,你是‘领航员’,而‘副领航员’可以承担一些可以让生活变得轻松很多的任务。”

他说,M365 Copilot 是“生成式人工智能大运动的一部分,它将明显改变我们的计算方式”,并指出这项技术已经应用于各种工作职能——从编写内容到创建代码——自。

最近Forrester 报告预测到 2024 年底,690 万美国知识工作者(占总数的 8% 左右)将使用 Microsoft 365 Copilot。

纳德拉在最近的一次财报电话会议上大谈 M365 Copilot 的有效性,声称客户已经看到了与 GitHub Copilot 相当的生产力提升,后者是两年前推出的面向开发人员的 AI 助手。(作为参考,GitHub 已经先前声称借助 GitHub Copilot,开发人员能够将单项任务完成速度提高 55%,同时也承认衡量生产力方面存在挑战。)

即使每位用户每月收费 30 美元,只要 Copilot 能够兑现承诺,它就有可能为企业带来可观的价值。Gownder 说:“关键问题是‘它真的能节省时间吗?’因为这很难衡量,我们也不确定。但即使是保守的时间节省估计也相当慷慨。”

M365 Copilot 被宣传为让员工能够使用 genAI,而无需担心消费者工具的安全问题;例如,微软表示其模型不是根据客户数据进行训练的。但 Gartner 杰出副总裁分析师 Avivah Litan 表示,部署该工具面临重大挑战。

她表示,主要存在两个商业风险:Copilot 可能会“产生幻觉”并向用户提供不准确的信息,以及 Copilot 的语言模型可能会访问未正确锁定的大量公司数据。

“信息过度共享是人们在未来几个月、六个月到一年内将面临的最大问题之一,”Litan 说道。“这就是风险的真正源头——不仅仅是将数据提供给微软、OpenAI 或谷歌,而是所有数据都在内部暴露。”

锁定敏感文件对 IT 团队来说并不是一项新挑战,但 Copilot 让数据泄露变得更加容易。“你只需用英语或任何母语提出问题,所以这是一个改变游戏规则的方法,”Litan 说。

什么是 Microsoft 365 Copilot?

M365 Copilot“系统”由三个元素组成:Microsoft 365 应用程序,例如 Word、Excel 和 Teams,用户可以在其中与 AI 助手进行交互;Microsoft Graph,其中包括 Microsoft 365 环境中的文件、文档和数据;以及处理用户提示的 OpenAI 模型:OpenAI 的 ChatGPT-3、ChatGPT-4、DALL-E、Codex 和 Embeddings。

这些模型都托管在微软的 Azure 云环境中。

Copilot 只是微软整体生成式 AI 计划的一部分。微软计划针对其 Dynamics 365 商业应用、PowerPlatform(该公司的安全套件)和 Windows 操作系统量身定制 Copilot。几年前,微软子公司 GitHub 还与 OpenAI 合作开发了 GitHub Copilot,本质上是为程序员提供自动完成工具。

与其他生成式 AI 工具一样,Copilot 的关键组件是。这些语言模型最好被认为是通过数据输入/输出集训练的机器学习网络;该模型使用自我监督或半监督学习方法论。基本上,数据被采集,然后 LLM 根据算法预测的下一个单词给出响应。LLM 中的信息可以仅限于专有的公司数据,或者,就像 ChatGPT 的情况一样,可以包括它从网络上直接输入或抓取的任何数据。

为了帮助企业在其数据中部署生成式 AI 工具,微软为 Copilot 创建了语义索引,这是“您的个人和公司数据的复杂地图”,也是在组织内采用 Copilot 的“先决条件”。微软表示,使用该索引应该可以更准确地搜索公司数据。例如,当用户请求“三月销售报告”时,语义索引不仅会查找包含这些特定术语的文档;它还会考虑其他背景信息,例如哪些员工通常会制作销售报告以及他们可能使用哪个应用程序。

Copilot 的价格是多少?每位用户每月 30 美元值得吗?

Microsoft 365 Copilot 将于 11 月 1 日发布,面向拥有 E3 和 E5 订阅且最低投资 300 个席位的企业客户,并将于稍后面向 M365 Businesses Standard 和 Business Premium 层级的客户发布。其使用费用为每位用户每月额外 30 美元,不过大客户可能会协商折扣。

鉴于 E3 和 E5 许可证每位用户每月的费用已经为 36 美元和 57 美元,这是一笔不小的额外开支。标普全球市场情报公司 (S&P Global Market Intelligence) 旗下 451 Research 的高级研究分析师 Raúl Castañón 表示,部分原因是微软的 Copilot 计算成本过高。

他说:“微软很可能希望避免 GitHub Copilot 面临的挑战,该产品于 2022 年中期以每月 10 美元的价格全面上市,尽管用户量超过 150 万,但据报道仍未盈利。”

定价策略也反映了微软对 genAI 对劳动力生产力的影响的信心。

根据 Forrester 在“为 Microsoft 365 Copilot 构建业务案例”报告中的计算,一名年薪 12 万美元(约合每小时 57 美元)的员工每月可以在各种生产力任务上节省 4 个小时;这 4 个小时每月价值约 230 美元。在这种情况下,对于收入只有该金额一半的员工来说,投资 Copilot 是合理的,这还不包括在自动化日常任务时员工体验方面不太明显的好处。

Forrester 指出,除了许可之外,还有其他成本需要考虑——例如,员工培训,因为员工需要学习新技术。Gartner 还预测,由于要努力保护 genAI 工具(而不仅仅是 M365 Copilot),未来几年企业安全支出将增加 10% 至 15%。

企业可能会至少在一开始是这样。微软首席财务官艾米·胡德 (Amy Hood) 在公司 2024 年第一季度财报电话会议上表示,微软预计与 M365 Copilot 相关的收入将“随着时间的推移逐渐增长”。在同一次电话会议上,纳德拉指出,Copilot 将受到通常的“企业采用和升级周期”的影响。

即使采用速度缓慢,但似乎有很多人对部署它感兴趣。Forrester 预计,美国约三分之一的 M365 客户将在第一年投资 Copilot。该公司估计,这样做的公司将在此期间向约 40% 的员工提供许可证。

如何使用 Copilot?

用户与 Copilot 交互的基本方式有两种。可以直接在特定应用程序中访问它(例如创建 PowerPoint 幻灯片或电子邮件草稿),也可以通过 Teams 中可访问的自然语言聊天机器人(称为 Microsoft 365 Chat)访问。

Copilot 可以帮助 Word 用户根据会议记录起草提案。

应用内的交互可以采用多种形式,具体取决于应用程序。例如,当在 Word 文档中调用 Copilot 时,它可以建议改进现有文本,甚至可以创建初稿。

要生成草稿,用户可以用自然语言要求 Copilot 根据特定信息源或多个信息源组合创建文本。例如:根据 OneNote 中的会议记录和另一个 Word 文档中的产品路线图创建提案草稿。创建草稿后,用户可以编辑它、调整样式或要求 AI 工具重做整个文档。Copilot 侧边栏为与机器人进行更多交互提供了空间,它还会提出改进草稿的提示,例如添加图片或常见问题解答部分。

在 Teams 视频通话期间,参与者可以要求回顾迄今为止讨论的内容,Copilot 会通过 Copilot 侧边栏实时提供对话要点的简要概述。还可以要求 AI 助手对通话期间人们的观点或哪些问题尚未解决进行反馈。那些无法参加特定会议的人可以让 AI 助手代替他们提供他们错过的内容摘要以及他们需要跟进的行动项目。

在 PowerPoint 中,Copilot 可以自动将 Word 文档转换为草稿幻灯片,然后可以通过 Copilot 侧边栏中的自然语言进行调整。Copilot 还可以生成与幻灯片搭配的建议演讲者备注并添加更多图片。

与 Copilot 交互的另一种方式是通过 Microsoft 365 Chat,它可以通过 Teams 作为聊天机器人访问。在这里,Microsoft 365 Chat 充当搜索工具,可显示来自各种来源的信息,包括文档、日历、电子邮件和聊天。例如,员工可以询问项目更新,并获得相关团队沟通和已创建的文档的摘要,以及指向来源的链接。

微软将员工可以通过“插件”使用,即第三方应用集成。这些插件将允许助手利用其他软件供应商(包括 Atlassian、ServiceNow 和 Mural)应用中保存的数据。微软表示,目前已有 50 个此类插件可用,预计最终还会有“数千个”插件可用。

Copilot 可以综合来自不同来源的有关项目的信息。

早期客户如何使用 Copilot?

在推出之前,许多企业作为付费早期访问计划 (EAP) 的一部分访问了 M365 Copilot;它最初只有少数参与者,后来发展到数百名客户,其中包括雪佛龙、固特异和通用汽车。

参与 EAP 的营销公司之一是 Dentsu,该公司开始向技术人员部署 300 个许可证,然后向其全球业务线的员工部署。到目前为止,最受欢迎的用例是汇总 M365 应用程序中生成的信息——Teams 通话就是一个例子。

“总结绝对是我们看到的最常见的用例,因为它是一个简单的提示:你实际上不必进行任何提示工程......它是由 Copilot 建议的,”电通新兴技术支持总监 Kate Slade 说。

例如,工作人员还可以使用 M365 聊天功能来准备会议,并能够快速从不同来源获取信息。这意味着可以找到几年前的项目信息,“而不必在文件夹迷宫中搜索”,斯莱德说。

斯莱德表示,电通员工的反馈非常积极,目前已经为想要使用人工智能工具的员工设立了等候名单。

“它减少了人们在 [任务] 上花费的时间,让他们有时间发挥更多创造力、制定更多战略,或者只是像个人一样在 Teams 会议上与同事交流,”她说。“这是我们看到的最大影响之一……它帮助人们腾出时间完成必须完成的更高级别的认知任务。”

不同角色的用例各不相同。例如,Denstu 的平面设计师使用 PowerPoint 中的 Copilot 所获得的价值会更少:“他们将自己创作出真正具有视觉震撼力的作品,而不会真正满足于这种开箱即用的功能,”Slade 说。“但这些创意人员可能会从 Excel 中的 Copilot 中获得很多好处,能够使用自然语言说,‘嘿,我需要对这张表进行一些分析’或‘这些数据的主要趋势是什么?’或‘我想添加一个可以执行此操作或执行此操作的列。’”

生产力和协作软件市场的大多数供应商都在其产品中添加 genAI,尽管这些仍处于早期阶段。

谷歌是微软在生产力软件领域的主要竞争对手,该公司已宣布计划将 genAI 纳入其 Workspace 套件。Duet AI for Workspace,,现已向企业客户开放。例如,它可以提供 Gmail 对话摘要、草稿文本,并在文档和幻灯片中生成图像。

Slack 是 Salesforce 旗下的协作软件公司,也是 Microsoft Teams 的竞争对手,该公司也在努力将法学硕士学位引入其软件中。与 Microsoft 365 产品组合的元素竞争的其他公司,如 Zoom、Box、Coda 和思科,也都推出了 genAI 计划。

卡斯塔尼翁表示:“从供应商方面来看,许多公司都在加入生成式人工智能的潮流,这从今年上半年发布的大量公告就可以看出。”

Copilot 似乎比竞争对手更具优势。卡斯塔尼翁表示,其中之一就是微软在生产力和协作软件市场的主导地位。“Microsoft 365 Copilot 的主要优势在于,与 Teams 等其他先前的计划一样,它拥有‘现成的’机会,可以借助微软的协作和生产力产品组合及其广泛的全球影响力,”他说。

微软的(微软曾多次向该公司投资数十亿美元自 2019 年起并拥有大量非控股业务),这可能帮助该公司以比竞争对手更快的速度在其应用程序中构建生成式人工智能。

卡斯塔尼翁表示:“其对 OpenAI 的投资已经产生了影响,使其能够加速在其产品中使用生成式 AI/LLM,从而领先于谷歌云和其他竞争对手。”

genAI 会给企业带来哪些风险?“幻觉”和数据保护

除了 M365 Copilot 等 genAI 工具的潜在优势之外,企业还应考虑风险。其中包括法学硕士容易产生的幻觉,即向员工提供错误的信息。

“Copilot 是生成式人工智能——它肯定会产生幻觉,”Slade 说道,并举了一个例子,一名员工要求 Copilot 提供当月完成的无偿工作的摘要,以添加到他们的考勤卡中并发送给他们的经理。一份详细的两页摘要文件毫无问题地创建出来了;然而,所有会议的地址都是“123 Main Street, City, USA”——这个错误很容易被发现,但也表明用户在依赖 Copilot 时需要小心谨慎。

通过改进提示可以减少幻觉的发生,但电通员工被建议谨慎对待 genAI 助手的输出。“一般来说,你能给出的背景信息越多,你就越接近最终输出,”斯莱德说。“但它永远无法取代人工审查和事实核查的需要。

“尽可能地设定期望值,并向你的第一批用户传达这仍然是一项不断发展的技术。这只是初稿,而不是最终稿——它有时会产生幻觉和混乱。”

Litan 表示,正在出现的过滤 Copilot 输出的工具可能会有所帮助,但在可预见的未来,这很可能仍然是企业面临的一个关键挑战。

另一个风险与 Copilot 的一大优势有关:它能够使用自然语言输入筛选公司 M365 环境中的文件和数据。

虽然 Copilot 只能根据授予个人员工的权限访问文件,但现实情况是,企业往往无法充分标记敏感文件。这意味着,如果未使用正确的权限锁定文件,个人员工可能会突然意识到,他们可以要求 Copilot 提供有关工资单或客户信息的详细信息。

A数据安全公司 Varonis 的 2022 年报告声称 SaaS 环境中托管的十分之一的文件可供所有员工访问;早些时候2019 年报告包括云端和本地文件和文件夹在内的这一数字为 22%。Varonis 表示,在许多情况下,这可能意味着整个组织范围内的权限被授予数千个敏感文件。

在许多情况下,最重要的数据(例如工资单)将具有严格的权限。更大的挑战在于保护非结构化数据,敏感信息会进入个人员工创建的各种文档中——例如,商店经理在更新中央系统之前先在 Excel 电子表格中规划工资单。Litan 说,这类似于一家未具名的美国连锁餐厅的首席技术官在 EAP 期间遇到的情况。

“很多个人数据都保存在各个经理的电子表格中,”Litan 说道。“还有很多知识产权都保存在 SharePoint 或 Teams 或 OneDrive 中的 Word 文档中。”

Varonis 事件响应和云运营副总裁 Matt Radolec 在最近与计算机世界“你可能会认为人们一般都会把这些东西锁起来,但事实并非如此。东西一般都是开放的。”

另一个考虑因素是,员工经常将与其个人生活相关的文件存储在工作笔记本电脑上。

“员工也会使用他们的台式电脑处理个人事务——他们中的大多数人没有单独的笔记本电脑,”Litan 说。“所以你必须给员工时间,让他们清除所有个人数据。有时你不能,他们不能轻易地从系统中删除,因为他们被锁定了——你不能将 USB 驱动器放入 [在某些情况下是公司设备]。

“所以公司必须经历很多流程。我每天都会和客户通电话讨论风险。这次真的对他们打击很大。”

Litan 表示,整理数据管理是一个可能需要企业一年多时间才能完成的过程。“没有捷径可走。你必须检查整个组织并正确设置权限,”她说。

在 Radolec 看来,很少有 M365 客户充分解决了其组织内数据访问的风险。“我认为他们中的许多人只是计划在开始后进行阻止和处理,”他说。“我们将看看 [推出后] 的有效性程度。我们很快就能看到人们会如何应对它。”