跳到正文

介绍 Microsoft Copilot 框架:释放真正多模型智能体工作的潜力

如果你想参与竞争,就需要采用多模型策略。而如果你想充分利用不同 AI 模型所提供的全部能力,就需要一个出色的框架。但要构建一个能在多个模型和平台上无缝运行的框架,难度极大。你需要在性能、质量和成本之间取得平衡。此外……文章《介绍 Microsoft Copilot 框架:释放真正多模型智能体工作的潜力》最初发布于 Microsoft 官方博客。

本文目录文章开头

如果你想参与竞争,就需要支持多模型。而如果你想充分利用不同 AI 模型的所有优势,就需要一个出色的 harness。但构建一个能在多个模型和界面上无缝运行的 harness 极其困难。你需要解决性能、质量和成本问题,之后还要维护它,这甚至更难。

幸运的是,GitHub 工程团队构建了一个一流的、真正支持多模型的 harness,我们已在全公司范围内采用。Microsoft Copilot harness 为 Copilot Code、Copilot Studio、GitHub Copilot 应用、CLI、VS Code 等提供支持。今天,我们通过 Microsoft Foundry 提供这个 harness。这为开发者和企业客户提供了一种全托管的方式,用于构建能够推理、使用工具并完成复杂、长时间运行任务的智能体。你可以为任务选择合适的模型,而无需更换 harness 或其他技术栈。这让你的时间、精力和资源得以专注于你的业务核心。

什么是 harness,为什么它很难?

如果模型提供智能,那么 harness 就是模型周围的一切。它是编排层,为智能体提供正确的指令、上下文、执行环境和控制,以完成有意义的工作。一个称职的 harness 应支持 MCP 和智能体技能等开放标准,以及智能体插件。

这是一个快速发展的领域。今天的前沿模型明天可能就会落后。而自己构建 harness 或模型路由器来跟上进度可能既痛苦又缓慢。现在,你可以基于微软和 GitHub 在自家产品中发布的同一 harness 进行构建,而且无需维护它。

我们投资科学和工程工作,以不断改进和演进 harness,确保在各种模型和工作负载上实现高质量、高效且低成本的性能。这些收益对我们和使用 harness 构建及运行自身智能体的客户来说是复合的。改进 harness,它所触及的每个界面都会受益。

诞生于 GitHub,在企业规模下经受实战检验

Copilot harness 由同一批 GitHub 工程师构建,他们也是我们多模型编排等新技术的幕后功臣。而这些技术之所以成为可能,正是因为我们构建了自己的 harness。它被设计为快速、节省 token 且可预测,是我们最初的高质量 harness。在我们最挑剔的受众——开发者中,它拥有最高的满意度。这就是为什么我们要将所有 Copilot 体验建立在尽可能强大的基础之上。

该 harness 旨在跨模型系列运行,支持 20 多个前沿模型以及自带密钥(BYOK),因此你可以为合适的任务使用合适的模型。无需自己费力跟进和评估新模型,只需依靠我们根据任务智能地将工作路由到合适的模型或模型组合。

我们的 harness 灵活且可配置,适用于任何类型的应用、智能体或服务。我们最近将 harness 运行时移植到了 Rust,这带来了行业领先的性能,并减少了会话开销和首 token 时间。而且由于 Copilot harness 为微软各处的界面提供支持,它经过了实战检验,并在数百万用户和数百个真实用例的规模下证明了其性能。

统一的运行框架让我们能够更快地交付、更快地学习,并随着时间的推移不断改进 Copilot。而且,由于您在 Foundry 中构建的智能体可以在我们已在微软全公司采用的同一框架上运行,我们对框架的持续改进也将使您的智能体受益。

亲自试一试

SDK 可供下载,您也可以在云端运行该框架,这一切均由 Foundry 管理。我们的平台保持开放和互操作性,因此您也可以继续引入任何您想要的框架和架构。

借助 Copilot 框架,微软负责运行智能体循环和沙箱,从第一天起就内置了治理和优化功能。您只需提供指令、技能、工具和模型选择。

这是迈向我们愿景的重要一步,即围绕模型构建一个更强大的系统,同时保留选择权。它代表了 GitHub 的精华,被带到了微软平台及更广泛的领域。

我们将持续推进该框架的发展,让您能够专注于只有您才能构建的内容。

文章 介绍微软 Copilot 框架:释放真正多模型智能体工作的潜力 最早发布于 微软官方博客。

阅读显示设置

调整正文排版

当前浏览器记住选择,应用于文章正文。手机上正文宽度以屏幕可用空间为限。

图表完整性提示

普通文章遇到图表保存问题时显示提示。