微软 Win11 新功能：设备端小型语言模型 Mu，让系统设置搜索更智能！
微软近日推出的 Mu，无疑是在设备端小型语言模型领域的一次重大创新。这款内置于 Windows 11 的新型语言模型，旨在为用户提供更加智能和自然的语言交互体验，进一步优化系统设置中的搜索功能。
首先，让我们来了解一下 Mu 的基本概念。Mu 是一款拥有 3.3亿参数的编码器-解码器语言模型，其在某些组件中采用了权重共享技术，以减少总参数数量。与同尺寸的解码器模型相比，编码器-解码器架构能够将首 token 延迟降低约 47%，并将解码速度提高 4.7 倍。这意味着 Mu 在处理语言查询时，具有更高的效率和准确性。
微软在 Windows 11 中引入 Mu 的目的，是创建一个基于人工智能的智能代理。这个智能代理能够理解用户的自然语言查询，并将其无缝集成到系统设置应用中现有的搜索框内。通过这种方式，用户在进行系统设置搜索时，可以获得更加流畅的使用体验。
为了实现这一目标，微软利用 Mu 模型为设置应用中的新代理功能提供了支持。这一新功能已在开发频道向 Windows 预览体验计划成员开放，且仅限于使用 Copilot + 个人电脑的用户使用。这意味着，对于那些选择使用微软 Copilot + 个人电脑的消费者而言，他们将能够体验到 Mu 带来的全新搜索体验。
值得一提的是，Mu 被设计为能够在 NPU 上高效运行，能够在本地以每秒超过 100 个 token 的速度运行。这表明 Mu 模型在处理语言查询时，具有极高的实时性和响应速度。在官方博客文章中，微软详细介绍了 Mu 语言模型的设计和训练过程，展示了其在处理语言查询时的卓越性能。
此外，Mu 还具有处理多词查询的独特优势。对于短词或部分词输入，系统设置应用仍会在搜索框中显示词汇和语义搜索结果。这使得 Mu 在处理复杂语言查询时，更加灵活和实用。
对于有兴趣体验这一全新人工智能代理功能的用户，微软建议他们下载 Windows 11 Build 26120.3964（KB5058496）或更高版本。这将让他们有机会亲身体验 Mu 在系统设置搜索中的应用，感受其带来的智能和便利。
总的来说，微软推出的 Mu 是一款具有创新性的设备端小型语言模型，它通过优化系统设置中的搜索功能，为用户提供更加智能和自然的语言交互体验。Mu 的出现，预示着设备端语言模型领域的一次重大突破，也为微软在人工智能领域的发展奠定了更加坚实的基础。对于那些选择使用微软 Copilot + 个人电脑的消费者而言，他们将有机会率先体验这一创新成果，感受人工智能带来的全新变革。
