AIPC软件的魅力

©作者|chuiyuw

来源|神州问学

 一、AI PC 的崛起之势

1. 传统 PC 受到 AI PC 挑战

AI PC 与传统 PC 相比，具有显著的不同。硬件方面，AI PC 在传统 PC 职能的基础上，集成了混合 AI 算力单元，通常配备高性能处理器，支持包括 CPU、GPU、NPU 在内的异构计算，整体算力支撑能力更强，能够本地运行 “个人大模型”、创建个性化的本地知识库，实现自然语言人机交互。从交互方式来看，AI PC 通过语音、手势等多种方式提高与用户交互便捷性和流畅度，降低使用门槛，从原有的使用工具变成为每个人量身定制的个人 AI 助理。在应用方面，AI PC 应用生态更加开放，能够匹配诸如高精度分析、复杂系统管控等高算力、高智能化场景使用需求。从安全性来看，AI PC 能有效保障数据安全性，通过汇聚个性化本地知识库、本地推理机制和硬件级安全芯片等技术支撑，应对大模型应用时产生的庞大数据量。

2. AI PC 端侧软件的巨大潜力

AI PC 的软件应用场景极为丰富，功能强大。在工作场景中，它可以辅助用户进行文档处理、图表制作等任务，如总结文件内容，自动为 Excel 表格创建复杂的过滤器和趋势图。在生活场景中，AI PC 端侧软件也有诸多应用，如 AI 画师功能。当用户想要购买产品时，可以通过 “AI 识图” 功能实现圈出图片并搜索，甚至一键完成产品购买。AI PC 端软件还可为专业创作者提供强大支持，像戴尔的 Latitude 笔记本和 Precision 移动工作站等产品，具备图文生成、本地知识库、长文档解读等功能，成为高效智能助手。Precision 系列新品搭载 NVIDIA® 专业显卡，助力 AI 创作，加速实现 AI 绘画、文生图、图生图等创意。

二、端侧大模型的兴起

在当今科技快速发展的时代，人工智能领域不断取得突破，端侧大模型正逐渐兴起，成为备受关注的焦点。这并非偶然，而是多种因素共同作用的结果。

一方面，模型压缩技术的不断发展为端侧大模型的实现提供了关键支持。在深度学习技术快速发展的背景下，神经网络模型的规模和计算复杂度日益增加，要在资源受限的端侧设备上部署大模型，模型压缩至关重要。其中，模型蒸馏技术通过训练一个较小的 “学生” 模型来模仿大型 “教师” 模型的行为，在保持性能的同时减少参数量。而模型量化则是将模型参数的精度降低，如从 32 位浮点数降至 8 位整数等，大幅减少模型的存储需求和计算复杂度，提高推理速度。这些模型压缩技术使得原本庞大的大模型能够适配端侧设备的计算和存储能力。

另一方面，硬件的不断进步也为端侧大模型的兴起奠定了坚实基础。各大厂商积极推出适用于端侧的高性能芯片及配套的加速框架。例如，AMD 的锐龙系列芯片，其锐龙7 8840 系列处理器为笔记本电脑提供了强大的 AI 运算能力，锐龙 Pro 8000 系列处理器则在台式机上表现出色，为端侧大模型的运行提供了有力的硬件支持。华为的昇腾系列 AI 芯片，如昇腾 910B 等，具备强大的算力和能效比，配合其 CANN 等计算加速框架，为端侧大模型的应用和部署提供了完整的解决方案。

端侧大模型也有着特定的使用场景，满足一些特定场景下对数据隐私和低延迟的要求。在一些没有网络连接的场景下，如在飞机上处于飞行模式时，端侧大模型可以利用本地算力来支持运行，用户可以进行工作总结、梳理笔记等操作。同时，由于数据不需要上传到云端，端侧大模型能更好地保护用户的隐私数据，避免了隐私泄露的风险。

三、AI PC端侧应用的实例

1. 端侧大模型的本地化适配

在早期，大模型的使用模式往往是用户自行到网页端来使用，然而想在端侧使用大模型必须要事先部署模型。因此，一些本地化适配的工具应运而生。

Ollama 是一个通用的模型调用框架，具有很强的适应性。它可以适配不同的操作系统，无论是 Windows、Linux 还是 Mac 等，都能轻松部署。这使得开发者能够在不同的环境下快速地部署和使用大模型，大大降低了端侧大模型的使用门槛。

ollama基于openWebUI的图形界面

LMstudio 则是一个让本地化部署变得更加容易的工具。它拥有直观的图形界面，即使是对技术不太熟悉的用户，也能通过简单的操作完成模型的部署和使用。在模型推理时，用户还可以根据实际需求对模型的配置进行调整，例如调整模型的参数、选择不同的模型版本等，以获得更符合自己需求的结果。

LMstudio的对话界面

大模型的本地部署通常是一个较为繁琐的过程。由于大模型对计算资源和存储的要求较高，用户需要对运行环境进行一系列的配置和优化，以确保模型能够在本地顺利运行。而且不同的操作系统和硬件环境，又增加了部署的复杂性和难度，这对于一般用户来说是一个不小的挑战。

2. 基于自带模型的 AI PC 软件应用

如果说本地大模型的部署对于一般用户来说难以上手，这类 AI PC 自带的应用绝对是小白们的不二之选。它们在设备出场时就已经内置在PC中，因此不需要复杂的配置，有着简洁的界面，便于用户操作。有些应用甚至不需要用户介入，可以直接学习用户的使用习惯，为用户智能地提供个性化的体验。

微软的 Copilot+ PC 是 AI PC 的典型代表。在众多搭载微软 Windows 操作系统的 AI PC 上，都设有实体 Copilot 键，轻轻一按，即可快速调出 Copilot 应用。Copilot+ PC 集成了OpenAI的 GPT-4o 模型，可以给用户全新的文字、语音和视频的交互体验。

微软Copilot+ PC

Copilot 的应用十分广泛。首先，它拥有强大的对话机器人功能。用户可以随时向它提问，无论是寻求知识解答、获取创意灵感还是解决复杂问题，Copilot 都能迅速给出回应。此外，Microsoft 365 与 Copilot 的组合更是极大地提高了办公效率。在 Word 文档中，在右键菜单中即可随时使用 Copilot 的强大功能，例如可以帮助用户进行文案扩写、语法检查和内容润色。比如，用户输入一个简短的段落，copilot 能够根据上下文和用户的需求，自动生成更加丰富、流畅的文本。在 Excel 表格中，它可以进行数据分析和预测，为用户提供决策支持。而在 PowerPoint 演示文稿中，Copilot 能够协助用户设计布局、选择合适的图表和配色方案，让演示更加专业和吸引人。

接入Office (Microsoft 365) 的Copilot

华硕 AI PC 自带一系列基于本地模型的 AI 应用，为用户带来卓越的使用体验。与微软Copilot+ PC宣传的方向不同，华硕宣传的是 AI 在本地文件管理、摄像头及麦克风等功能上的体现。智能媒体库管理功能，能自动识别并精准分类本地的图片、音乐、视频等媒体文件，还可智能推荐相关内容，方便用户在庞大的媒体库中快速找到所需。智能调光 & 锁定功能，能侦测环境光与用户是否在屏幕前，智能调整屏幕的亮暗和控制锁屏，既省电又保护隐私。智能 AI 降噪功能，提高声音的清晰度，让用户的沟通和创作更加顺畅。

华硕AI应用

实际使用华硕 AI PC 时，开启摄像头时，画面会主动聚焦到拍摄范围内的人脸开启追踪，并将周围背景虚化。在此过程中，本地的视觉 AI 模型开始运行，调用本地 GPU 和 NPU 的计算资源进行计算。

3. AI应用商城：本地AI功能的补充

AI 应用市场为 AI PC 的本地功能提供了有力的补充，使用户能够便捷地使用云端的丰富资源。AI 应用市场中的资源大致可以分为智能办公应用、创意设计应用和智能学习应用。

● 智能办公应用：文档处理方面，一些 AI 应用可以帮助用户进行文字的智能校对、语法检查、语言翻译等，提高文档的质量和处理效率。在数据分析领域，AI 应用能够快速分析大量的数据，并提供可视化的结果，帮助用户更好地理解和利用数据。

● 创意设计应用：对于设计师来说，AI 应用市场提供了许多创意设计工具。比如一些图像编辑应用可以利用 AI 技术进行智能抠图、色彩调整、风格转换等，让设计过程更加高效和富有创意。

● 智能学习应用：在教育领域，AI 应用为学生和教师提供了新的学习和教学方式。学生可以使用智能学习应用进行个性化的学习，根据自己的学习进度和需求获取相应的学习资源和辅导。教师可以利用 AI 应用进行教学管理、作业批改、学生评估等，提高教学效率。

豆包客户端是 AI 应用市场上的一款实用软件。作为个人AI助理，它可以利用云端的大模型，并结合联网搜索的功能，智能地完成各项任务。在用户阅读 PDF 文档时，它能够帮助将外语文档翻译成中文，并提炼主要内容，让用户快速获取关键信息。同时，它还具备了划词工具栏，当用户选中一段内容后，光标浮动在选中内容上方即可使用其智能搜索功能。在撰写文档方面，无论是撰写文章、报告还是邮件，用户只需输入主题和关键要点，豆包就能先为用户提供大纲，供用户参考及修改，再根据改好的大纲生成文档，帮助用户更高效地完成任务。

豆包客户端的智能搜索和划词工具栏

剪映作为国产的图像与视频剪辑软件，近年来也添加了很多 AI 的应用，被拉进 AI 应用市场的队列中。在视频脚本创作方面，用户只需输入一些关键信息和主题，剪映就能智能生成完整的视频脚本。例如，用户想要制作一个关于旅行的视频，只需输入 “旅行”“自然风光”“美食体验” 等关键词，剪映就能迅速生成一个包含场景描述、对话台词和镜头切换提示的视频脚本。同时，剪映还能智能生成视频。它可以根据用户提供的图片、视频片段和文字描述，自动合成一个高质量的视频。

在剪映中可以利用AI生成的文案一键生成视频

四、云端与端侧融合——未来AI PC软件的发展趋势

1. 云端和端侧各自的不足

云端AI应用的不足

在数据安全和隐私方面，由于数据存储在云端，这使其面临着被黑客攻击以及数据泄露的风险。对于一些对数据隐私要求极高的行业，如医疗和金融等，将数据上传到云端可能不符合相关法规和行业规范。网络依赖也是一个关键问题，稳定的网络连接是云端应用正常运行的基础，一旦网络出现故障或不稳定，应用可能无法正常使用，并且对于实时性要求较高的应用，如云游戏和实时视频会议等，网络延迟会严重影响用户体验。在个性化方面，云端大模型的数据来源广泛，难以完全适应用户的个性化使用习惯，在行业场景适配性上也存在不足，无法满足某些特定行业或复杂场景的精细化需求。

端侧AI应用的不足

现阶段端侧算力有限，难以支撑大型复杂的 AI 模型运行。这是因为目前端侧设备的计算资源和存储容量相对较小，无法满足一些对算力要求较高的应用场景。模型的更新和维护对于端侧应用来说是一个棘手的问题，由于受到网络条件和设备性能等多种因素的限制，在端侧设备上进行模型更新可能会遇到困难，这可能导致模型无法及时适应新的需求和数据变化。

2. 混合AI模式成为趋势

高通曾在2023年5月发布白皮书《混合AI是AI应用的未来》，提到了未来的AI应用是端侧和云端配合的。混合模式指的是将云端和终端侧的智能进行结合，在云端和边缘终端之间分配并协调 AI 工作负载。这种模式并非单纯地依赖云端或端侧的计算能力，而是充分发挥两者的优势，实现更强大、更高效且高度优化的 AI 应用。

云端模型具备强大计算资源，可处理图像识别、自然语言处理等需大量数据和复杂算法的任务，且模型更新迅速，能适应需求变化。将部分功能云端化可减少本地模型体量及本地空间占用。本地模型具有实时响应、低延迟的优势，适用于实时语音翻译、在线游戏等对响应速度要求高的场景，还能保障隐私和数据安全，在离线状态也可使用。云端与本地模型互补形成混合智能模式，工作场景中 AI PC 可借助云端强大算力进行文档处理和数据分析，同时利用本地模型的实时响应和隐私保护；生活场景中 AI 手机通过云端与本地协作实现个性化智能助理服务。

随着通信技术的不断发展，尤其是 5G 和 5G Advanced 的普及，本地和云端的协同变得更加顺畅。5G 高速度、泛在网、低功耗、低时延的特性，突破了云端和边缘端通信的速度瓶颈，使边缘计算终端在无人驾驶、视频监控等异构数据集中的场景中能够实现前端计算节点所应该具有的集成作用。这不仅提高了数据传输的效率，还降低了延迟，为云端与端侧的协同工作提供了有力的支持。高通公司全球副总裁夏权也认为，连接性在 AI 时代的重要性更加凸显，生成式 AI 等技术如果能够在终端侧实现，与云端大模型结合，将带来很多前所未有的便捷。

5G加速了AI应用从云端到端侧的过渡

3. 混合AI的优势

● 成本方面：运行在云端的生成式 AI 成本高，将部分处理转移到边缘设备可降低成本，使开发者能更经济地创建应用。

● 能源方面：边缘设备处理 AI 的能效高，可降低能源成本，帮助云提供商实现环保目标。

● 可靠性、性能和延迟方面：设备上的 AI 处理在云端拥堵时性能可靠，可降低延迟，还能让应用在无网络连接时工作。

● 隐私和安全方面：设备上的 AI 可保护用户隐私，防止企业机密信息泄露，还能提供隐私模式供用户输入敏感信息。

● 个性化方面：混合 AI 可实现个性化体验，数字助理可根据用户特点定制，且能用于企业规范代码编写等。

4.  实现方式

混合式AI融合了设备端和云端的优势，为 AI 应用带来更强大的性能和更广泛的适用性。下面将从负载分配和生态接入两个角度介绍混合式AI的实现方式。

混合式 AI 的工作负载分配方式呈现出多样化的特点，旨在依据不同的任务需求和设备能力进行优化配置，充分发挥设备和云端的优势。其中包括以设备为中心的混合 AI，在此架构下设备作为主要处理点，对于自身能够充分处理的任务，如一些相对简单的本地 AI 任务；而对于复杂程度超出设备能力的任务，则直接调用云端资源。还有设备感知混合 AI，边缘模型充当传感器输入，与云端的大型语言模型协同工作，例如在智能手机的语音交互应用中，设备端的自动语音识别等模型先进行处理，再与云端的语言模型交互。另外，联合处理混合 AI 也是一种方式，设备和云端共同处理 AI 工作负载，像 LLM 的多令牌生成任务，设备和云端通过合理分工，共同完成复杂的 AI 计算过程。

生态接入也是AI PC端云融合的重点。首先，硬件和软件的基础配套工具的及时更新至关重要。像 AMD 的 XDNA 架构的 NPU 及其配套的Ryzen AI工具、英特尔 NPU 及配套的 OpenVINO，为 AI PC 的高效运行提供了有力的硬件和软件支持。其次，科技公司之间合作是实现端云融合的重要途径。例如联想与英伟达推出混合人工智能计划，结合多种大模型，不仅能保障数据安全，还可针对企业的特定问题提供解决方案，助力企业的活动规划。再者，推出开发者计划也能促进端云混合智能的实现。英特尔新增 “AI PC 开发者计划”，更新的开发者资源页面为开发者提供了一站式的便利服务，便于其获取针对 AI PC 和以客户需求为核心的软件开发工具包、相关文档以及培训资源。

五、AI PC 软件的未来展望

AI PC 软件应用具有广阔的未来发展前景，主要可以体现在三个方面。

1. 技术架构与性能提升

● 混合 AI 架构深化：未来 AI PC 将进一步深化混合 AI 架构，依任务复杂度合理分配设备与云端资源。简单任务本地处理，复杂任务协同云端，以平衡性能与成本，发挥 PC 硬件优势。

● 端侧 AI 模型进化：随着专用 AI 模块处理器主流化，端侧 AI 模型将不断完善，提升响应能力，降低延迟，减少对云端依赖。

● 算力持续增强：AI PC 的算力将持续提升，包括 CPU、GPU 和 NPU 等，以支持复杂 AI 任务，如数据分析、图形处理和多模态内容生成。

2. 应用领域拓展与个性化体验

● 应用领域拓展：在办公场景，AI PC 将拓展功能，如会议软件集成语音识别、翻译和纪要生成，办公软件分析数据、生成报告，项目管理自动生成计划和提醒。在创作的场景下，为创作者提供更多工具，如生成 3D 模型、创作音乐和视频，并帮助优化作品。AI PC的应用还将针对不同专业领域提供定制化解决方案，如医疗辅助诊断，金融风险评估。AI PC 智能助手也将更强，可理解需求并执行任务，与办公软件深度集成。

● 个性化体验提升：AI PC 将更注重用户行为学习，提供个性化服务，如根据习惯准备模板。同时保障隐私安全，个人数据本地处理，授权后与云端交互。

3. 生态系统与市场发展

● 应用市场繁荣：AI 应用市场将快速增长，拓展领域和场景，如教育、游戏等领域将涌现更多应用，且功能和性能将提升。

● 安全与隐私保障：随着 AI 广泛应用，数据安全和隐私保护至关重要。厂商将采用措施确保数据安全，遵守标准建立信任。

● 生态系统完善：芯片厂商、PC 制造商等各方将加强合作，构建完善的 AI PC 生态系统，促进硬件和软件适配，推动技术创新和应用。

结语

AI PC 软件应用的发展从云端到端侧大模型再到混合模式，展现出强大的生命力。它不仅为 PC 市场带来深刻变革，还在技术、应用和产业方面具有巨大的发展潜力。未来，AI PC 将持续创新，为用户提供更智能、高效、个性化的服务，推动社会不断进步。