1. 项目概述当Hy3遇上WorkBuddy一个国产顶级AI Agent的诞生最近在AI圈子里Hy3和WorkBuddy这两个名字的热度持续攀升。如果你关注AI Agent智能体的开发尤其是想打造一个能深度理解中文、执行复杂任务的本地化智能助手那么将Hy3模型与WorkBuddy框架结合无疑是当前一个极具潜力的技术路线。我花了近一个月时间从环境搭建、模型微调、框架集成到提示词工程完整地走通了这条路径最终构建出了一个在文档处理、代码生成、数据分析等任务上表现相当出色的“国产顶级Agent”。这并非简单的工具堆砌而是一次对开源模型潜力与专业框架能力的深度挖掘。本文将毫无保留地分享我的完整实践过程包括核心思路、避坑指南以及经过反复打磨、可直接复用的完整提示词设计。无论你是想快速上手一个强大的个人AI助手还是希望深入理解Agent开发的核心技术栈这篇文章都能为你提供一条清晰的路径。简单来说这个项目的核心价值在于利用性能卓越且对中文友好的开源大模型Hy3通过WorkBuddy这个专为AI Agent设计的框架进行“赋能”从而构建一个能力全面、可定制、且完全在本地或私有环境运行的智能体。它解决了几个关键痛点第一摆脱对闭源API的依赖和费用顾虑第二获得对模型和数据的完全控制权保障隐私与安全第三通过框架提供的技能Skills系统极大地扩展了Agent的能力边界使其从一个“聊天机器人”进化成真正的“数字员工”。2. 核心组件深度解析为什么是Hy3与WorkBuddy在开始动手之前我们必须搞清楚手中的“武器”。选择Hy3和WorkBuddy并非偶然而是基于性能、生态、成本和控制权的综合考量。2.1 Hy3模型开源中文模型的“实力派”Hy3并非一个单一的模型而是一个模型系列通常指基于Llama 3架构进行深度优化和微调的中文增强版本。它在开源社区中备受关注原因在于其几个突出特点强大的中文理解与生成能力相比原版Llama 3Hy3针对中文语料进行了大规模的继续预训练和指令微调。这意味着它在处理中文语境、理解成语俗语、生成符合中文表达习惯的文本方面有着天然的优势。在我实测中对于需要深度中文语义理解的任务如总结一份中文报告、撰写一封商务邮件Hy3的表现比同参数规模的通用国际模型更加“地道”和准确。优异的代码能力许多Hy3变体在代码数据集上进行了强化训练。这使得它不仅在自然语言任务上出色在代码生成、代码解释、Debug甚至简单的系统设计方面也能提供高质量的辅助。这对于将Agent应用于开发运维场景至关重要。灵活的部署选项Hy3模型权重完全开源你可以选择在本地消费级显卡如RTX 4090上使用量化版本运行也可以在云服务器上部署全参数版本。这种灵活性为不同预算和需求的开发者提供了可能。目前社区提供了GGUF、AWQ等多种量化格式极大降低了硬件门槛。注意网络上“hy3模型免费到什么时候”的搜索反映了大家对开源模型可持续性的关注。目前Hy3作为开源项目其模型权重是永久免费可获取的。但需要留意的是模型的训练、微调和维护需要社区持续投入。选择活跃度高的开源分支如由国内知名团队或社区维护的版本是保障长期可用性的关键。2.2 WorkBuddy框架AI Agent的“操作系统”如果说Hy3是Agent的“大脑”那么WorkBuddy就是为这个大脑配备的“肢体”和“工具库”。WorkBuddy是一个开源的AI Agent框架它的设计哲学是让开发者能像搭积木一样快速构建具备复杂能力的智能体。核心概念——技能Skill这是WorkBuddy的灵魂。一个Skill就是一个封装好的能力单元例如“读取PDF文件”、“调用搜索引擎”、“执行Python代码”、“发送电子邮件”等。WorkBuddy自带了一个丰富的技能市场Skill Store同时也允许开发者用Python轻松自定义技能。我们的Agent通过调用不同的技能来完成任务这远比让大模型“空想”要可靠和高效得多。规划与执行循环WorkBuddy框架会引导大模型这里是Hy3进行任务分解。例如用户请求“帮我分析一下上周的销售数据并总结成PPT”。WorkBuddy会要求Hy3先制定计划1. 定位销售数据文件调用FileReadSkill2. 进行数据分析调用CodeInterpreterSkill执行Python pandas脚本3. 生成总结文本Hy3自身能力4. 格式化PPT调用OfficeGenSkill或ReportGenSkill。这个“规划-执行-观察-再规划”的循环是构建可靠Agent的核心机制。状态管理与记忆WorkBuddy提供了对话历史管理、短期/长期记忆存储等机制使得Agent能在多轮对话中保持上下文连贯甚至记住用户偏好实现个性化服务。与“CodeBuddy”的区别搜索热词中出现了workbuddy和codebuddy区别。简单来说CodeBuddy可能更侧重于纯粹的代码辅助场景类似一个高级版的Copilot而WorkBuddy的定位更泛化是一个通用的AI Agent框架其能力通过技能可以覆盖办公、研究、创作、运维等多个领域。你可以把WorkBuddy看作一个平台而CodeBuddy是运行在这个平台上、专注于编程的一个特定Agent配置。3. 环境搭建与核心配置实战理论清晰后我们进入实战环节。以下是我在Ubuntu 22.04 LTS系统上搭建环境的完整过程Windows/macOS用户也可参考主要步骤一致。3.1 基础环境与WorkBuddy部署首先我们需要一个干净的Python环境。强烈建议使用Conda或venv进行隔离。# 创建并激活虚拟环境 conda create -n hy3-workbuddy python3.10 conda activate hy3-workbuddy # 安装PyTorch请根据你的CUDA版本到官网选择对应命令 # 例如对于CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 克隆WorkBuddy仓库并安装 git clone https://github.com/workbuddy/workbuddy-core.git cd workbuddy-core pip install -e . # 以可编辑模式安装方便后续自定义安装完成后WorkBuddy提供了一个命令行工具用于初始化项目。# 初始化一个新的Agent项目 workbuddy init my_hy3_agent cd my_hy3_agent这会在my_hy3_agent目录下生成一个标准的项目结构包含config.yaml主配置文件、skills/自定义技能目录、storage/数据存储等。3.2 Hy3模型本地部署与集成WorkBuddy支持通过OpenAI API兼容的接口调用大模型。因此我们需要在本地部署一个提供此类接口的Hy3模型服务。这里我推荐使用vLLM或Ollama它们部署简单、性能优异。方案一使用Ollama推荐给新手和快速原型Ollama极大地简化了本地大模型的运行。# 首先安装Ollama详见其官网 # 拉取一个Hy3模型这里以某个流行的8B参数量化版本为例模型名需根据社区最新推荐调整 ollama pull hy3:8b-q4_K_M # 运行模型服务并开启OpenAI兼容接口 ollama run hy3:8b-q4_K_M --api-base http://localhost:11434 # 默认情况下Ollama的OpenAI兼容接口就在 http://localhost:11434/v1方案二使用vLLM追求极致性能vLLM以其高效的内存管理和推理速度著称。pip install vllm # 下载Hy3的HuggingFace模型权重例如 NousResearch/Hermes-3-Llama-3.1-8B这是一个与Hy3同类的优秀模型 # 启动vLLM服务器指定OpenAI API端口 python -m vllm.entrypoints.openai.api_server \ --model NousResearch/Hermes-3-Llama-3.1-8B \ --api-key token-abc123 \ --port 8000 \ --served-model-name hy3-8b实操心得在消费级显卡如24G显存的RTX 4090上运行8B参数的4位量化模型Q4是性价比最高的选择既能保证响应速度和质量又不会爆显存。对于更复杂的任务可以考虑13B模型但需要更强大的显卡支持。部署好模型服务后我们需要修改WorkBuddy的config.yaml文件将其指向我们的本地模型。# config.yaml 关键部分修改 llm: provider: openai # 使用OpenAI兼容接口 config: api_base: http://localhost:11434/v1 # 如果使用Ollama # api_base: http://localhost:8000/v1 # 如果使用vLLM api_key: dummy-key # 本地部署通常不需要真密钥但有些服务要求非空填一个任意字符串即可 model: hy3:8b-q4_K_M # Ollama的模型名 # model: hy3-8b # vLLM指定的served-model-name # 调整与模型能力相关的参数 generation_config: temperature: 0.7 # 创造性对于分析任务可以调低如0.2对于创意任务调高 max_tokens: 4096 # 最大生成长度根据模型上下文长度调整Llama 3.1通常是128K但量化后可能受限3.3 核心技能Skills配置与测试WorkBuddy的强大之处在于技能。我们不需要自己写所有功能可以直接安装社区技能。# 进入你的Agent项目目录 cd my_hy3_agent # 安装一些必备技能 workbuddy skill install workbuddy-skills-file_reader # 文件读取 workbuddy skill install workbuddy-skills-web_search # 网络搜索需要配置API KEY workbuddy skill install workbuddy-skills-code_interpreter # 代码解释器沙箱执行Python安装后在config.yaml的skills部分会看到它们。对于web_search这类需要外部API的技能你需要在其单独的配置文件中填入Serper、Google Search等服务的API密钥。现在启动你的Agent进行测试workbuddy start在启动的Web界面或命令行对话中你可以尝试简单指令“请读取当前目录下的README.md文件并总结其内容。” WorkBuddy会自动规划并调用file_reader技能然后将文件内容送给Hy3模型进行总结。4. 灵魂所在完整提示词工程与Agent人格塑造一个强大的Agent不仅要有好的模型和框架更要有精心设计的“提示词”Prompt这决定了Agent如何思考、如何响应、其能力边界在哪里。下面分享我经过数十次迭代打磨的核心提示词系统。4.1 系统提示词System Prompt设计系统提示词是注入给模型的“底层指令”定义了Agent的基本身份、行为准则和核心工作流程。我的系统提示词包含以下几个模块身份与职责定义你是一个名为“灵析”的高级AI助手由Hy3模型驱动运行在WorkBuddy框架上。你的核心职责是高效、准确、安全地协助用户处理各种任务包括但不限于信息处理、数据分析、内容创作、编程辅助和自动化流程。核心工作流程强调这是与WorkBuddy框架协同的关键你拥有调用各种工具技能的能力。当面对一个任务时请遵循以下步骤 1. **理解与澄清**首先确保你完全理解用户的请求。如有模糊或缺失信息应主动询问澄清。 2. **规划与分解**将复杂任务分解为一系列可执行的子步骤。思考每个步骤需要调用什么工具技能。 3. **执行与观察**按照规划依次调用工具执行。仔细阅读工具的返回结果。 4. **整合与交付**将所有子步骤的结果整合形成完整、清晰、用户友好的最终答复。 如果执行过程中遇到错误或意外结果应分析原因调整规划后重试或向用户说明情况。行为规范与限制- 安全第一绝不执行可能危害系统安全、侵犯隐私或违法的操作。 - 诚实透明如果你不知道或无法完成某事直接说明不要编造信息。明确告知用户哪些部分是由你生成的哪些是工具提供的。 - 聚焦高效回答应直接切入重点避免不必要的冗长。但对于复杂结论需提供推导过程或数据来源。 - 中文优先除非用户明确要求或用英文提问否则一律使用中文进行交流。4.2 任务特定提示词与少样本示例Few-shot对于常见任务类型我们可以提供少样本示例来引导模型生成更符合预期的格式和内容。例如在config.yaml中可以为“数据分析”任务配置一个提示词模板task_templates: data_analysis: system_prompt_addon: 当用户提出数据分析请求时请按以下结构组织回复 1. **数据概览**简要描述数据的基本情况行数、列数、数据类型。 2. **关键指标**计算并展示用户可能关心的核心指标如总和、均值、趋势。 3. **可视化建议**描述一两个最有助于理解数据的图表类型并说明理由。 4. **初步洞察**基于分析提供1-2条最关键的发现或建议。 few_shot_examples: - user: “帮我分析一下sales.csv文件里今年的销售趋势。” assistant: | **数据概览**已成功读取sales.csv共包含1200行数据5列日期、产品类别、地区、销售额、利润。 **关键指标** - 2024年总销售额¥5, 280, 000同比增长18%。 - 季度趋势Q1 Q2 Q3Q4预计为峰值。 - 利润最高的产品类别是“高端电子”利润率达35%。 **可视化建议**建议绘制“月度销售额折线图”观察趋势以及“产品类别利润占比饼图”分析结构。 **初步洞察**销售增长势头良好建议在Q4加大“高端电子”品类的营销投入并关注华东地区的增长乏力问题。4.3 提示词优化技巧与避坑指南1. 指令清晰避免歧义不要用“处理一下这个数据”这种模糊指令。应改为“请使用code_interpreter技能加载data.csv计算每个部门的平均销售额并按降序排列”。2. 利用框架的“强制工具调用”功能对于关键操作可以在用户提问中“暗示”或要求框架强制调用某个技能。WorkBuddy支持在对话中通过特定格式触发技能。3. 动态上下文管理WorkBuddy会自动管理对话历史。但要注意超长的上下文会挤占模型处理当前问题的“注意力”。对于非常长的对话可以提示模型“请基于我们最近的对话重点关注上一次关于XX问题的讨论结果。”4. 处理模型“幻觉”Hy3等模型有时会自信地给出错误答案。应对策略是在系统提示词中强调“基于工具返回的事实”对于关键信息配置技能去查询权威来源如数据库、搜索引擎在最终答复前让模型自我检查一遍逻辑。5. 性能与成本平衡复杂的规划-执行循环会消耗更多Token。对于简单明确的任务可以在用户提问时直接指明技能缩短模型的“思考”过程例如“请用web_search技能查一下今天北京的天气。”5. 高级应用与自定义技能开发当基础Agent运行稳定后你可以通过开发自定义技能Custom Skill来赋予它独一无二的能力这是打造“顶级Agent”的关键一步。5.1 自定义技能实战企业微信通知假设我们需要Agent在完成重要任务后能通过企业微信发送通知。步骤1创建技能文件结构在my_hy3_agent/skills/目录下创建wecom_notifier/文件夹并创建__init__.py和skill.py。# skills/wecom_notifier/skill.py import requests import json from workbuddy.skills.base import Skill, SkillConfig from pydantic import Field class WeComNotifierConfig(SkillConfig): 企业微信机器人配置 webhook_url: str Field(description企业微信机器人的Webhook地址) mentioned_list: list[str] Field(default[], description需要的成员ID列表) class WeComNotifierSkill(Skill): 企业微信通知技能 name wecom_notifier description 通过企业微信机器人发送Markdown格式的通知消息 config_cls WeComNotifierConfig async def execute(self, title: str, content: str, mention_all: bool False): 执行发送通知 Args: title: 消息标题 content: 消息内容(Markdown格式) mention_all: 是否所有人 config: WeComNotifierConfig self.config headers {Content-Type: application/json} data { msgtype: markdown, markdown: { content: f**{title}**\n{content} } } if mention_all: data[markdown][mentioned_list] [all] elif config.mentioned_list: data[markdown][mentioned_list] config.mentioned_list response requests.post(config.webhook_url, headersheaders, datajson.dumps(data)) response.raise_for_status() return {status: success, message: 企业微信通知已发送}步骤2注册并配置技能在项目根目录的config.yaml中引入技能skills: - name: wecom_notifier config: webhook_url: https://qyapi.weixin.qq.com/cgi-bin/webhook/send?keyYOUR_KEY步骤3在任务中使用现在你可以在给Agent的任务中融入这个技能“分析完日志后如果发现错误级别大于‘ERROR’的记录请调用wecom_notifier技能通知我。”5.2 技能链与复杂工作流真正的威力在于技能链。你可以设计一个工作流让多个技能自动协作。场景每日竞品资讯自动抓取与摘要触发通过系统定时任务Cron触发Agent。规划Agent规划任务获取资讯 - 提取关键信息 - 生成摘要 - 保存并通知。执行调用web_search技能搜索预设的竞品关键词。调用browser_use技能需安装访问具体链接获取全文。调用text_summarizer技能或由Hy3模型直接处理生成中文摘要。调用file_writer技能将摘要保存到指定目录。调用wecom_notifier技能将摘要标题发送到群组。这一切都可以通过一个精心设计的系统提示词和WorkBuddy的规划能力自动完成。6. 常见问题排查与性能优化实录在实践过程中我遇到了不少坑这里总结出最具代表性的几个问题及其解决方案。6.1 模型服务连接失败问题现象WorkBuddy启动时报错提示无法连接LLM服务或认证失败。排查步骤检查服务状态首先确认你的Ollama或vLLM服务是否正在运行。curl http://localhost:11434/v1/modelsOllama或curl http://localhost:8000/v1/modelsvLLM应该返回模型列表。核对配置检查config.yaml中的api_base和model名称是否完全正确。Ollama的模型名就是ollama list显示的名字vLLM的served-model-name需与配置对应。API Key问题本地部署通常不需要真实的OpenAI API Key。但如果服务端要求在vLLM启动时指定的--api-key需要与配置中的api_key一致。可以尝试在配置中设为dummy-key或no-key。网络与防火墙确保WorkBuddy进程可以访问到模型服务所在的地址和端口。6.2 Agent“发呆”或规划不合理问题现象Agent收到任务后长时间不响应或规划出的步骤逻辑混乱无法调用正确技能。原因与解决系统提示词过于复杂过长的系统提示词会占用大量上下文窗口导致模型用于“思考”的Token不足。精简系统提示词只保留最核心的身份、规则和工作流程。技能描述不清WorkBuddy会将已安装技能的描述和参数列表传给模型。确保你的技能description字段清晰、准确地描述了功能输入输出参数定义明确。模型是根据这些描述来选择技能的。模型能力不足如果任务极其复杂8B模型可能“想不明白”。可以尝试a) 将任务拆分成更小的、更具体的指令分步发给Agentb) 升级到更大参数的模型如70Bc) 在提示词中提供更详细的“思维链”示例。Temperature参数过高temperature控制随机性太高会导致输出不稳定。对于需要严谨规划和执行的Agent任务建议设置在0.1~0.3之间。6.3 技能执行错误或权限问题问题现象模型成功规划并调用了技能但技能执行失败。排查步骤查看日志WorkBuddy的运行日志会详细记录技能调用的输入输出。这是第一手的调试信息。检查技能配置例如web_search技能需要正确的Serper API Keycode_interpreter技能可能需要额外的Python包。确保所有依赖的外部服务配置正确。沙箱安全限制code_interpreter技能通常在沙箱中运行可能无法访问网络或特定系统路径。需要在技能配置或提示词中明确这些限制或对技能进行安全配置调整。自定义技能BUG回顾自定义技能的代码检查逻辑错误、异常处理是否完善。可以在技能代码中加入详细的日志打印。6.4 响应速度慢问题现象Agent完成一个简单任务也需要数十秒。优化方向模型量化与硬件使用4位或8位量化模型能显著提升推理速度。确保你的显卡驱动和CUDA版本正确并且推理库如vLLM, Ollama使用了GPU加速。上下文长度虽然Hy3支持长上下文但处理长文本会变慢。如果对话历史很长可以考虑启用WorkBuddy的“摘要记忆”功能将历史对话压缩成摘要而非保留全部原始文本。技能优化一些技能如网络搜索本身是I/O密集型操作耗时较长。可以考虑为这类技能设置超时或在规划时优先使用本地技能。批处理任务对于例行任务可以设计成让Agent一次性接收多个指令进行批量规划和处理减少模型加载和初始化的开销。构建这个Hy3WorkBuddy的Agent就像组装一台高性能电脑并为其安装强大的操作系统和软件生态。整个过程充满了探索和调试的乐趣也让我对开源模型和Agent框架的现状有了更深刻的认识。这套组合拳的优势在于其极高的自主性和定制空间你可以完全按照自己的需求去塑造这个AI伙伴。从处理日常文档到监控服务器日志从辅助编程到自动化报告它的潜力只受限于你的想象力和对技能的开发。我个人的体会是提示词工程远不止是写几句指令而是为AI设计一套稳定的思维模式和交互协议而WorkBuddy这样的框架则将这种设计变成了可编程、可扩展的现实。如果你也正准备踏上AI Agent的开发之旅不妨就从本地部署一个Hy3模型运行起第一个WorkBuddy实例开始亲手体验一下创造智能的成就感。 
长河君 · 2026/8/8 4:02:38 · 阅读 1.2k 基于Hy3模型与WorkBuddy框架构建本地化AI智能体实战指南
1. 项目概述当Hy3遇上WorkBuddy一个国产顶级AI Agent的诞生最近在AI圈子里Hy3和WorkBuddy这两个名字的热度持续攀升。如果你关注AI Agent智能体的开发尤其是想打造一个能深度理解中文、执行复杂任务的本地化智能助手那么将Hy3模型与WorkBuddy框架结合无疑是当前一个极具潜力的技术路线。我花了近一个月时间从环境搭建、模型微调、框架集成到提示词工程完整地走通了这条路径最终构建出了一个在文档处理、代码生成、数据分析等任务上表现相当出色的“国产顶级Agent”。这并非简单的工具堆砌而是一次对开源模型潜力与专业框架能力的深度挖掘。本文将毫无保留地分享我的完整实践过程包括核心思路、避坑指南以及经过反复打磨、可直接复用的完整提示词设计。无论你是想快速上手一个强大的个人AI助手还是希望深入理解Agent开发的核心技术栈这篇文章都能为你提供一条清晰的路径。简单来说这个项目的核心价值在于利用性能卓越且对中文友好的开源大模型Hy3通过WorkBuddy这个专为AI Agent设计的框架进行“赋能”从而构建一个能力全面、可定制、且完全在本地或私有环境运行的智能体。它解决了几个关键痛点第一摆脱对闭源API的依赖和费用顾虑第二获得对模型和数据的完全控制权保障隐私与安全第三通过框架提供的技能Skills系统极大地扩展了Agent的能力边界使其从一个“聊天机器人”进化成真正的“数字员工”。2. 核心组件深度解析为什么是Hy3与WorkBuddy在开始动手之前我们必须搞清楚手中的“武器”。选择Hy3和WorkBuddy并非偶然而是基于性能、生态、成本和控制权的综合考量。2.1 Hy3模型开源中文模型的“实力派”Hy3并非一个单一的模型而是一个模型系列通常指基于Llama 3架构进行深度优化和微调的中文增强版本。它在开源社区中备受关注原因在于其几个突出特点强大的中文理解与生成能力相比原版Llama 3Hy3针对中文语料进行了大规模的继续预训练和指令微调。这意味着它在处理中文语境、理解成语俗语、生成符合中文表达习惯的文本方面有着天然的优势。在我实测中对于需要深度中文语义理解的任务如总结一份中文报告、撰写一封商务邮件Hy3的表现比同参数规模的通用国际模型更加“地道”和准确。优异的代码能力许多Hy3变体在代码数据集上进行了强化训练。这使得它不仅在自然语言任务上出色在代码生成、代码解释、Debug甚至简单的系统设计方面也能提供高质量的辅助。这对于将Agent应用于开发运维场景至关重要。灵活的部署选项Hy3模型权重完全开源你可以选择在本地消费级显卡如RTX 4090上使用量化版本运行也可以在云服务器上部署全参数版本。这种灵活性为不同预算和需求的开发者提供了可能。目前社区提供了GGUF、AWQ等多种量化格式极大降低了硬件门槛。注意网络上“hy3模型免费到什么时候”的搜索反映了大家对开源模型可持续性的关注。目前Hy3作为开源项目其模型权重是永久免费可获取的。但需要留意的是模型的训练、微调和维护需要社区持续投入。选择活跃度高的开源分支如由国内知名团队或社区维护的版本是保障长期可用性的关键。2.2 WorkBuddy框架AI Agent的“操作系统”如果说Hy3是Agent的“大脑”那么WorkBuddy就是为这个大脑配备的“肢体”和“工具库”。WorkBuddy是一个开源的AI Agent框架它的设计哲学是让开发者能像搭积木一样快速构建具备复杂能力的智能体。核心概念——技能Skill这是WorkBuddy的灵魂。一个Skill就是一个封装好的能力单元例如“读取PDF文件”、“调用搜索引擎”、“执行Python代码”、“发送电子邮件”等。WorkBuddy自带了一个丰富的技能市场Skill Store同时也允许开发者用Python轻松自定义技能。我们的Agent通过调用不同的技能来完成任务这远比让大模型“空想”要可靠和高效得多。规划与执行循环WorkBuddy框架会引导大模型这里是Hy3进行任务分解。例如用户请求“帮我分析一下上周的销售数据并总结成PPT”。WorkBuddy会要求Hy3先制定计划1. 定位销售数据文件调用FileReadSkill2. 进行数据分析调用CodeInterpreterSkill执行Python pandas脚本3. 生成总结文本Hy3自身能力4. 格式化PPT调用OfficeGenSkill或ReportGenSkill。这个“规划-执行-观察-再规划”的循环是构建可靠Agent的核心机制。状态管理与记忆WorkBuddy提供了对话历史管理、短期/长期记忆存储等机制使得Agent能在多轮对话中保持上下文连贯甚至记住用户偏好实现个性化服务。与“CodeBuddy”的区别搜索热词中出现了workbuddy和codebuddy区别。简单来说CodeBuddy可能更侧重于纯粹的代码辅助场景类似一个高级版的Copilot而WorkBuddy的定位更泛化是一个通用的AI Agent框架其能力通过技能可以覆盖办公、研究、创作、运维等多个领域。你可以把WorkBuddy看作一个平台而CodeBuddy是运行在这个平台上、专注于编程的一个特定Agent配置。3. 环境搭建与核心配置实战理论清晰后我们进入实战环节。以下是我在Ubuntu 22.04 LTS系统上搭建环境的完整过程Windows/macOS用户也可参考主要步骤一致。3.1 基础环境与WorkBuddy部署首先我们需要一个干净的Python环境。强烈建议使用Conda或venv进行隔离。# 创建并激活虚拟环境 conda create -n hy3-workbuddy python3.10 conda activate hy3-workbuddy # 安装PyTorch请根据你的CUDA版本到官网选择对应命令 # 例如对于CUDA 11.8 pip install torch torchvision torchaudio --index-url https://download.pytorch.org/whl/cu118 # 克隆WorkBuddy仓库并安装 git clone https://github.com/workbuddy/workbuddy-core.git cd workbuddy-core pip install -e . # 以可编辑模式安装方便后续自定义安装完成后WorkBuddy提供了一个命令行工具用于初始化项目。# 初始化一个新的Agent项目 workbuddy init my_hy3_agent cd my_hy3_agent这会在my_hy3_agent目录下生成一个标准的项目结构包含config.yaml主配置文件、skills/自定义技能目录、storage/数据存储等。3.2 Hy3模型本地部署与集成WorkBuddy支持通过OpenAI API兼容的接口调用大模型。因此我们需要在本地部署一个提供此类接口的Hy3模型服务。这里我推荐使用vLLM或Ollama它们部署简单、性能优异。方案一使用Ollama推荐给新手和快速原型Ollama极大地简化了本地大模型的运行。# 首先安装Ollama详见其官网 # 拉取一个Hy3模型这里以某个流行的8B参数量化版本为例模型名需根据社区最新推荐调整 ollama pull hy3:8b-q4_K_M # 运行模型服务并开启OpenAI兼容接口 ollama run hy3:8b-q4_K_M --api-base http://localhost:11434 # 默认情况下Ollama的OpenAI兼容接口就在 http://localhost:11434/v1方案二使用vLLM追求极致性能vLLM以其高效的内存管理和推理速度著称。pip install vllm # 下载Hy3的HuggingFace模型权重例如 NousResearch/Hermes-3-Llama-3.1-8B这是一个与Hy3同类的优秀模型 # 启动vLLM服务器指定OpenAI API端口 python -m vllm.entrypoints.openai.api_server \ --model NousResearch/Hermes-3-Llama-3.1-8B \ --api-key token-abc123 \ --port 8000 \ --served-model-name hy3-8b实操心得在消费级显卡如24G显存的RTX 4090上运行8B参数的4位量化模型Q4是性价比最高的选择既能保证响应速度和质量又不会爆显存。对于更复杂的任务可以考虑13B模型但需要更强大的显卡支持。部署好模型服务后我们需要修改WorkBuddy的config.yaml文件将其指向我们的本地模型。# config.yaml 关键部分修改 llm: provider: openai # 使用OpenAI兼容接口 config: api_base: http://localhost:11434/v1 # 如果使用Ollama # api_base: http://localhost:8000/v1 # 如果使用vLLM api_key: dummy-key # 本地部署通常不需要真密钥但有些服务要求非空填一个任意字符串即可 model: hy3:8b-q4_K_M # Ollama的模型名 # model: hy3-8b # vLLM指定的served-model-name # 调整与模型能力相关的参数 generation_config: temperature: 0.7 # 创造性对于分析任务可以调低如0.2对于创意任务调高 max_tokens: 4096 # 最大生成长度根据模型上下文长度调整Llama 3.1通常是128K但量化后可能受限3.3 核心技能Skills配置与测试WorkBuddy的强大之处在于技能。我们不需要自己写所有功能可以直接安装社区技能。# 进入你的Agent项目目录 cd my_hy3_agent # 安装一些必备技能 workbuddy skill install workbuddy-skills-file_reader # 文件读取 workbuddy skill install workbuddy-skills-web_search # 网络搜索需要配置API KEY workbuddy skill install workbuddy-skills-code_interpreter # 代码解释器沙箱执行Python安装后在config.yaml的skills部分会看到它们。对于web_search这类需要外部API的技能你需要在其单独的配置文件中填入Serper、Google Search等服务的API密钥。现在启动你的Agent进行测试workbuddy start在启动的Web界面或命令行对话中你可以尝试简单指令“请读取当前目录下的README.md文件并总结其内容。” WorkBuddy会自动规划并调用file_reader技能然后将文件内容送给Hy3模型进行总结。4. 灵魂所在完整提示词工程与Agent人格塑造一个强大的Agent不仅要有好的模型和框架更要有精心设计的“提示词”Prompt这决定了Agent如何思考、如何响应、其能力边界在哪里。下面分享我经过数十次迭代打磨的核心提示词系统。4.1 系统提示词System Prompt设计系统提示词是注入给模型的“底层指令”定义了Agent的基本身份、行为准则和核心工作流程。我的系统提示词包含以下几个模块身份与职责定义你是一个名为“灵析”的高级AI助手由Hy3模型驱动运行在WorkBuddy框架上。你的核心职责是高效、准确、安全地协助用户处理各种任务包括但不限于信息处理、数据分析、内容创作、编程辅助和自动化流程。核心工作流程强调这是与WorkBuddy框架协同的关键你拥有调用各种工具技能的能力。当面对一个任务时请遵循以下步骤 1. **理解与澄清**首先确保你完全理解用户的请求。如有模糊或缺失信息应主动询问澄清。 2. **规划与分解**将复杂任务分解为一系列可执行的子步骤。思考每个步骤需要调用什么工具技能。 3. **执行与观察**按照规划依次调用工具执行。仔细阅读工具的返回结果。 4. **整合与交付**将所有子步骤的结果整合形成完整、清晰、用户友好的最终答复。 如果执行过程中遇到错误或意外结果应分析原因调整规划后重试或向用户说明情况。行为规范与限制- 安全第一绝不执行可能危害系统安全、侵犯隐私或违法的操作。 - 诚实透明如果你不知道或无法完成某事直接说明不要编造信息。明确告知用户哪些部分是由你生成的哪些是工具提供的。 - 聚焦高效回答应直接切入重点避免不必要的冗长。但对于复杂结论需提供推导过程或数据来源。 - 中文优先除非用户明确要求或用英文提问否则一律使用中文进行交流。4.2 任务特定提示词与少样本示例Few-shot对于常见任务类型我们可以提供少样本示例来引导模型生成更符合预期的格式和内容。例如在config.yaml中可以为“数据分析”任务配置一个提示词模板task_templates: data_analysis: system_prompt_addon: 当用户提出数据分析请求时请按以下结构组织回复 1. **数据概览**简要描述数据的基本情况行数、列数、数据类型。 2. **关键指标**计算并展示用户可能关心的核心指标如总和、均值、趋势。 3. **可视化建议**描述一两个最有助于理解数据的图表类型并说明理由。 4. **初步洞察**基于分析提供1-2条最关键的发现或建议。 few_shot_examples: - user: “帮我分析一下sales.csv文件里今年的销售趋势。” assistant: | **数据概览**已成功读取sales.csv共包含1200行数据5列日期、产品类别、地区、销售额、利润。 **关键指标** - 2024年总销售额¥5, 280, 000同比增长18%。 - 季度趋势Q1 Q2 Q3Q4预计为峰值。 - 利润最高的产品类别是“高端电子”利润率达35%。 **可视化建议**建议绘制“月度销售额折线图”观察趋势以及“产品类别利润占比饼图”分析结构。 **初步洞察**销售增长势头良好建议在Q4加大“高端电子”品类的营销投入并关注华东地区的增长乏力问题。4.3 提示词优化技巧与避坑指南1. 指令清晰避免歧义不要用“处理一下这个数据”这种模糊指令。应改为“请使用code_interpreter技能加载data.csv计算每个部门的平均销售额并按降序排列”。2. 利用框架的“强制工具调用”功能对于关键操作可以在用户提问中“暗示”或要求框架强制调用某个技能。WorkBuddy支持在对话中通过特定格式触发技能。3. 动态上下文管理WorkBuddy会自动管理对话历史。但要注意超长的上下文会挤占模型处理当前问题的“注意力”。对于非常长的对话可以提示模型“请基于我们最近的对话重点关注上一次关于XX问题的讨论结果。”4. 处理模型“幻觉”Hy3等模型有时会自信地给出错误答案。应对策略是在系统提示词中强调“基于工具返回的事实”对于关键信息配置技能去查询权威来源如数据库、搜索引擎在最终答复前让模型自我检查一遍逻辑。5. 性能与成本平衡复杂的规划-执行循环会消耗更多Token。对于简单明确的任务可以在用户提问时直接指明技能缩短模型的“思考”过程例如“请用web_search技能查一下今天北京的天气。”5. 高级应用与自定义技能开发当基础Agent运行稳定后你可以通过开发自定义技能Custom Skill来赋予它独一无二的能力这是打造“顶级Agent”的关键一步。5.1 自定义技能实战企业微信通知假设我们需要Agent在完成重要任务后能通过企业微信发送通知。步骤1创建技能文件结构在my_hy3_agent/skills/目录下创建wecom_notifier/文件夹并创建__init__.py和skill.py。# skills/wecom_notifier/skill.py import requests import json from workbuddy.skills.base import Skill, SkillConfig from pydantic import Field class WeComNotifierConfig(SkillConfig): 企业微信机器人配置 webhook_url: str Field(description企业微信机器人的Webhook地址) mentioned_list: list[str] Field(default[], description需要的成员ID列表) class WeComNotifierSkill(Skill): 企业微信通知技能 name wecom_notifier description 通过企业微信机器人发送Markdown格式的通知消息 config_cls WeComNotifierConfig async def execute(self, title: str, content: str, mention_all: bool False): 执行发送通知 Args: title: 消息标题 content: 消息内容(Markdown格式) mention_all: 是否所有人 config: WeComNotifierConfig self.config headers {Content-Type: application/json} data { msgtype: markdown, markdown: { content: f**{title}**\n{content} } } if mention_all: data[markdown][mentioned_list] [all] elif config.mentioned_list: data[markdown][mentioned_list] config.mentioned_list response requests.post(config.webhook_url, headersheaders, datajson.dumps(data)) response.raise_for_status() return {status: success, message: 企业微信通知已发送}步骤2注册并配置技能在项目根目录的config.yaml中引入技能skills: - name: wecom_notifier config: webhook_url: https://qyapi.weixin.qq.com/cgi-bin/webhook/send?keyYOUR_KEY步骤3在任务中使用现在你可以在给Agent的任务中融入这个技能“分析完日志后如果发现错误级别大于‘ERROR’的记录请调用wecom_notifier技能通知我。”5.2 技能链与复杂工作流真正的威力在于技能链。你可以设计一个工作流让多个技能自动协作。场景每日竞品资讯自动抓取与摘要触发通过系统定时任务Cron触发Agent。规划Agent规划任务获取资讯 - 提取关键信息 - 生成摘要 - 保存并通知。执行调用web_search技能搜索预设的竞品关键词。调用browser_use技能需安装访问具体链接获取全文。调用text_summarizer技能或由Hy3模型直接处理生成中文摘要。调用file_writer技能将摘要保存到指定目录。调用wecom_notifier技能将摘要标题发送到群组。这一切都可以通过一个精心设计的系统提示词和WorkBuddy的规划能力自动完成。6. 常见问题排查与性能优化实录在实践过程中我遇到了不少坑这里总结出最具代表性的几个问题及其解决方案。6.1 模型服务连接失败问题现象WorkBuddy启动时报错提示无法连接LLM服务或认证失败。排查步骤检查服务状态首先确认你的Ollama或vLLM服务是否正在运行。curl http://localhost:11434/v1/modelsOllama或curl http://localhost:8000/v1/modelsvLLM应该返回模型列表。核对配置检查config.yaml中的api_base和model名称是否完全正确。Ollama的模型名就是ollama list显示的名字vLLM的served-model-name需与配置对应。API Key问题本地部署通常不需要真实的OpenAI API Key。但如果服务端要求在vLLM启动时指定的--api-key需要与配置中的api_key一致。可以尝试在配置中设为dummy-key或no-key。网络与防火墙确保WorkBuddy进程可以访问到模型服务所在的地址和端口。6.2 Agent“发呆”或规划不合理问题现象Agent收到任务后长时间不响应或规划出的步骤逻辑混乱无法调用正确技能。原因与解决系统提示词过于复杂过长的系统提示词会占用大量上下文窗口导致模型用于“思考”的Token不足。精简系统提示词只保留最核心的身份、规则和工作流程。技能描述不清WorkBuddy会将已安装技能的描述和参数列表传给模型。确保你的技能description字段清晰、准确地描述了功能输入输出参数定义明确。模型是根据这些描述来选择技能的。模型能力不足如果任务极其复杂8B模型可能“想不明白”。可以尝试a) 将任务拆分成更小的、更具体的指令分步发给Agentb) 升级到更大参数的模型如70Bc) 在提示词中提供更详细的“思维链”示例。Temperature参数过高temperature控制随机性太高会导致输出不稳定。对于需要严谨规划和执行的Agent任务建议设置在0.1~0.3之间。6.3 技能执行错误或权限问题问题现象模型成功规划并调用了技能但技能执行失败。排查步骤查看日志WorkBuddy的运行日志会详细记录技能调用的输入输出。这是第一手的调试信息。检查技能配置例如web_search技能需要正确的Serper API Keycode_interpreter技能可能需要额外的Python包。确保所有依赖的外部服务配置正确。沙箱安全限制code_interpreter技能通常在沙箱中运行可能无法访问网络或特定系统路径。需要在技能配置或提示词中明确这些限制或对技能进行安全配置调整。自定义技能BUG回顾自定义技能的代码检查逻辑错误、异常处理是否完善。可以在技能代码中加入详细的日志打印。6.4 响应速度慢问题现象Agent完成一个简单任务也需要数十秒。优化方向模型量化与硬件使用4位或8位量化模型能显著提升推理速度。确保你的显卡驱动和CUDA版本正确并且推理库如vLLM, Ollama使用了GPU加速。上下文长度虽然Hy3支持长上下文但处理长文本会变慢。如果对话历史很长可以考虑启用WorkBuddy的“摘要记忆”功能将历史对话压缩成摘要而非保留全部原始文本。技能优化一些技能如网络搜索本身是I/O密集型操作耗时较长。可以考虑为这类技能设置超时或在规划时优先使用本地技能。批处理任务对于例行任务可以设计成让Agent一次性接收多个指令进行批量规划和处理减少模型加载和初始化的开销。构建这个Hy3WorkBuddy的Agent就像组装一台高性能电脑并为其安装强大的操作系统和软件生态。整个过程充满了探索和调试的乐趣也让我对开源模型和Agent框架的现状有了更深刻的认识。这套组合拳的优势在于其极高的自主性和定制空间你可以完全按照自己的需求去塑造这个AI伙伴。从处理日常文档到监控服务器日志从辅助编程到自动化报告它的潜力只受限于你的想象力和对技能的开发。我个人的体会是提示词工程远不止是写几句指令而是为AI设计一套稳定的思维模式和交互协议而WorkBuddy这样的框架则将这种设计变成了可编程、可扩展的现实。如果你也正准备踏上AI Agent的开发之旅不妨就从本地部署一个Hy3模型运行起第一个WorkBuddy实例开始亲手体验一下创造智能的成就感。