解密Prompt系列28. LLM Agent之金融领域摸索:FinMem  FinAgent 前言本章介绍金融领域大模型智能体并梳理金融LLM的相关资源。金融领域的大模型智能体当前集中在个股交易决策这个相对简单的场景不需要考虑多资产组合的复杂场景。交易决策被简化成市场上各个信息包括技术面消息面基本面等等在不同市场情况下对资产价格变动正负面影响的综合判断。而使用大模型智能体最显著的优势在于对海量信息的高效处理存储以及对相关历史信息的联想。不要和Agent比知识广度和工作效率这一点已经是普遍共识。下面我们看下这两篇论文使用了金融市场的哪些信息分别是如何处理思考并形成交易决策的。FinMEMFINMEM: A PERFORMANCE-ENHANCED LLM TRADING AGENT WITH LAYERED MEMORY AND CHARACTER DESIGNhttps://github.com/pipiku915/FinMem-LLM-StockTradingFinMeM是使用文本模态信息通过差异化召回不同时效性重要性相关性的不同金融市场信息通过微调让模型学习个股交易决策型Agent1. ProfilingFinMem的Profile是交易Agent的全局指令类似system-prompt 包含两个部分金融市场专家知识包括个股的基本信息例如行业公司信息历史股价走势等等3种不同的风险偏好保守中性和激进通过不同prompt影响模型在不同信息下的交易决策以及论文提出可以动态转换风险偏好例如开始亏损的时候可以转换成保守策略哈哈虽然感觉这难道不是散户亏钱的常规逻辑赚钱了激进亏损了就保守~2. Memory虽然是叫记忆模块但其实包含了信息收集入库召回总结和反思的全部流程Layered Long Term Memory不同时效性的内容存储Working Memory多路内容召回排序总结和反思SummarizationObservationReflection2.1 Layered Long Term Memory上图中的Bottom部分就是Memroy真正的存储部分。这里论文只使用了金融市场里三种数据源短时效shallow Layer市场新闻中时效Intermediate Layer公司季报长时效性Deep Layer公司年报在真实场景中其实划分远远不只这些时效性从长到短还有例如研报宏观数据行业数据路演会议机构调研公告政策快讯各种市场面技术指标等等复杂程度要高的多。因此个人感觉直接按照数据源来定义时效性可能更合适毕竟不同数据源之间的时效性几乎都是不同的。在召回以上不同时效性的内容时的打分排序策略借鉴了斯坦福小镇里面对于智能体相关记忆的召回策略。核心就是只基于相关性来进行记忆召回在时效性敏感的领域中是不可以的。因此召回内容的排序会基于多个因子进行打分这里其实传统搜广推借助显式的反馈排序做的更加复杂。这里因为相对缺乏显式的直接反馈所以只用了相关性,新鲜度,重要性这三个打分维度进行加总。其中新鲜度的计算会依赖于上面的时效性分层不同分层的金融数据会有不同的新鲜度计算公式。核心就是时效性更长该信息对金融市场资产价格的影响持续时间更长信息的时间敏感度更小因此在计算新鲜度的时候它的指数衰减更慢。例如快讯可能当日就会时效而年报效应可能持续好几个月。论文分别用了2周季度和一年作为指数衰减的系数。相关性这里用了text-embedding-ada-002计算cosine距离。而重要性论文同样做了不同系数的时间衰减但系数\(v\_l\)按不同分布随机采样的操作属实是没看懂但是哈哈这些都是细节不重要咱重点看框架看框架~2.2 Working Memory**有了分层的信息存储下一步就是在每一天进行交易决策的时候进行一系列的信息召回、总结、分析的流程了。**这里我们使用论文中的例子在2023-01-24日交易TSLAinquery“Can you make an investment decision on TSLA on 1/24/2023”之后的流程如下summary信息摘要和情绪分类摘要会先基于inquery使用上面的打分排序逻辑去存储中召回相关信息并基于以下Prompt对每条信息进行总结。输出是新闻总结和新闻对资产的正面负面中性的概率概率加和为1这里可以直接取logprobs进行归一化。单个人感觉直接使用概率最高的标签同时丢弃熵值较高的新闻可能噪声更低一些。Observation市场观测和动量指标这里论文只使用了个股的动量因子作为市场观测也就是连续N天的累计涨跌幅。训练样本会给出未来一日动量目的是让模型学习什么样的消息面情绪会带来未来的价格变动而测试样本是历史3天的动量目标是让模型预测未来的价格变动。个人感觉这里训练和测试其实应该对齐也就是训练样本也提供历史3天的动量因子。这样在后面的反思中也会使用技术指标。Reflection反思反思分成两个部分及时思考基于上面的summray和observation给出交易建议(Buy,sell,hold)交易原因和以上summary中具体哪条信息(ID)影响了模型决策。延伸思考基于最近M天的及时思考决策后的收益和股价走势但我似乎没找到这部分的具体prompt…延伸反思的结果会存到Deep layer用于后面的交易决策3. Decision最终的交易决策会基于当前大模型的profileTop-K的信息召回历史累计收益和延伸思考最终给出交易决策BuySELLHOLD。而所谓的训练阶段其实是依赖真实的资产价格变动得到更准确的延伸思考对交易决策的反思在测试阶段可以使用训练阶段存储的历史思考结果。这部分感觉FinAgent的逻辑更清晰些看迷糊的朋友可以看后面FinAgent的流程。FinAgentA Multimodal Foundation Agent for Financial Trading: Tool-Augmented, Diversified, and Generalist只有论文无开源代码FinAgent是加入了图片模态信息的个股交易决策型Agent主要包括以下几个模块Market Intelligence市场信息收集和情绪识别汇总模块Reflection价格异动归因和历史交易决策归因模块Decision Making买卖交易决策模块Memeory用于存储以上模块的历史信息FinAgent一定程度上参考了FinMeM思路有些相似不过Prompt输入输出的结构更加清晰和贴近真实市场几个核心的差异点如下FinAgent无需微调直接使用GPT4和GPT4V数据差异加入了图片模态的信息包括K线图和历史交易图加入了更多的技术面指标相关交易策略在时效性处理上FinAgent使用大模型来对每个信息源的时效性进行判断在召回排序上FinAgent没有使用更复杂的打分排序而是使用query改写召回当前数据相关的历史数据更遵从金融市场上历史会重演的基本逻辑。1. Market IntelligenceMI模块是特定金融主体的信息收集分析总结和情绪识别模块类似FinMeM的summary但加入了和历史信息的联动。它分成了当日市场信息Latest MI和历史市场信息Past MI两个部分。前者反映了最新的资产异动后者利用金融市场中历史会不断重演的特性。例如上次苹果产品发布对APPL股价带来5%的提振那如果今日舆情显示苹果又有新产品发布那我们可能会预期有相似的正向影响。首先是当日市场信息主要做以下几件事情获取资产当日T的资产价格新闻舆情通过FMPAPI接口信息拼接后作为大模型的上文填充到下面latest_market_intelligenceAnalysis基于系统指令和任务描述对以上所有信息进行COT分析论文通过prompt给出了分析方式简化成每条信息对资产价格的正面/负面/中性影响以及短/中/长的影响时效性。Summary对以上Analysis的分析结果进行总结只保留核心投资观点并对上面相似的正负面和时效性进行聚合。Query生成基于以上的总结内容生成短/中/长不同时效性的检索query(关键词),用于搜索该资产的历史信息。这里论文使用了XML格式的prompt来承载各类信息整个Lastest MI的Prompt如下其中iframe会填充具体的系统指令任务描述如何分析资产正负面影响如何进行分析总结和query生成以及输出格式。iframe的具体内容实在是太长了大家直接看论文附录G其次是历史市场信息部分主要做以下几件事情基于上面的Query去搜索该资产历史(T)不同时间窗口的各类信息包括但不限于不同周期的资产价格变化新闻舆情研究报告等等和上面当日市场信息相同对信息进行分析和总结不过不需要生成query了。论文没有提供具体的数据只给了大致的分析结果如下2. Reflection收集完信息就进入了反思模块也分成了两个阶段low-level和high-level。前者基于上面的Market Intelligence提供的舆情正负面影响和股价变动对短/中/长期股价异动进行归因类似FinMeM的及时分析。后者基于Market Intelligence历史和当前的low-level的反思对交易决策进行归因类似FinMeM的延伸思考。论文只提供了简化后的效果如下下面我们具体说下Low-Level和High-Level的输入输出2.1 Low-Level Reflectionlow-level的反思prompt的构成如下1. 输入以上Market Intelligence的总结包括历史和当前舆情对资产正负面的影响多模态K线图以下是用来帮助模型理解K线图的Prompt指令短/中/长期的价格走势变动描述描述模板如下2. 输出reason分别对短/中/长期的资产价格变动进行归因原因可以是Momentum等技术面原因也可以是Market Intelligence中舆情带来的消息面原因summary对以上的分析进行总结作为后面High-Level的输入query和上面Market Intelligence相同生成召回Query用于召回Memory中的相关历史Low-Level Reflection。因为涉及到了K线图的多模态理解这里论文使用了GPT-4V来完成以上prompt指令。具体Prompt指令详见附录G。2.2 High-Level ReflectionHigh Level的反思prompt构建如下1. 输入Market Intelligence: 同Low LevelLow Level Relection包括最新的Low-Level反思和使用以上Low-Level query召回的历史Low-Level对于该资产价格变动的反思多模态TradingChart以下是用来帮助模型理解图片的prompt指令交易图包括价格趋势图和历史买入和卖出的时间点。2. 输出reasoing基于MILow-Level价格变动分析历史每一笔交易决策是否正确带来收益以及在各个时间点影响交易决策因素有哪些权重如何improvement:如果存在错误的交易决策应该如何改进并给出新的买卖时间点例如 (2023-01-03: HOLD to BUY)summary: 对以上分析进行总结query同样生成query用于召回历史high-level3. Decision-making最后的决策模块基于以上三个模块的输入和额外的技术指标分析师观点等补充信息进行交易决策。Prompt构建如下1. 输入Market IntelligenceLow Level ReflectionHigh Level Reflection 包括最新的交易反思和历史的交易反思Augmented Tools这里论文使用工具补充获取了以下信息Expert guidance论文似乎未说明专家信息来源只说是类似文章的数据源。猜测可能是买方买方观点例如XX股买入推荐一类strategy传统技术面交易策略类似啥MACD穿越KDJ金叉这里论文通过工具调用获取证券的MACHKDJ和均值回归等技术指标指标相关描述如下prompt: 告诉模型如何利用以上的各个输入信息来给出交易决策。2. 输出analysisstep-by-step的分析以上各个信息输入的综合影响reasoning针对以上分析给出买卖操作的原因action基于分析原因给出交易行为BUYSELLHOLD4. 效果最后说下效果评估这里论文使用个股交易的累计收益率作为评价指标对比基于技术指标的规则交易基于RL的方案以及上面的FinMem在年化收益率夏普比率上均有显著提升在最大回撤上基本持平。同时论文进行了消融实验对比只使用MMI市场信息只使用T(Tools买卖方观点技术面和加入反思加入交易决策的效果。数据就比较有意思了只使用M和T的效果竟然差不多核心提升来自反思模块。不过这里结论和市场有很大关系哈哈美国市场的实验结论没有直接迁移到A股的可能~金融领域大模型资源梳理金融大模型应用Reportify: 金融领域公司公告新闻电话会的问答和摘要总结Alpha派: kimi加持会议纪要 投研问答 各类金融资讯综合的一站式平台况客FOF智能投顾:基金大模型应用基金投顾支持nl2sql类的数据查询和基金信息对比查询等ScopeChat:虚拟币应用对话式组件交互和问答AInvest个股投资类检索增强问答ChatBI金融数据分析做的有点厉害HithinkGPT:同花顺发布金融大模型问财覆盖查询分析对比解读预测等多个问题领域FinChat.io超全的个股数据个股投资助手TigerGPT: 老虎证券GPT4做个股分析财报分析投资知识问答ChatFund韭圈儿发布的第一个基金大模型看起来是做了多任务指令微调和APP已有的数据功能进行了全方位的打通从选基到持仓分析等等无涯Infinity :星环科技发布的金融大模型曹植:达观发布金融大模型融合data2text等金融任务赋能报告写作妙想: 东方财富自研金融大模型开放试用,但似乎申请一直未通过恒生LightGPT:金融领域继续预训练插件化设计bondGPT: GPT4在细分债券市场的应用开放申请中IndexGPT:JPMorgan在研的生成式投资顾问Alpha: ChatGPT加持的金融app支持个股信息查询资产分析诊断财报汇总etcComposer量化策略和AI的结合聊天式拖拽式投资组合构建和回测Finalle.ai: 实时金融数据流接入大模型金融Agent论文WeaverBird: Empowering Financial Decision-Making with Large Language Model, Knowledge Base, and Search EngineFinGPT: Open-Source Financial Large Language ModelsFinMem: A Performance-Enhanced LLM Trading Agent with Layered Memory and Character DesignAlphaFin使用检索增强股票链框架对财务分析进行基准测试A Multimodal Foundation Agent for Financial Trading: Tool-Augmented, Diversified, and GeneralistCan Large Language Models Beat Wall Street? Unveiling the Potential of AI in stock Selection金融SFT论文BloombergGPT A Large Language Model for FinanceXuanYuan 2.0: A Large Chinese Financial Chat Model with Hundreds of Billions ParametersFinVis-GPT: A Multimodal Large Language Model for Financial Chart AnalysisCFBenchmark: Chinese Financial Assistant Benchmark for Large Language ModelCFGPT: Chinese Financial Assistant with Large Language ModelInvestLM: A Large Language Model for Investment using Financial Domain Instruction TuningBBT-Fin: Comprehensive Construction of Chinese Financial Domain Pre-trained Language Model, Corpus and BenchmarkPIXIU: A Large Language Model, Instruction Data and Evaluation Benchmark for Financehttps://sota.jiqizhixin.com/project/deepmoney最后感谢你们的阅读和喜欢我收藏了很多技术干货可以共享给喜欢我文章的朋友们如果你肯花时间沉下心去学习它们一定能帮到你。因为这个行业不同于其他行业知识体系实在是过于庞大知识更新也非常快。作为一个普通人无法全部学完所以我们在提升技术的时候首先需要明确一个目标然后制定好完整的计划同时找到好的学习方法这样才能更快的提升自己。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】一、全套AGI大模型学习路线AI大模型时代的学习之旅从基础到前沿掌握人工智能的核心技能二、640套AI大模型报告合集这套包含640份报告的合集涵盖了AI大模型的理论研究、技术实现、行业应用等多个方面。无论您是科研人员、工程师还是对AI大模型感兴趣的爱好者这套报告合集都将为您提供宝贵的信息和启示。三、AI大模型经典PDF籍随着人工智能技术的飞速发展AI大模型已经成为了当今科技领域的一大热点。这些大型预训练模型如GPT-3、BERT、XLNet等以其强大的语言理解和生成能力正在改变我们对人工智能的认识。 那以下这些PDF籍就是非常不错的学习资源。四、AI大模型商业化落地方案五、面试资料我们学习AI大模型必然是想找到高薪的工作下面这些面试题都是总结当前最新、最热、最高频的面试题并且每道题都有详细的答案面试前刷完这套面试题资料小小offer不在话下。这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】