AWS re:Invent 2025 - 雅虎财经如何利用生成式AI构建研究型多智能体系统

来源： YouTube | Rahul Ghosh, Vidya Sagar (AWS), Dipen (Yahoo Finance) | 2025-12-04 分类： 其他 原文发表： Dec 04, 2025 纪要生成： 2026-08-06

全集重点

多智能体系统的必然性：当单一智能体接入过多工具时会产生混淆和性能瓶颈，采用管理者-子智能体或智能体集群等专业化分工模式是解决复杂金融分析问题的关键。
深度研究型智能体的核心推理模式：高效的金融研究智能体需综合运用 ReACT（推理-行动循环）、ReWOO（计划先行并行执行） 和 Reflexion（自我反思迭代优化） 三种策略。
Amazon Bedrock AgentCore 的核心价值：它不是一个开发框架，而是一个与框架和模型无关的智能体工具链，旨在解决智能体从原型到生产环境面临的可观测性、记忆、安全和自动伸缩等基础设施层挑战。
雅虎财经的异步化架构实践：为解决长链路金融查询导致API网关超时的问题，雅虎财经采用基于AWS Lambda和SQS的异步轮询架构，将查询提交与回答获取解耦。
混合式评估体系：构建了包含150个问题模板的黄金数据集，通过人工评估与AI评委相结合并计算两者分数偏移量的方式，兼顾了评估的可靠性、成本与可扩展性。

嘉宾/话题简介

本集内容来自AWS re:Invent 2025大会，由三位嘉宾共同分享。Rahul Ghosh 和 Vidya Sagar 来自 AWS 生成式AI创新中心（Gen AI Innovation Center），他们介绍了AI智能体的关键推理模式以及Amazon Bedrock AgentCore如何解决智能体规模化落地的挑战。另一位嘉宾 Dipen 来自 雅虎财经（Yahoo Finance），他在AI和数据科学领域有超过17年的经验。本集深入探讨了雅虎财经如何结合AWS服务，构建一个用于金融研究和问答的多智能体系统，以弥合散户投资者与专业机构之间的信息鸿沟。

分节详述

00:00 开场与嘉宾介绍

本节重点

三位嘉宾的背景与角色：AWS科学家、AWS应用经理、雅虎财经AI负责人
AWS 生成式AI创新中心的使命是帮助客户快速将生成式AI方案从构思推向落地
雅虎财经团队专注于构建生成式AI和数据科学驱动的功能

详细精要

Rahul Ghosh（AWS 应用科学家） ：分享其在AWS Gen AI创新中心的工作经验，核心职责是深入参与客户项目。
专注于与AWS客户合作，共同解决他们在将生成式AI（Gen AI） 引入生产流程时遇到的最艰巨挑战。
Dipen（雅虎财经 AI 负责人）：介绍其团队背景及项目合作历程。
拥有超过 17年 的行业经验，在过去 3年致力于雅虎财经的AI和数据科学项目。
雅虎财经团队在过去 近一年的时间 里一直与AWS Gen AI创新中心以及Vidya的团队紧密协作，构建生成式AI功能。
Vidya Sagar（AWS Gen AI 创新中心应用经理） ：介绍Gen AI创新中心的全球业务范围和核心职能。
这是一个帮助客户快速构思并构建生成式AI解决方案的专项项目。
团队构成包括科学家、策略师、机器学习工程师以及遍布全球的合作伙伴。
业务成就显著：已与像 DoorDash、BMW 等数百家客户合作，仅过去一年就为大量客户规模化部署了实用且创新的生成式AI解决方案。

02:04 议程概览与AI智能体基础

本节重点

企业采用多智能体系统的趋势，以及Amazon Bedrock和AgentCore如何提供支持
AI智能体的定义：能够推理、规划并通过迭代思考与自我修正完成任务的自治系统
推动智能体从概念走向现实的四大技术驱动力：模型推理、数据集成、基础设施协议、开发工具

详细精要

探索企业如何采用多智能体系统与Bedrock AgentCore：会议议程的关键部分。
重点探讨企业级多智能体系统的实践，特别是利用 Amazon Bedrock 和新近发布的 Bedrock AgentCore 进行落地的真实世界体验。
覆盖关键方面：跨分布式环境的智能体编排、访问多模态数据（结构化与非结构化）、协调API工具调用智能体，以及管理异构数据源和评估性能。
AI智能体的定义：AI智能体代表着我们构建、部署和与技术互动方式的结构性转变（Tectonic Shift）。
定义为能够进行推理、规划，并通过迭代思考和自我修正来完成任务的自洽系统。
智能体化AI（Agentic AI）为大语言模型（LLM） 带来了质的飞跃，通过赋予它们工具调用能力、记忆组件和智能体循环（Agentic Loops） 来实现真正的“自主行动能力（Agency）”。
四大关键驱动力：将智能体AI从炒作变为现实，已不再是“是否可行”的问题，而是“如何让其最好地成功”。
模型推理能力：更先进的基础模型（Foundation Models） 拥有更强的推理能力，能更好地规划和协调不同工具与API的调用。
数据与知识集成：能够将洞察结果与企业上下文环境及其专有数据集对齐，确保分析结果的可靠性。
基础设施与智能体协议：例如可扩展的模型上下文协议（MCP，Model Context Protocol） 以及智能体间的安全通信协议，为智能体提供安全可靠的运行基础。
智能体开发工具：当下涌现出种类繁多的开发框架和复杂工具，极大地降低了构建和部署智能体的门槛。
智能体AI成熟度模型：从基于规则的传统自动化到完全自主设定目标的四个层级。
第一层级：传统的 基于规则的自动化（Rule-Based Automation），按预定义流程顺序调用LLM。
第二层级：生成式AI辅助模式（2023-2024年间兴起），具备 RAG（检索增强生成） 和网络搜索等知识增强能力，能访问超出预训练数据的近期信息。
第三层级（当前所处阶段）：目标驱动的AI智能体，能独立执行任务以达成高层级目标，但自主权仍受限于人类设定的目标。
第四层级（尚未实现）：完全自治的智能体，能够自主设定目标和发现任务。
现实定位：大部分企业级应用目前主要处于第二和第三层级之间，即从基于RAG的服务逐步向更自主的智能体过渡。

💬 精华片段（中文）

"AI agents represent a tectonic shift in how we build, deploy, and interact with technology." "AI智能体代表着我们构建、部署和与科技互动方式的根本性转变。"

07:21 核心智能体循环与推理策略

本节重点

ReACT（推理-行动循环） 是最主流的智能体推理模式
ReWOO（无观察推理） 和 Reflexion（自我反思迭代优化） 是深度金融研究特别需要的补充策略
单一智能体 vs. 多智能体的适用场景：工具过多时会导致选型混淆，专业化分工（多智能体）效果更优

详细精要

核心智能体循环与ReACT模式：创建一个智能体需要为LLM附加记忆、工具和目标，并赋予其推理能力。
ReACT（Reasoning and Act） 是最主流的推理模式，其循环始于用户输入，LLM推理后决定下一步行动（调用工具或直接回答），然后根据工具返回结果再次推理，判断信息是否足够或需继续调用，形成一个交织的思维、行动、观察循环。
循环可以是单步或多步的，其中工具、记忆和目标作为输入喂给LLM，整个过程在开发者设定的护栏（Guardrails） 和可观测性机制下运行。
ReWOO与Reflexion推理策略：对于深度研究和金融应用等复杂场景，仅有ReACT是不够的，需要融合多种策略。
ReWOO（Reasoning Without Observation）：在调用任何工具之前，先生成复杂且详尽的执行计划，然后并行执行，同时从多个来源收集数据（如股票价格、财报、市场指标）。这能显著加快金融研究等综合工作流中的数据收集速度。
Reflexion：促进自我反思和迭代优化。智能体可以评估其生成报告的质量，识别研究中存在的空白点，然后迭代地修正其结论，这对于保障分析质量和维护信息可信度至关重要。
单一智能体 vs. 多智能体：选择合适的模式取决于任务的复杂度和可用的工具集。
单一智能体的局限性：随着智能体负责的领域和接入的工具数量不断膨胀，其犯错概率也随之增加。过多的工具容易导致模型在工具选择上的混淆（Tool Selection Confusion），特别是当工具定义存在重叠时。此外，所有工具的定义、参数都会涌入Prompt中，导致上下文窗口占用暴增。
多智能体的优势：通过专业化（Agent Specialization），每个子智能体只在其特定领域内拥有易于管理的工具集，从而减少错误并提升整体性能。这在复杂用例中尤其显著。

💬 精华片段（中文）

"The more we expand their scope, the more likely they are to make mistakes. So when you are providing an agent with too many tools, this can lead to confusion between tool selection for the agent." "我们越是扩大其职责范围，它们犯错的可能性就越大。当你为一个智能体提供过多工具时，就会导致它在选择工具时产生混淆。"

12:10 多智能体治理模式

本节重点

管理者-子智能体模式：控制流程层级化，由超级智能体集中路由与决策，结果更可预测
智能体集群模式：分布式决策，各智能体共享消息列表，能避免特定子任务重复执行
混合模式：兼具结构化的层级控制与集群内的协作智能，是处理复杂任务的有效方式

详细精要

管理者-子智能体模式（Supervisor Sub-agent Pattern）：采用层级化的控制结构。
该模式下有一个核心的 管理者智能体，负责路由用户请求到对应的子智能体（Worker Sub-agents）。
管理者掌握最终的决策权，整个流程呈现出结构化和可预测的特征。
智能体集群模式（Agent Swarm Pattern）：采用集体协作式的分布式决策过程。
集群中的每个智能体都能感知到其他智能体的消息列表。
它们自主判断何时将当前会话移交给（Hand Off） 其中某个协作者。
关键优势：由于共享全局信息，集群模式能够防止智能体之间因为拥有相似的工具集或数据源而重复执行相同任务。
混合模式（Hybrid Pattern）：在实际复杂业务中，往往会结合以上两种模式的优势。
例如，一个管理者可以将某些研究任务移交给一个智能体集群去处理，从而将结构化的流程控制与集群内部的协作智能结合起来。
在金融研究分析的案例中，通常会采用管理者-子智能体范式，以获得跨领域的结构化控制和专业化支持。

14:18 金融研究助理的核心挑战与架构考量

本节重点

复杂推理需求：需要多步推理、假设生成与验证、再修正的闭环
多模态数据集成：必须同时处理文本报告、结构化数字财务、图表，甚至音视频财报电话会议
规模与质量的权衡：数据量巨大易导致遗漏关键点，系统必须能提供完整的审计线索和“重大信息”检测
示例架构：管理者协调连接不同数据源的子智能体，包括结构化数据库智能体、SEC文件智能体、新闻智能体，以及通过MCP服务器连接的内部/外部API

详细精要

金融分析的复杂推理需求：深度研究远非简单的问答。
金融分析通常需要多步推理、假设生成、跨数据源的数据收集，以及通过多轮验证与修正来合成最终结论。
多模态数据集成挑战：分析师必须处理高度异构的信息。
数据形态覆盖文本报告（公司文件、新闻）、结构化数据（财务指标、股价）、视觉内容（图表）。
音频和视频数据（如财报电话会议实录和采访）的处理也日益重要。
挑战在于，这些数据来自数百个全球数据源，各自的更新频率和可靠性标准参差不齐。
规模与质量的权衡：海量数据带来了“信号与噪声”的甄别难题。
庞大的数据量使得工具返回极易遗漏关键数据点。
因此，深度研究系统必须有全面的审计追踪（Audit Trail），追溯每一个信息来源，并具备 “重大信息（Material Information）” 的检测能力，以确保研究结果的一致性。
系统架构示例：一个为满足上述复杂要求而设计的管理者-子智能体架构。
层级结构：一名管理者智能体与用户交互，接收查询并生成回复，必要时将任务分派给各个子智能体。
结构化数据库智能体：直接连接SQL数据库，接收管理者的委托，生成并执行SQL查询，整理结果后返回给管理者。
非结构化数据智能体（新闻与SEC文件）：这两个智能体连接到同一台 MCP服务器——本质上是一个向量知识库。它们从管理者接收查询，在知识库中检索，并将报告或答案返回。
API调用智能体：负责与内部/外部合作伙伴的API进行交互，获取特定的实时数据。
协同工作流：每个智能体独立运作，管理者负责协调整个研究工作流，确保分析的全面性，最终向用户提交一份综合性的研究报告总结。

17:57 使用Amazon Bedrock AgentCore构建生产级智能体

本节重点

生产化的核心痛点：原型（POC）到规模化落地之间存在巨大鸿沟，基础设施管理、协调、安全治理的复杂性会拖慢创新
AgentCore 的定位：模块化的智能体工具链，与模型和框架无关，可灵活地仅使用其部分功能组件
五大关键业务挑战：性能、动态资源伸缩、安全（身份认证）、跨会话上下文保持、合规与可观测性
AgentCore 的核心组件：Runtime（运行时）、Gateway（网关/工具托管）、Identity（身份认证）、Memory（持久记忆）、Observability（可观测性）

详细精要

生产化面临的复杂性瓶颈：构建一个原型（POC）很容易，但将其投入生产环境是复杂度急剧上升的根源。
初始阶段：开发者通常在个人电脑上为一个“我的智能体”添加几个简单工具，此时运行良好。
扩展阶段：一旦需要将其交付给团队内多个用户，乃至扩展到跨业务部门，就需集成数千个智能体、调用GitHub、Atlassian等海量共享工具，复杂性便会呈指数级增长。
核心矛盾：基础设施、资源调度、安全与治理等方面的复杂性会显著拖慢创新，成为许多客户将POC部署到生产环境失败的首要原因。
Amazon Bedrock AgentCore 的价值主张：它不是一个框架，而是一个专门解决上述生产级挑战的智能体工具链。
模块化设计：用户无需全盘采纳其所有组件。AgentCore允许你在保持现有智能体和框架不变的情况下，只引入你需要的部分，例如只为现有框架集成可观测性或记忆功能。
框架与模型无关：这是其最大优势之一。你可以使用任何模型和框架构建智能体，然后将其接入AgentCore使用特定组件，这有效避免了技术栈的供应商锁定。
三大核心价值：大幅缩短业务价值的变现时间（免去基础设施和运维开销）；打破技术黑盒；提供经过长期验证的、安全可靠且可自动伸缩的部署环境。
POC到落地必须克服的五大挑战：这些是实现商业价值的必经之路，没有捷径。
性能保障：当从几个测试用户扩展到海量并发用户时，系统的响应和处理能力不能退化。
动态伸缩能力：面对如黑色星期五等流量洪峰，系统必须通过自动伸缩无缝应对，避免出现吞吐量瓶颈。
安全与身份：必须提供可靠保证，让两个智能体能够通过适当的认证机制进行安全交互。
记忆与上下文：用户可能今天问一个问题，一个月后再继续，系统需要像人一样记住长期上下文。
合规与可观测性：企业级应用必然要求全面的审计、监控和合规能力。
AgentCore架构如何运作：以一个待部署的研究型智能体为例。
AgentCore Runtime：提供一个安全的无服务器运行时环境来托管你的智能体代码，你可以通过添加简单的装饰器来集成能力，处理同步/异步推理请求。
AgentCore Gateway：作为所有工具的统一托管和接入点，无论你是自建的MCP服务器，还是现有的API服务，都可以注册到网关上。
AgentCore Identity：协调智能体间的安全认证和会话隔离，确保多租户场景下的隐私和数据安全。
AgentCore Memory：提供跨会话的持久化记忆，并采用双记忆体系：一个用于保留跨工作流的长期研究者上下文，一个用于维护当前工作流的短期信息。
AgentCore Observability：遵循开放遥测（Open Telemetry） 标准，将智能体的Action、Token消耗、延迟等指标输出到你的现有监控工具中，实现精细化调试。

💬 精华片段（中文）

"Complexity will basically slow down the innovation. Complexity around infrastructure management and everything will slow down the innovation." "复杂性会从根本上拖慢创新的步伐。围绕基础设施管理等各方面的复杂性，都会让创新步履维艰。"

34:08 雅虎财经：弥合投资信息鸿沟的实践

本节重点

雅虎财经的使命：为全球1.5亿用户赋能，帮助他们做出自信的财务决策
散户与机构的认知鸿沟：散户面临信息碎片化、噪音多、不及时等问题，而专业投资者拥有顶级分析师、数据和AI工具
金融信息规模爆炸：每日产生4700份SEC文件、3000篇新闻、110,000篇新闻稿、全球12000只ETF、每分钟数十亿级数据点
项目核心目标：为散户提供基于股权研究的清晰、准确答案，明确不提供投资建议、交易推荐或税务法律指导

详细精要

雅虎财经的行业地位：作为全球首屈一指的金融新闻与信息网站，覆盖全球 1.5亿 用户，在美国以外还进入了 10 个主要国际市场。产品形态覆盖Web端、iOS及Android移动端。
散户与机构投资者的信息鸿沟：这是该项目要解决的核心结构性不对称。
散户困境：在面对有限的时间和高度碎片化的信息源（App、新闻网站、社交媒体、券商仪表盘）时，散户投资者看到的往往是价格在一个地方、基本面在另一个地方，情绪信息又来自别处。拼凑信息的过程缓慢、充满噪音且往往不完整，常常错失良机。
机构优势：华尔街专业人士拥有分析师团队、付费订阅的优质数据以及能处理海量数据的ML和AI模型，他们在信息处理上拥有压倒性的结构性优势。
金融信息的规模爆炸：进一步加剧了普通投资者的无力感。每日新增的数据信息量级令人震撼。
结构化与非结构化信息的洪流：仅专利和临床试验文件，单年数量就极为庞大；上市公司每天提交约 4,700 份SEC文件；正规媒体每天发布约 3,000 篇新闻文章；另有 11 万篇新闻稿。
市场动态数据：全球共有 12,000 只 ETF（交易型开放式指数基金）；股票和期权市场发生的交易多达 37 万笔，由此生成的数据点竟有高达 15 亿个 之多。对机构这是“燃料”，对散户则是可能“溺毙”的“海洋”。
AI在金融领域的能力与边界：虽然AI潜力巨大（能阅读百万数据点、跨文档连接孤立信息、优化策略等），但雅虎财经的该项目在启动时就明确划定了能力边界。
核心目标（做什么）：通过综合处理各类数据源（基本面、历史价格、新闻、SEC文件等），为散户提供清晰且准确的股权研究答案，辅助其投资决策。
不可逾越的红线（不做什么）：绝不提供金融投资建议、交易推荐、税务或法律指导。

40:30 金融问答的挑战与雅虎财经的异步多智能体架构

本节重点

金融数据面临的异构性、时间线复杂性（不同财年）和时效性（财报发布前后答案可能不同）挑战
从同步API到异步轮询的架构演进：解决因查询耗时过长导致的API层瓶颈
基于管理者智能体的多智能体架构设计，下设金融数据智能体、内幕交易智能体、SEC文件RAG智能体和新闻RAG智能体
输入/输出护栏：利用AWS Bedrock Guardrails过滤无关问题，并拦截含投资建议或有损内容

详细精要

金融问答的独特挑战：数据维度的复杂性远超一般领域，要求系统具备极强的数据理解和处理能力。
数据异构性：信息来源和形态差异巨大。结构化数据如价格历史、内幕交易记录，非结构化数据如长篇的SEC文件、财经新闻、业绩会实录。
时间线复杂性：不同公司遵循的财政年度（Fiscal Year） 边界不统一。例如询问“苹果公司的最新营收增长”，财报发布前一天和后一天的答案截然不同，这就要求系统能感知并处理商业日历的细微差别。
混合内容的复杂性：SEC文件尤其典型，其中既有精确的财务报表表格，又有关于管理层讨论、风险披露等的大量叙述性文字。不同数据的到达速率也不同，特别是在财报季存在流量洪峰。
架构演进：从同步到异步解耦：原型阶段的简单同步架构在生产环境中存在致命瓶颈。
原型架构：客户端直接通过聊天API与一个股权研究智能体交互，该智能体通过一个服务层访问LLM。所有流程端到端同步执行。
遭遇的瓶颈：由于深度金融查询耗时极长（通常在5到50秒之间），同步模式导致API层不堪重负。
用WebSockets的顾虑：虽然WebSockets是有状态连接，但需要专门的基础设施来支持规模化扩展。
最终方案：异步轮询。客户端提交问题后立即返回，智能体工作流转至异步执行。任务完成后，智能体将答案写回数据库，客户端再通过轮询（Polling） 来获取结果，实现了API和智能体的解耦。
核心的股权研究多智能体系统：由一个管理者智能体统领多个专业化的子智能体。
管理者智能体（Equity Research Agent）：充当管理者智能体，负责协调所有子任务。
工具调用类智能体：如金融数据智能体和内幕交易智能体，它们主要依靠调用内部的和合作伙伴的API来获取精准答案，不依赖不可靠的公开网络信息，保证了准确性。
RAG类智能体：如SEC文件智能体和新闻智能体，各自接入一个专用的知识库。这些知识库索引了经过授权的新闻和SEC文件数据，并通过事件驱动的工作流持续更新，确保一旦有新文件发布就被立即索引。
扩展的网络搜索：当自有知识库已授权数据不充分时，系统也会针对权威信息源进行受限的网络搜索，并将结果提供给新闻智能体。
输入与输出护栏：贯穿始终的安全防线。
输入护栏：在用户查询到达任何智能体之前，系统利用AWS Bedrock Guardrails进行第一道过滤，精准识别并拦截无关话题或恶意请求。
输出护栏：在最终答案写回数据库之前，系统会进行二次检查，剔除任何可能涉及提供投资建议、未来预测等被禁止的回复。

46:28 系统在AWS上的实现与AgentCore的简化潜力

本节重点

以云中立、框架中立、模型中立为设计原则，当前在AWS上的实现采用拼装式的定制化方案
核心AWS服务：用Lambda实现异步执行、SQS做任务缓冲、RDS存上下文历史、CloudWatch做可观测性
用 Amazon Bedrock AgentCore 的设想：将工作流异步化、身份鉴权、可观测性、工具网关和记忆管理等系统级能力封装为单一框架

详细精要

云与框架无关的设计哲学：雅虎财经的设计从一开始就追求高度的灵活性。这套架构原则上是 云无关（Cloud-agnostic）、框架无关（Framework-agnostic） 和 模型无关（Model-agnostic） 的。理论上可以在任何云上用任何框架和模型实现。
当前在AWS上的拼装式实现：在实际落地中，他们选择了非常可靠且定制化的一组AWS服务来满足各个组件需求。
异步执行的实现：选择 AWS Lambda 函数作为核心计算单元，负责从SQS读取任务并执行智能体工作流。Lambda的无服务器特性提供了极佳的弹性，如果某次执行失败可以重试，而不影响其他查询。
任务队列与解耦：API层与智能体工作层通过 SQS（Amazon Simple Queue Service） 完成交接。API将请求写入SQS，使得下游的Lambda并发处理可以灵活控制，确保了系统的并发上限可控和成本可预测。
模型调用与开发框架：LLM被抽象为独立的服务，可接入任意模型。智能体开发主要使用 LangChain 框架。
知识管理类智能体的实现：SEC文件和新闻这两个RAG式智能体，直接使用了 Amazon Bedrock Agents 并接入了 Amazon Bedrock 知识库。
支撑性服务：RDS（关系型数据库） 用于存储对话历史和上下文信息；工作流的驱动和编排同样依靠Lambda函数；系统整体的可观测性则通过 CloudWatch 指标 来监控。
AgentCore作为统一平台的价值：若采用 AgentCore，上述许多系统组件的复杂度将可以被一个统一框架所吸收。
统一运行时：AgentCore Runtime 可以原生处理异步执行，不再需要自己用Lambda轮询SQS构建此模式。
内建身份与审计：AgentCore Identity 可直接为每个查询关联一个特定角色，实现数据访问的精细化权限控制和审计追踪。
服务与工具抽象：各种后端服务、数据库、内部API都可以抽象并托管在 AgentCore Gateway 之后。
开箱即用的能力：AgentCore Observability 和 AgentCore Memory 直接提供了内建的可观测能力和长短期记忆，无需再依赖外部数据库和单独的监控方案。

49:38 能力演示与AWS Guardrails的应用

本节重点

系统能生成带有分析与洞察的结构化对比表格，并回答“为何股价下跌”等动态归因问题
智能体可以自动派生计算列（如交易价值），展示了推理与数据结合的灵活能力
利用AWS Bedrock Guardrails 阻止对“我该买苹果吗？”等投资建议类问题的回答
Guardrails支持检测金融相关性、设置禁用词策略、过滤敏感信息，并可通过 Terraform 部署

详细精要

系统能力演示：展示了多种复杂金融问答的实际能力。
数据对比与洞察：例如要求“比较英伟达与其同行的资本支出”，系统能自动化地收集数据和生成一个整洁的表格，并附上从中提炼出的关键观察。
动态归因分析：回答类似“为什么这只股票今天下跌了？”的问题。系统可以根据提问的具体时间，智能地抓取相关的最新信息并以易于理解的方式进行总结。
灵活的数据处理与推理：在查询“Meta是否有内部人士卖出股票？”时，用户不仅可以要求用表格呈现，系统还能自动利用已有数据，推导并创建出原始数据库中不存在的计算列，如“交易价值”。
AWS Bedrock Guardrails 的安全防线实践：这是确保系统安全与合规的核心防御机制。
意图识别与拦截：明确配置规则，拒绝回答任何涉及投资建议（如“我该不该买苹果？”）、市场预测（如“今年市场走向何方？”）以及完全无关的通用问题（如“什么是黑洞？”）的查询。
策略配置能力：可以通过多种策略组合实现细粒度控制。包括话题检测（确保只回答金融相关问题）、词汇策略（过滤掉包含特定禁用词的查询）、以及敏感信息过滤（识别并隔离包含信用卡号、SSN等信息的内容）。
部署灵活性：整体部署流程非常灵活，支持通过 Terraform 进行基础设施即代码的管理和发布，便于集成到现有的DevOps流程中。

51:33 知识库增强与系统评估体系

本节重点

知识库优化的四大技巧：层级分块、深度元数据集成、查询改写和知识库结果重排序
提示词工程：应让LLM自主识别意图和实体，而人类只需提供少数结构化提示（如财年格式）
评估的三重挑战：缺乏代表性用户问题集、人工构建黄金数据集昂贵且易过时
混合评估法：利用模板生成问题并计算人工与AI裁判评分之间的偏移量，将AI裁判规模化应用到数千道题

详细精要

提升RAG和知识库效果的关键技术：处理金融长文档时，简单的技术难以达到理想效果。
层级分块：在处理SEC文件和长篇新闻时，采用层级分块而非等长切割，可以更好地保留文档的逻辑结构（章节、小节），这对检索准确性至关重要。
深度元数据集成：确保将文档的发布日期、文件类型、出版商等元数据深入融入索引，使检索时能以这些精确维度进行高效过滤。
查询改写：对于时间敏感的查询，系统通过改写用户的原始问题，使其日期范围或实体指代更明确，从而提升检索命中率。
知识库重排序：对初步检索的结果进行二次重排序（Re-ranking），确保最终送给LLM的是相关性最强的文本块。
系统提示词的优化：在金融领域的提示词设计中，最佳实践是相信模型的涌现能力，而非硬编码指令。
意图识别与实体抽取：不应在提示词里规定万条规则，而应 信赖LLM的语义理解能力 来识别查询意图并进行命名实体识别（NER）。
提供精简的“提示”：只需向LLM提供可用的工具有哪些，以及少数的格式化约束，例如 “财季应如何表示”、“大数字应如何以缩写或易于阅读的方式呈现”**。
解决时间复杂性：对于最棘手的财年问题，最有效的办法是提供一个专门的工具，比如通过股票代码查询该公司具体财季的函数。
系统评估的独特挑战与混合式解决方案：在金融领域的评估是“构建系统”与“证明其有效”是两码事。
评估难点：
1. 缺乏真实用户数据：上线前不知道用户的提问长什么样，无法构建代表性测试集。
2. 黄金数据集成本高昂：由领域专家手动创建问答对的“黄金数据集”极度耗时，且验证工作专业性强。
3. 数据快速过时：即便有了数据集，金融信息的时效性也意味着其中的许多答案会迅速失效。
人工评估 vs. AI作为裁判：
- 人工评估：优点是非常值得信赖，能捕捉细微的错误。缺点是缓慢、昂贵、不可规模化，且不同评估员之间存在 主观性差异。
- AI裁判（LLM as a Judge）：优点是快速、成本低、评分标准高度一致。缺点是存在 “信任鸿沟”——如何信任一个由AI生成再由AI评分的系统？
他们的混合式方法：
1. 生成问题集：放弃构建完备的问答对，而是设计 150个问题模板，然后利用模板扩展出450个问题用于人工评估，并可进一步扩展至数千个。
2. 制定统一的评估量规：明确定义准确性、覆盖率、可读性等评估指标及其评分细则。为人类评估员作为培训指南，为AI裁判作为Prompt指令。
3. 对标与微调：在小数据集上同时运行人工评估和AI评估，通过对比两者评分，迭代优化AI裁判的提示词，直到其评分与人类评分收敛，并计算出两者间的 “偏移量” （Offset）。
4. 规模化评估：将经过校准的AI裁判应用到上千个问题的大数据集上，最后应用此前计算出的偏移量，就能获得一个对系统整体性能的、非常有信心的统计估算。
最终评估指标与成本：
质量指标：聚焦于准确性（Accuracy/Precision）、覆盖率（Coverage）（是否覆盖所有关键数据点）和可读性（Presentation）。
性能指标：查询延迟根据不同复杂度，在5秒到30-40秒之间波动。
并发能力：已测试 100个并发查询，架构可线性扩展至1000个，只需增加账户内的Lambda并发数配额。
成本：平均每次查询消耗约10,000至50,000个Token，成本约为0.02至0.05美元。

💬 精华片段（中文）

"Building a system for financial question answering is one thing, but proving that it works reliably, that's a completely different ball game." "构建一个金融问答系统是一回事，但要证明它能可靠地工作，就是完全不同性质的一件难事了。"

专业术语注释

术语	解释
Gen AI (生成式AI)	指生成式人工智能，能够创造新的内容（文本、图像、代码等）的AI技术，本集中特指基于大语言模型的应用。
Multi-Agent Systems (多智能体系统)	一种由多个自治的AI智能体组成的系统，它们相互通信、协作或由管理者协调，以共同完成一个复杂的任务。
Amazon Bedrock	AWS提供的一项全托管服务，允许用户通过API访问和定制来自多家AI公司的高性能基础模型，并构建生成式AI应用。
AgentCore	AWS于re:Invent 2025上重点介绍的智能体工具链，提供运行时、网关、身份、记忆和可观测等模块化功能，用于简化AI智能体从原型到生产环境的规模化落地。
ReACT (Reasoning and Act)	最主流的智能体推理模式，核心是“思考-行动-观察”的循环。智能体接收任务后，推理下一步行动（调用工具或回答），执行后根据观察结果再次推理，如此往复。
ReWOO (Reasoning Without Observation)	一种智能体推理策略，特点是先制定完整计划，再并行执行多个工具调用，以大幅加速数据收集过程，适合财报、股价等数据可同时获取的场景。
Reflexion	一种侧重于“自我修正”的智能体推理模式，允许智能体评估自己生成的报告，识别逻辑漏洞或信息空白，并迭代地改善最终输出。
Agentic AI (智能体化AI)	指具备“自主性”的AI，超越了单纯的聊天机器人，能够通过使用工具、记忆和规划，自主地完成多步、目标导向的任务。
RAG (检索增强生成)	一种将信息检索系统与LLM相结合的架构。在回答问题时，先从外部知识库中检索最新的、相关的私有数据，再交给LLM进行总结和生成答案，以解决幻觉和知识过时问题。
MCP (Model Context Protocol / 模型上下文协议)	一种开放协议，旨在标准化应用程序如何为LLM提供上下文，在本集中特指一种连接各类工具和数据源的统一协议或服务器。
Supervisor Sub-agent Pattern (管理者-子智能体模式)	一种层级化的多智能体协作模式，由管理者智能体理解任务、分解任务并路由给对应的子智能体执行，最终由管理者汇总答案。
Agent Swarm (智能体集群模式)	一种去中心化的多智能体协作模式，集群内的每个智能体共享上下文，并可以自主决定将任务移交给另一个智能体。
RAG Agent (检索增强生成智能体)	与特定知识库或向量数据库连接的智能体，其核心行动是从中检索相关信息来增强LLM的回答。如本集雅虎财经的SEC文件智能体和新闻智能体。
Tool-calling Agent (工具调用智能体)	主要通过与外部API进行交互来完成任务的智能体，能够生成并执行函数调用，直接获取精确、实时的结构化数据。
SQS (Simple Queue Service)	AWS提供的全托管消息队列服务，在本架构中用于解耦API层和计算层，实现异步任务缓冲。
LLM as a Judge (LLM作为裁判)	一种自动化评估方法，使用一个强大的LLM，根据预设的评价量规，对另一个AI系统生成的输出进行打分和评估。
Hierarchical Chunking (层级分块)	一种处理文档并构建向量的高级技术，它会尊重文档的章节、标题等层级结构进行切分，而不是按固定Token长度机械切割，能更好地保留上下文。
Prompt Injection (提示词注入)	一种针对LLM应用的安全攻击，攻击者在输入中植入恶意指令，试图覆盖或绕过系统的原始Prompt指令，导致系统执行非预期的行为。
Golden Dataset (黄金数据集)	在AI系统评估中，由人类专家手动创建的、包含高质量、绝对正确的“问题-标准答案”对的数据集，用于作为评估系统性能的基准。

延伸思考

多智能体的协调成本与收益平衡：雅虎财经选择了结构化更强的管理者模式。在实际业务场景中，如何权衡“管理者-子智能体”的可控性与“智能体集群”的协作灵活性？在什么任务类型下，集群模式可能会表现出比管理者模式更高的效率？
AgentCore的模块化设计对现有技术栈的影响：Vidya强调AgentCore是框架和模型无关的。这是否意味着AWS正在从“云基础设施提供商”向“智能体运行环境平台”转型？这种“只替换部分零件”的策略，是否会比要求开发者全盘重写的平台更容易赢得企业市场？

原文发表：Dec 04, 2025 · 纪要生成：2026-08-06