2023 - 至今
Bedrock:从研究到产品
高级人工智能应用科学家,Amazon Bedrock
参与构建 Bedrock 向量表征模型、检索系统和智能体记忆相关的核心科学能力。我是 Titan Text Embeddings、多模态 RAG、MultiKB Agentic RAG、向量表征模型定制,以及智能体上下文状态化管理等工作的核心贡献者,参与其研究、评估与产品化。工作贯穿从研究想法到线上模型行为的完整链路:大规模分布式训练与推理、评估、生产代码、工程集成和产品发布。
高级人工智能应用科学家 · Amazon Bedrock
我研究让基础模型和 AI 智能体能够表征、检索与保留信息的建模方法,并将这些方法转化为生产系统中的实际能力。我关注的不是脱离应用场景的研究结果,而是在真实产品约束下依然成立的研究:模型质量、延迟和严谨评估,都需要从一开始就纳入设计。
在 AWS Bedrock,我主要开展表征学习、对比学习目标、基准数据集和评估方法的研究,相关成果应用于 Amazon Titan Text Embeddings、多模态检索,以及具备动态检索、上下文管理和自我评估能力的智能体系统。这些研究已转化为上线的产品能力;其中,关于向量表征压缩的工作发表于 ICLR 2025,并入选 Spotlight。
在我看来,智能系统不应只是生成答案的模型,而应当在知识与经验之间形成闭环:通过向量表征模型检索相关知识,通过 RAG 将外部信息引入推理,通过智能体把推理转化为行动,再通过基于在线强化学习的部署时持续学习,从行动结果中不断提升能力。
2023 - 至今
高级人工智能应用科学家,Amazon Bedrock
参与构建 Bedrock 向量表征模型、检索系统和智能体记忆相关的核心科学能力。我是 Titan Text Embeddings、多模态 RAG、MultiKB Agentic RAG、向量表征模型定制,以及智能体上下文状态化管理等工作的核心贡献者,参与其研究、评估与产品化。工作贯穿从研究想法到线上模型行为的完整链路:大规模分布式训练与推理、评估、生产代码、工程集成和产品发布。
2020 - 2023
应用科学家,AWS Machine Learning Solutions Lab
将定义并不清晰的企业问题转化为从 0 到 1 的生产级机器学习系统,覆盖医疗、游戏、体育、金融和招聘等行业。训练过 Transformer、深度推荐模型、坐标回归网络和变分自编码器等模型。交付 10 多个系统,带来 2000 万美元以上年度经常性收入(ARR),并获得 7 个客户对项目成果的公开背书。这一阶段让我形成了在高不确定性场景中推进机器学习系统落地的能力。
2018 - 2020
数据科学家,Invesco Asset Management
构建用于预测、推荐和客户分群的深度学习与 NLP 模型。设计 PB 数量级 ETL 流水线和生产数据质量系统。这一阶段为我后来的应用科学工作奠定了系统工程基础。
从研究到产品的代表性工作
覆盖 100 多种语言的多语言向量表征模型。参与 Titan Text Embeddings V2 的研发,重点包括多语言能力建设;相较 v1,模型性能提升了 60%。发布时,TTE v2 在 MTEB 检索任务上超过当时的 OpenAI 向量表征模型,并在 MIRACL 上超过 Cohere Multilingual V2。 GA 公告:Amazon Titan Text Embeddings V2 已在 Amazon Bedrock 上线
面向视频和音频场景的检索能力,使用文本辅助和无需解析器的多模态向量表征方法。在动作类数据集上带来 20% 性能提升,并创建了 5 个基准数据集。 GA 公告:Bedrock Knowledge Bases 多模态检索已正式可用
面向复杂问题回答的 RAG 智能体,能够跨多个向量库,以及结构化和非结构化知识源进行检索。通过动态查询规划、上下文管理和自评估,相比普通 RAG 在 recall@5 上提升 94%。
这个平台让客户能够基于原始数据或标注数据定制向量表征模型,以适配特定领域的检索任务。在 9 个检索数据集上平均提升 25.7%。其中,定制的 false negative-aware contrastive loss 为 Bedrock Guardrails 带来 51% 性能提升。
记忆是基础设施,检索服务于认知,智能体将推理化为行动,持续学习将经验沉淀为能力。
研究基础向量表征模型如何成为检索、语义搜索、RAG、推荐、聚类和领域适配中的表征基础。相关工作包括对比学习、训练后压缩、量化、批次质量构造、合成数据生成和评估。
构建能够把外部知识引入生成过程的 LLM 系统,覆盖从纯文本 RAG 到视频、音频和文本多模态 RAG 的不同场景。
智能体需要访问外部知识,也需要在较长的任务过程中维护工作记忆。我的相关工作包括 MultiKB Agentic RAG,让智能体跨多个结构化和非结构化知识库执行检索;也包括有状态上下文管理,让智能体判断哪些信息应该保留、更新,并在后续任务中复用。
通过在线强化学习,让智能体在部署后的交互中继续学习,关注如何将反馈、任务结果与交互轨迹沉淀为持久的模型能力。
我正在拓展的研究方向,聚焦机器人智能体、数据采集、评估与世界动作模型:通过预测物理环境如何响应动作而演化,为更强的机器人策略提供支持。
如有研究、演讲或职业合作相关事宜,请邮件联系 elaine.yi.xiang@gmail.com。