LlamaIndex是一家美国人工智能公司,总部位于加利福尼亚州旧金山。该公司专注于智能体光学字符识别(OCR)和文档智能基础设施,开发工具和框架,使大型语言模型(LLM)能够摄取、索引和查询结构化及非结构化数据源。其产品用于构建将生成式AI模型连接到专有或私有数据的应用程序,解决模型上下文窗口和数据可访问性方面的局限性。
该公司的旗舰开源框架(同样名为LlamaIndex)提供了一套基于Python的工具包,用于构建检索增强生成(RAG)应用程序和AI智能体。它包含数据连接器、索引结构、查询引擎和智能体编排原语。此外,LlamaIndex还提供商业产品,如托管服务LlamaCloud,以及智能体OCR系统LlamaParse,后者使用多智能体管道来处理复杂的文档布局。
历史
LlamaIndex的起源可追溯至2022年底由Jerry Liu启动的一个副业项目,他当时是AI安全初创公司Robust Intelligence的机器学习工程经理,此前曾是Uber自动驾驶部门的研究科学家。在试验OpenAI的GPT-3模型时,Liu发现该模型无法可靠地处理私有或专有数据,且其上下文窗口仅有狭窄的4,096个token。为解决这一问题,他构建了一个小型索引工具,并于2022年11月以GPT Tree Index的名称发布到GitHub。几个月内,该项目累计获得了超过16,000个GitHub星标、每月200,000次下载,以及一个约6,000名开发者的Discord服务器,这促使Liu将其转变为一家公司。Simon Suo(Liu在Uber的前同事,后来曾在自动驾驶初创公司Waabi工作)作为联合创始人加入。
该公司于2023年4月正式注册成立,项目更名为LlamaIndex。2023年6月,公司宣布完成由Greylock Partners领投的850万美元种子轮融资,Jack Altman、Lenny Rachitsky和Charles Xie参投。次年,InfoWorld发布的一项调查将LlamaIndex描述为帮助连接LLM与私有数据源的编排提供商,并指出其主要专注于数据摄取、索引和检索。
2025年3月,LlamaIndex与Cisco、LangChain、Glean和Galileo共同参与了AGNTCY的发布,这是一项旨在支持AI智能体之间互操作性和协作的开源计划。同月,LlamaIndex宣布完成1,900万美元的A轮融资,使其披露的融资总额达到约2,750万美元。投资者包括Databricks和KPMG,后者作为商业合作的一部分进行了少数股权投资。LlamaIndex同时推出了LlamaCloud,一种基于LlamaIndex框架的托管云服务。公司还发布了LlamaParse,这是一种智能体OCR系统,使用结合计算机视觉、专用视觉语言模型和基于LLM的推理的多智能体管道,以处理传统OCR系统可能难以应对的文档布局、表格、图表和手写内容。
2025年10月,IBM发布了一个开源Python连接器,使IBM Db2能够在LlamaIndex工作流中充当向量存储。2026年3月,LlamaIndex发布了LiteParse,这是一个开源、TypeScript原生的解析库,专为本地离线执行而设计。LiteParse完全在用户机器上运行,不依赖外部API或Python环境。后来,LiteParse以Rust项目的形式重新发布,提供原生TypeScript和Python绑定,并增加了markdown输出。2026年4月,LlamaIndex推出了ParseBench,这是一个用于评估企业文档解析系统的基准测试。
开源框架
最初的LlamaIndex开源框架是作为Python库开发的(除其OCR产品外),用于构建检索增强生成(RAG)应用程序和AI智能体。该框架提供数据连接器、索引结构、查询引擎和智能体编排原语。LlamaIndex引入了Workflows抽象,这是一种事件驱动系统,用于创建具有持久状态的多步骤智能体管道,使长时间运行的文档处理任务能够在会话之间持续存在。这些开源库在商业上无限制许可,允许在企业和研究环境中广泛采用。
该框架设计用于与各种AI模型和数据源配合使用,包括Amazon Web Services、Azure和Google Cloud存储服务,以及向量数据库和传统数据库。它支持与OpenAI模型及其他LLM提供商的集成,使开发者能够构建查询私有文档、数据库和API的应用程序。
产品与服务
LlamaCloud是一种托管云服务,提供LlamaIndex框架的托管版本,具备可扩展的数据摄取、索引和检索能力。它专为需要生产级基础设施但无需自行管理部署的组织而设计。LlamaParse是智能体OCR产品,使用多智能体管道从复杂文档(包括含表格、图表和手写内容的文档)中提取文本和结构。LiteParse于2026年发布,是一个开源解析库,可在本地离线运行,采用Rust核心,并提供TypeScript和Python绑定。
ParseBench于2026年4月推出,是一个用于评估企业文档解析系统的基准测试。它提供了一套标准化的任务和指标,用于比较不同OCR和解析工具的性能。
出版物与研究
LlamaIndex已成为多篇科学研究论文的主题,包括关于InstructGPT扩展上下文、信息寻求对话中基于文档的响应生成,以及增材制造中上下文查询的研究。韩国智能媒体研究所2025年发表的一篇论文描述了一个基于LlamaIndex构建的患者记录结合紧急救援指南,而另一项2025年的研究评估了大型语言模型在 residential aged care 中从非结构化电子健康记录中提取信息的能力。这些出版物展示了该框架在医疗保健、制造业和对话式AI等领域的应用。
该公司的工具已被学术和工业研究环境广泛采用,特别是在需要将LLM与领域特定数据源集成的应用中。该框架的开源性质促进了其在广泛项目中的使用,从简单的文档问答系统到复杂的多智能体工作流。