企业采用人工智能 (AI) 的当前形势反映出向更明确地融入业务运营的重大转变。

近期调查显示，77% 的企业正在使用或探索人工智能，其中 83% 的企业将其视为战略计划中的首要任务。这一数字较前几年大幅增加，表明企业越来越认识到人工智能在提升竞争优势方面的潜力。

根据 Andressen Horowitz 的调查，生成式人工智能的预算一直在飙升，企业希望将资金投入到 2至5次 去年的预算将用于支持更多的 genAI 实验。尽管仍有一些保留意见，这可以理解，但企业领导者正在扩大从实验阶段转向较小生产规模部署的用例数量。 

在本文中，我们将通过案例研究深入探讨三种最流行的 LLM 框架，这些框架在支持企业开发 GenAI 应用程序方面产生了显著的吸引力。 

Langchain 与 LlamaIndex 与 deepset 对比

LangChain、LlamaIndex 和 deepset 针对不同的企业需求提供量身定制的解决方案。这些被称为 LLMOps 工具，可帮助企业简化其应用开发流程。 

以下是基于主要特性和能力、定制选项和各自案例研究对这三个框架的全面比较。

朗链

Langchain 于 2022 年 10 月作为一个开源项目启动，很快成为最受欢迎的项目之一，数百名 Github 用户贡献了改进，并通过用户生成的教程和聚会建立了一个充满活力的社区。在过去的 20 个月内，Langchain 已在两轮融资中从 Sequoia Capital 和 Benchmark 等投资者手中筹集了 $35 万美元。 

骆驼指数

LlamaIndex 于 2022 年 11 月作为开源项目发布，是一个用于将自定义数据集与大型语言模型 (LLM) 连接起来的开源数据框架，旨在简化知识密集型 LLM 应用程序的构建。截至 2023 年 6 月，LlamaIndex 仅从 Greylock 和 Dropbox Ventures 等投资者那里筹集了 1 轮 $850 万美元。

深陷（干草堆）

deepset 成立于 2018 年 6 月，总部位于德国，是一家企业软件供应商，为开发人员提供构建可用于生产的自然语言处理 (NLP) 系统的工具。其最著名的产品是 Haystack，这是一个开源 Python 框架，用于构建具有大型语言模型的自定义应用程序。deepset 已在三轮融资中从 Google Ventures 和 Balderton Capital 等投资者那里筹集了 $4560 万美元。  

主要特性和功能比较

朗查因

• 模块化架构： LangChain 提供模块化和可组合的框架，允许开发人员通过组合语言模型、数据源和处理步骤等不同组件来构建复杂的应用程序。这种模块化促进了代码的可重用性和快速原型设计。
• 与 LLM 的整合： LangChain 是 LLM 与实际应用之间的桥梁，提供统一的接口，抽象与不同模型交互的复杂性。它支持来自不同提供商的多个 LLM，例如 OpenAI 和 Hugging Face。
• 应用程序和用例：LangChain 的应用范围十分广泛，包括聊天机器人、智能搜索、问答系统、文本摘要等。其灵活性使其可以应用于从医疗保健到营销等各个行业。
• 工具和组件：T该框架包括各种工具，例如用于构建有状态应用程序的 LangGraph、用于将应用程序部署为 API 的 LangServe 以及用于监控和调试 LLM 应用程序的 LangSmith。它还具有提示模板、检索器和输出解析器等组件，以增强语言处理任务

骆驼指数

• 数据集成： LlamaIndex 通过其 LlamaHub 提供各种数据连接器，允许无缝提取来自各种来源（例如 API、数据库、PDF 等）的数据。这种集成通过将外部数据与 LLM 连接起来，有助于创建上下文丰富的应用程序。
• 索引和检索： 该框架支持多种索引方法，包括向量、树、列表和关键字索引，以高效地组织和检索数据。这些索引有助于根据用户查询检索相关信息，从而提高检索增强生成 (RAG) 系统的性能。
• 查询接口： LlamaIndex 提供高级查询界面，可实现与数据的自然语言交互。此功能对于聊天机器人、问答系统和结构化数据提取等应用程序至关重要，允许用户以对话方式查询数据。
• 多模式支持： 该框架可以处理多模态文档，能够处理图像、文本等多种数据类型。这一能力拓宽了 LlamaIndex 的应用范围，使其能够适应复杂的数据环境。
• 定制和灵活性： LlamaIndex 允许开发人员自定义提示模板、嵌入模型和查询引擎等组件。这种灵活性使其能够适应特定用例，并增强了其与 LangChain 和 OpenAI API 等其他框架的集成。

深陷

• 草垛： Haystack 允许开发人员为文档检索、语义搜索、文本生成和问答等任务创建自定义管道。它与 Hugging Face Transformers、Elasticsearch 和 OpenAI 等各种平台集成。
• deepset 云： 这是一个商业 SaaS 平台，提供 Haystack 的托管版本。它支持 NLP 应用程序开发的整个生命周期，从原型设计到部署和监控。Deepset Cloud 的设计非常方便用户使用，即使对于那些不太熟悉 NLP 的人来说也是如此，它还包含自动扩展和监控等功能，以促进企业级应用程序的开发。
• 企业焦点： deepset 面向企业客户，提供符合 SOC 2 和 GDPR 等行业标准的工具。其平台旨在处理需要强大基础设施和安全功能的大规模 NLP 应用程序。
• 应用程序和用例： deepset 的技术应用于金融、医疗保健和法律等各个行业。它支持聊天机器人、语义搜索引擎和航空等关键环境的 AI 系统等应用

定制选项比较与案例研究

朗查因

• 灵活性和模块化： LangChain 的设计具有高度灵活性，允许开发人员创建高度定制的应用程序。其模块化架构使用户能够自定义各种组件，例如链、提示和模型，以满足特定需求。
• 定制链条和组件： 用户可以使用 LangChain 表达式语言 (LCEL) 创建自定义链，该语言允许进行并行执行、回退和异步方法等高级配置。此功能使其适用于复杂的工作流程。
• 与数据源集成： LangChain 支持与各种数据源和 API 的集成，使开发人员能够微调 LLM 行为并无缝连接到自定义数据集。
• LLM 行为的定制： 开发人员可以广泛地修改语言模型的行为，包括调整提示和处理逻辑，从而提供更加量身定制的用户体验。

案例研究：艾登 (Ayden)

随着全球贸易的加速发展，金融技术平台 Adyen 面临着挑战，交易量增加，支持团队压力加大。为了解决这个问题，Adyen 寻求技术解决方案来扩大运营规模，而无需扩大团队规模。他们在马德里的新技术中心组建了一支数据科学家和机器学习工程师团队，以提高支持团队的效率和满意度。

该解决方案涉及使用 LangChain 实现两个关键应用程序： （1）智能票务路线系统 和 (2) 支持代理副驾驶。智能票务路由系统旨在根据内容分析快速将票务发送给合适的支持人员。支持代理副驾驶为代理提供建议的响应，从而提高票务处理的速度和准确性。LangChain 的框架允许 Adyen 尝试不同的模型，而不会被锁定在单一模型中，从而确保灵活性和定制化。

结果：Adyen 实现了更高效、更准确的工单路由，使商家能够及时获得最合适的技术专家的支持。在四个月内，他们开发了一个全面的文档数据库，用于有效检索信息，其性能远远优于传统搜索方法。这缩短了支持响应时间，提高了支持代理的满意度，验证了新系统的有效性

骆驼指数

• 高级用户的低级 API： LlamaIndex 提供低级 API，允许高级用户自定义和扩展各种模块，包括数据连接器、索引和查询引擎。这种灵活性对于希望构建更复杂应用程序的开发人员非常有益。
• 可交换存储层： LlamaIndex 允许用户自定义存储所摄取文档和元数据的存储层。此功能使企业能够选择他们喜欢的数据管理解决方案。
• 初学者的易用性： 对于经验较少的用户，LlamaIndex 提供了高级 API，简化了数据提取和查询过程，使其易于上手，无需进行大量定制。
• 重点关注索引和检索： 虽然 LlamaIndex 支持定制，但其主要重点是高效的数据索引和检索，与 LangChain 相比，这可能会限制应用程序级定制的程度。

案例研究：Scaleport AI

Scaleport AI 是一家专门为法律、电子商务、房地产和金融等行业提供 AI 技术的公司，其在开发过程中面临重大挑战。这些挑战包括技术原型开发时间过长、难以向客户展示价值、数据采集设置复杂以及 OCR 性能不足。这些障碍阻碍了他们高效提供 AI 解决方案和有效吸引客户的能力。

为了克服这些问题，Scaleport AI 采用了全面的 AI 开发平台 LlamaCloud。LlamaCloud 提供集中的知识界面，简化数据管理并减少数据整理所花费的时间。该平台的 LlamaParse 工具显著提高了 OCR 的准确性和效率。此外，LlamaCloud 的高级索引和检索功能有助于与各种数据源灵活集成，提高数据可访问性。该平台还提供快速原型设计和从 UI 到代码的无缝过渡，从而加快了开发过程。

结果：LlamaCloud 加快了开发进度，使 Scaleport AI 能够快速创建技术原型并向客户展示切实的价值，从而提高销售成果。增强的 OCR 性能和灵活的数据处理能力使高质量结果的交付更加高效。

总体而言，LlamaCloud 被证明是一个游戏规则的改变者，它将开发时间减少了 50-60%，并显著提高了 Scaleport AI 的运营效率和客户参与度。

深陷

• 可定制的搜索和检索： deepset 提供工具帮助企业定制其搜索和检索流程。用户可以调整底层模型和管道以满足特定领域的需求。
• 与现有系统集成： 该平台允许与现有数据系统集成，使用户能够自定义数据的提取和查询方式。
• 有限的细粒度控制： 虽然 deepset 提供了定制选项，但它可能无法像 LangChain 那样提供对 LLM 行为相同级别的细粒度控制，而更注重增强搜索功能而不是广泛的应用程序定制。

案例研究：空中客车

空客面临的挑战是如何高效地从其内容繁多的飞行机组操作手册 (FCOM) 中检索信息，这对飞行员在训练和飞行操作期间至关重要。该手册长达数千页，包括文本和表格，飞行员很难使用现有的基于关键字的搜索系统快速找到所需信息。该系统要求飞行员知道手册中使用的确切术语，这可能会延迟在紧急情况下找到解决方案。

为了解决这个问题，空客与 deepset 合作 使用 Haystack 框架实现复杂的问答 (QA) 系统。该系统集成了文本和表格 QA 功能，利用 Google 的 TaPas 等模型来处理表格数据。该解决方案采用双检索器-读取器管道，通过文本和表格 QA 模型处理查询，并根据置信度合并结果。这种设置使系统能够高效处理复杂查询并提供精确的答案，无论信息是文本形式还是表格形式。

结果：该系统显著提高了信息检索的速度和准确性。尽管该系统在生命攸关的场景中仍处于试验阶段，但它已显示出在工程和飞行员训练中更广泛应用的潜力，证明了先进 NLP 技术在技术领域的价值。

结论

显然，每个框架都有其优点和缺点。下面是一个比较表，总结了三个框架之间主要特性和能力之间的差异：

LLM框架的可比指南：Langchain、Llamaindex和deepset

LangChain 专为构建需要复杂语言模型交互的应用程序而设计。它在对话生成、内容创建和协调多个 LLM 以执行特定任务方面表现出色。对于需要动态对话功能或涉及多个 LLM 的复杂工作流程的应用程序来说，它是理想的选择。从这一点来看，LangChain 可能更适合需要灵活处理各种 LLM 交互和生成复杂输出的项目。

另一方面，LlamaIndex 专注于高效的数据索引和检索，因此非常适合需要快速、准确访问数据的应用程序。它最适合那些需要快速访问大型数据集的项目，例如搜索引擎或数据密集型应用程序。虽然 LlamaIndex 针对数据检索速度和准确性至关重要的场景进行了优化，但它可能无法提供与 LangChain 相同级别的 NLP 功能。

最后，Haystack 是一个用于构建搜索系统和 QA 应用程序的强大框架。它支持各种 NLP 任务，包括文档检索和问答，重点是与现有数据系统集成。它最适合希望实现高级搜索功能或与现有数据基础设施无缝集成的 QA 系统的企业。Haystack 对于需要全面搜索和 QA 解决方案的组织特别有益，因为它能够处理复杂查询并与各种数据源集成。

您对 LLM 框架的选择应始终取决于您的特定需求：LangChain 用于复杂的语言交互，LlamaIndex 用于高效的数据检索，deepset 用于高级搜索和 QA 功能。