AI 解决方案

在 OCI 上构建多智能体 RAG 解决方案

介绍

检索增强生成 (Retrieval-augmented Generation,REG) 可用于直接查询。但是,如果查询非常复杂,需要多步骤推理和决策,结果会怎样?例如,支持聊天机器人可以解决问题,而不仅仅是检索常见问题,这会更有用。

在此解决方案中,我们将设置多代理 RAG 管道并将其部署在 Oracle Cloud Infrastructure (OCI) 上,并使用 Oracle Database 23ai 智能地响应查询。大语言模型 (LLM) 代理人计划,研究和推理 AI 的反应;这种思路链 (CoT) 过程模拟了人类解决问题。Gradio 接口可编排数据处理,使用开源工具将多个数据源作为向量进行上载、摄取和存储。Gradio 还提供聊天界面来输入自然语言查询。

通过 Gradio 中的 CoT 可视化,您将看到每个代理为提供最终的综合响应而采取的步骤和决策。此解决方案提供了一个易于遵循的示例,说明 agentic AI 如何增强本地和基于云的模型的推理功能。

演示

演示:在 OCI 上构建多代理 RAG 解决方案 (1:26)

先决条件和设置

  1. Oracle Cloud 账户 - 注册页面
  2. OCI Generative AI — 文档
  3. OCI Generative AI Agents — 文档
  4. Oracle Database 23ai — 文档
  5. 文档— 文档
  6. Gradio — 文档
  7. Trafilatura — 文档

注:为免疑义,本网页所用以下术语专指以下含义:

  1. 除Oracle隐私政策外,本网站中提及的“Oracle”专指Oracle境外公司而非甲骨文中国 。
  2. 相关Cloud或云术语均指代Oracle境外公司提供的云技术或其解决方案。