检索增强生成 (Retrieval-augmented Generation,REG) 可用于直接查询。但是,如果查询非常复杂,需要多步骤推理和决策,结果会怎样?例如,支持聊天机器人可以解决问题,而不仅仅是检索常见问题,这会更有用。
在此解决方案中,我们将设置多代理 RAG 管道并将其部署在 Oracle Cloud Infrastructure (OCI) 上,并使用 Oracle Database 23ai 智能地响应查询。大语言模型 (LLM) 代理人计划,研究和推理 AI 的反应;这种思路链 (CoT) 过程模拟了人类解决问题。Gradio 接口可编排数据处理,使用开源工具将多个数据源作为向量进行上载、摄取和存储。Gradio 还提供聊天界面来输入自然语言查询。
通过 Gradio 中的 CoT 可视化,您将看到每个代理为提供最终的综合响应而采取的步骤和决策。此解决方案提供了一个易于遵循的示例,说明 agentic AI 如何增强本地和基于云的模型的推理功能。
注:为免疑义,本网页所用以下术语专指以下含义: