簡介
擷取增強生成 (RAG) 可用於直接查詢。但如果查詢很複雜，需要多步驟推理和決策，該怎麼辦？例如，當支援聊天機器人可以排解問題，而不只是擷取常見問題集時，這將更有用。
在本解決方案中，我們將設定多代理 RAG 管線，並使用 Oracle Database 23ai 在 Oracle Cloud Infrastructure (OCI) 上部署，以智慧方式回應查詢。大型語言模型 (LLM) 專員規劃、研究和推理 AI 的回應；此思維鏈 (CoT) 流程模擬人類的問題解決。Gradio 介面會協調資料處理 - 使用開放原始碼工具上傳、擷取及儲存多個資料來源作為向量。Gradio 也提供交談介面來輸入自然語言查詢。
在 Gradio 中使用 CoT 視覺化功能，您將看到每個代理程式提供最終合成回應所採取的步驟和決策。此解決方案提供簡易操作的範例，說明 agentic AI 如何增強本地和雲端模型的推理功能。
展示
