Crea una soluzione RAG multiagente su OCI
Introduzione
La retrieval-augmented generation (RAG) può essere utile per query semplici. Ma cosa succede se le query sono complesse e richiedono un ragionamento e un processo decisionale multifase? È il caso in cui, ad esempio, un chatbot di supporto che risolve problemi, e non recupera solamente domande frequenti, si dimostrerebbe più utile.
In questa soluzione, configureremo una pipeline RAG multiagente e la implementeremo su Oracle Cloud Infrastructure (OCI) con Oracle Database 23ai per rispondere in modo intelligente a una query. Gli agent dei modelli linguistici di grandi dimensioni (LLM, large language model) pianificano, ricercano e motivano la risposta dell'AI; questo processo di chain-of-thought (CoT) emula la risoluzione dei problemi delle persone. Un'interfaccia Gradio orchestra l'elaborazione dei dati: più origini dati vengono caricate, incluse e memorizzate come vettori utilizzando strumenti open source. Gradio fornisce anche l'interfaccia di chat per inserire una query in linguaggio naturale.
Con la visualizzazione CoT in Gradio, vedrai i passi e le decisioni prese da ciascun agent per fornire la risposta finale sintetizzata. Questa soluzione fornisce un esempio facile da seguire di come l'intelligenza artificiale agentica può migliorare le funzionalità di ragionamento dei modelli locali e basati sul cloud.
Demo
Prerequisiti e impostazione
- Account Oracle Cloud: pagina di iscrizione
- OCI Generative AI: documentazione
- OCI Generative AI Agents: documentazione
- Oracle Database 23ai: documentazione
- Docling: documentazione
- Gradio: documentazione
- Trafilatura: documentazione