Retrieval-Augmented Generation
RAG é a técnica que permite a um modelo de linguagem responder perguntas sobre documentos que não estavam no corpus de treino. O módulo cobre cada etapa do pipeline, da preparação do texto até a consulta final.
Um modelo de linguagem só sabe o que aprendeu durante o treino. Qualquer sistema aplicado precisa responder perguntas sobre conteúdo mais recente ou privado: manuais, notas fiscais, e-mails internos, jurisprudência. RAG (Retrieval-Augmented Generation) é o nome dado ao mecanismo que busca trechos relevantes desses documentos e os anexa ao prompt enviado ao modelo.
O pipeline tem cinco etapas. A primeira fatia os documentos em pedaços pequenos (chunks). A segunda converte cada chunk em um vetor de números (embedding). A terceira guarda os vetores num índice junto com metadados estruturados. A quarta mantém esse índice atualizado conforme novos documentos chegam. A quinta recebe a consulta do usuário, converte em vetor também e busca os chunks mais próximos por similaridade.
Conteúdo do módulo
- ChunkingFatiamento do texto em pedaços de tamanho controlado, com sobreposição.
- EmbeddingsConversão de cada chunk em vetor e o que são as dimensões desse vetor.
- Indexação e metadadosArmazenamento dos vetores com etiquetas de fonte, data, autor e categoria.
- Dados dinâmicosInserção, atualização e expiração de chunks ao longo do tempo.
- PlaygroundConsulta guiada: uma pergunta entra, a similaridade cosseno seleciona os três chunks mais próximos.