RAG (memória, aprendizado, inteligência)

O LLM não é a fonte da verdade. Recupera trechos, gera com citação, e atualiza o índice quando o fato muda. Cliente do modelo: claude-api / chatgpt-api / gemini-api / ollama-api. Busca clássica se o repo já tiver: elasticsearch.

Preserve o store do projeto (pgvector, Chroma, Pinecone, OpenSearch, …). Postgres: pgvector. Não troque o embedding model sem reindexar o corpus inteiro.

Dever do agente — atualizar o RAG

Sempre que a informação relevante mudar (doc, FAQ, política, preço, schema, runbook, correção do usuário, código que alimenta o corpus), altere o RAG. Não “ensine” só no system prompt nem deixe o índice velho.

1. Ache o documento/chunk canônico (source_id, path, URL, slug).
2. Edite a fonte (markdown, CMS, tabela documents) — o índice é derivado.
3. Upsert chunks + embeddings do doc; delete vetores órfãos do mesmo source_id.
4. Atualize updated_at / versão; invalide cache de retrieval.
5. Se o embedding model ou o tokenizer mudou: reindex full, não patch.
6. Confirme no retrieve (query de fumaça) que o fato novo aparece e o antigo não.

Proibido: responder com fato novo só na conversa atual e não persistir; duplicar o mesmo doc com IDs novos a cada edit.