Uma das primeiras perguntas técnicas em qualquer projeto de IA Generativa é se o modelo precisa ser ajustado (fine-tuning) ou se basta conectá-lo aos dados certos no momento da pergunta (RAG — geração aumentada por recuperação). A resposta errada custa caro: ajustar um modelo sem necessidade consome tempo e dinheiro; usar RAG onde não resolve entrega uma solução que nunca fica precisa o suficiente.

O que cada abordagem realmente faz

RAG busca o trecho certo de um documento, política ou base de conhecimento e entrega esse contexto ao modelo junto da pergunta — o modelo responde com base no que foi recuperado, não só no que já sabia. Fine-tuning re-treina o modelo com exemplos específicos, mudando o comportamento dele de forma mais permanente — no estilo de resposta, no domínio ou no formato.

Quando RAG resolve a maior parte dos casos

Praticamente todo caso de "responder com base nos nossos documentos" — política interna, contrato, base de conhecimento, suporte — é resolvido por RAG. A vantagem prática é grande: atualizar o conhecimento é só atualizar o índice de busca, sem re-treinar nada, e cada resposta pode citar a fonte exata — algo essencial para confiança e auditoria.

Quando fine-tuning faz sentido

Fine-tuning entra quando o problema não é "que informação usar", mas "como se comportar": um estilo de resposta muito específico, um formato de saída estruturado e consistente, ou um domínio técnico tão particular que o modelo base erra sistematicamente mesmo com o contexto certo em mãos. É a exceção, não o ponto de partida.

Um roteiro de quatro perguntas

Antes de decidir, vale responder:

  • O problema é de conhecimento ou de comportamento? Conhecimento aponta para RAG; comportamento pode apontar para fine-tuning.
  • O conteúdo muda com frequência? Conteúdo que muda toda semana pede RAG — reajustar o modelo toda semana não é viável.
  • Precisa citar a fonte? RAG tem citação nativa; um modelo ajustado "decorou" a informação e não aponta de onde ela veio.
  • Já existe uma base de RAG sólida que ainda não resolveu? Se sim, o problema pode ser de qualidade de recuperação, não de modelo — vale revisar a indexação antes de partir para fine-tuning.

Na prática, a maioria dos projetos usa RAG como padrão e reserva fine-tuning para o caso específico que realmente exige — não porque fine-tuning seja inferior, mas porque RAG resolve mais rápido, com menos risco e com mais transparência sobre a origem da resposta.