Por que você deveria entender sobre RAG (“Retrieval-Augmented Generation")?

RAG significa “Retrieval-Augmented Generation” e é uma forma de ampliar o conhecimento dos LLMs (ou Modelos de Linguagem) com fontes externas.

• De forma prática, sabemos que modelos recentes, tais como, GPT-4-turbo e Claude 2.1, possuem uma base de conhecimento com dados até Abril de 2023 de acordo com informações oficiais da OpenAI e Anthropic, respectivamente.

Dúvida importante: Seria possível um modelo treinado até Abril de 2023 responder perguntas atuais?

Sim! Esse é o objetivo do RAG, melhorar a capacidade de um modelo trazendo dados relevantes no contexto do prompt. Em resumo, estamos combinando técnicas de pesquisa, recuperação de texto com o prompt a fim de aprimorar as respostas, tornando-as mais precisas e relevantes.

Ainda está um pouco nebuloso? Vamos à um exemplo:

Situação: Sua empresa precisa de um assistente para ajudá-la a tomar decisões baseadas em dados e tendências do mercado.

Desafio: Frequentemente lideranças fazem perguntas complexas que exigem conhecimento específico e atualizado sobre diversos temas, como tendências de mercado, regulamentações, tecnologias e tudo que está acontecendo AGORA no mundo (Dica: Já testaram o NOW da StartSe?).

Solução RAG:

Recuperação: Quando um empresário faz uma pergunta ao assistente, como “Por que o trabalho híbrido não é mais um privilégio?”, primeiro o assistente procura na base de dados, ou seja, artigos, podcasts etc. Ele rapidamente identifica conteúdos que contêm informações relevantes sobre trabalho híbrido.

Geração: Após identificar os documentos relevantes, o assistente usa sua capacidade de geração para compreender e sintetizar as informações encontradas. Ele então gera uma resposta clara e informativa, como:

Nesse exemplo, tivemos como um dos artigos selecionados: "Remoto, home office, híbrido: entenda os novos modelos de trabalho". O assistente utilizou o conhecimento mais atualizado como base para responder a pergunta, ou seja:

"Considerando as informações contidas no artigo: [Contexto do Artigo], como podemos responder à seguinte questão: [Pergunta do Usuário]?"

Essa estrutura é uma forma simples para compreensão do processo pelo qual o assistente utiliza informações de um contexto específico para responder a uma pergunta.

POR QUE IMPORTA?

Com o RAG os assistentes (GPTs, Claude etc) oferecem respostas mais precisas, detalhadas e atualizadas, ajudando a tomar decisões mais informadas. Isso aumenta a confiabilidade e a utilidade desses assistentes no mercado, seja na construção de novos negócios, eficiência operacionalmente, personalização em produtos e potencialmente levará à uma maior adoção e satisfação do cliente.

LEITURA RECOMENDADA

Agora, prepare-se para as mudanças no mundo dos negócios. No IA para Negócios você tem a oportunidade de entender soluções e caminhos para extrair o melhor da Inteligência Artificial. Saiba mais aqui!