A Geração Aumentada de Recuperação (RAG) é uma técnica que combina modelos linguísticos generativos (LLMs) com sistemas de recuperação de documentos.
Durante a geração, o modelo consulta uma base de conhecimentos externa ao LLM para obter informações relevantes em tempo real.
Estas informações são integradas em seguida na resposta, garantindo a exatidão e o conteúdo atualizado.
O RAG é útil em contextos em que é necessário responder com dados atualizados ou especializados não presentes no modelo LLM que gere a comunicação com o utilizador.
Em particular, o GAIA está equipado com um ambiente específico para o carregamento de documentos de apoio ao RAG. Este ambiente permite que as bases documentais sejam especializadas de acordo com a natureza do pedido (por exemplo, marketing, técnico, regulamentar, etc.), para fornecer respostas pertinentes e exatas.
O GAIA permite-lhe igualmente recuperar os textos originais subjacentes a cada resposta, de modo a poder verificá-los imediatamente, se necessário.

A natureza modular do GAIA permite a implementação modular baseada em vários Modelos de Linguagem de Grande Escala (LMM).
A implementação padrão utiliza o ChatGPT, tirando assim partido do lançamento contínuo de novas funcionalidades, bem como do imenso poder computacional oferecido pelos modelos full-web.
Basta considerar que se acredita que o ChatGPT 4 se baseie em oito modelos especializados, cada um dos quais implementa aproximadamente 200 mil milhões de parâmetros (pesos).
É também possível implementar o GAIA em modo “full edge”, ou seja, suportado exclusivamente pelos recursos de um PLC ou PC industrial, sem acesso à Web.
Esta arquitetura baseia-se em modelos de linguagem da família LLaMA (Large Language Model Meta AI), que também podem ser executados em máquinas sem uma unidade de processamento gráfico dedicada.
Para referência, um modelo LLaMA com mil milhões de pesos ocupa uma memória local da ordem de 1 GB.
Além disso, é necessário disponibilizar o espaço necessário para implementar o RAG localmente.
Isto significa que uma implementação completa na extremidade do GAIA deve concentrar-se numa missão específica, a fim de obter uma potência e uma eficácia comparáveis à da versão Web (por exemplo, apoio técnico para a resolução de períodos de inatividade de máquinas, incluindo a documentação técnica da máquina e uma base de dados histórica dos tickets de manutenção no RAG).
No entanto, a natureza modular do GAIA permite que os chatbots em nuvem e de ponta sejam utilizados lado a lado, dependendo do tipo de consulta e da necessidade de funcionarem offline.

A plataforma G-Mation é particularmente adequada para apoiar a implementação do GAIA nos modos de nuvem e de borda completa.
Em primeiro lugar, a arquitetura docker permite-lhe implementar e atualizar facilmente as aplicações dockerizadas do GAIA, mesmo em máquinas já no terreno.
Além disso, a arquitetura do servidor Web da G-Mation, graças à tecnologia NGINX, permite gerir backends adicionais, para além do integrado no PLC para o controlo e a configuração da máquina.
Em particular, o backend contido no contentor Docker GAIA permite abrir a aplicação diretamente no painel do operador G-Mation, com tecnologia Web.
É tão simples como abrir uma nova janela no navegador do seu computador pessoal.
Quanto à implementação baseada na nuvem, a disponibilidade de uma VPN dockerizada diretamente no PLC G-Mation permite-lhe aceder à plataforma de nuvem GAIA com toda a segurança, sem ter de passar por gateways adicionais.
Quanto à implementação completa na extremidade, os 8 GB de memória e a arquitetura multicore da CPU permitem-lhe realizar muitas tarefas de apoio ao operador sem afetar de forma alguma o controlo da máquina.