Os modelos de linguagem de grande porte (LLMs) viveram uma verdadeira revolução nos últimos anos. Apesar de surgirem como curiosidade acadêmica, atualmente os LLMs são uma tecnologia de base, acessível e integrada na rotina de diversas empresas.
O avanço tornou as LLMs próximas a “commodities”, com uma grande variedade de opções (open source ou proprietárias) de processamento de linguagem natural sofisticado. Porém, o maior diferencial está na orquestração do ecossistema de modelos, agentes, segurança e governança, indo muito além da escolha da LLM.
A evolução das LLMs
As grandes empresas de tecnologia, como OpenIA, Google, Microsoft, Anthropic e outras oferecem APIs bem documentadas e acessíveis para o uso de suas LLMs. Em paralelo, inúmeras iniciativas de código aberto também surgiram de forma rápida, como a família de modelos LLaMA e derivados no Hugging Face, por exemplo. Como consequência, temos mais diversidade e competitividade pelo poder de processamento, velocidade e acurácia.
De acordo com a Vertesia, profissionais de tecnologia sênior reconhecem o valor potencial dos modelos de linguagem de grande porte para suas organizações. Dentre esse grupo, 9 em cada 10 (90%) acreditam que os LLMs trariam valor para sua organização.
Muitas vezes, para tarefas mais genéricas, profissionais optam pelo modelo que estiver disponível, porém a opção pode não garantir eficiência na resolução de um problema muito específico ou ainda, não estar totalmente aderente à agenda de segurança de dados e governança. Os setores sensíveis como saúde, telecomunicações e FSI (Financial Services & Insurance) têm mais agravantes: requisitos rígidos sobre criptografia em trânsito, anonimização de informações confidenciais, classificação de conteúdo, sanitização de prompts e gestão de placeholders. É neste espaço que um “mix de soluções” aparece.
Orquestração multi-LLM e SLM
Nem todos as LLMs conseguem solucionar desafios com a mesma profundidade e precisão. Diante disso, além das cada vez mais tradicionais técnicas de RAG, surgem os Pequenos Modelos de Linguagem (ou Small Language Models, SLMs), que são treinados em áreas específicas, como direito, medicina, dentre outros.
Além de grandes áreas de conhecimento, os SLMs podem ter tarefas específicas, como criar um modelo especializado em fazer resumos de prontuários de pacientes. Os SLMs são mais leves e rápidos com milhões ou poucos bilhões de parâmetros, diferente dos grandes modelos com centenas de bilhões ou trilhões de parâmetros.
Bom, você deve perguntar: por que devo usar apenas uma LLM genérica se posso optar por diversos modelos especializados e encaixar camadas extra de segurança, anonimização e conformidade?
É exatamente aqui que plataformas como a StackSpot AI se destacam.
A proposta não é substituir, mas sim integrar LLMs e SLMs diversas, combinando-as de forma inteligente e com a possibilidade de gerenciar de maneira unificada. Um orquestrador que decide qual modelo atende melhor a cada subtarefa em tempo real, com segurança e compatível com a LGPD ou outras regulamentações.
A importância de processos de Segurança e Governança sólida para a orquestração de LLMs e SLMs
Não tem como falar de IA, sem abordar a segurança e vulnerabilidade de dados. Um vazamento de informação é algo grave e o todo modelo LLM e SLM precisa ser confiável para impedir incidentes. Por isso, os recursos a seguir são importantes:
- Criptografia em trânsito e repouso: garantir que informações críticas sejam protegidas tanto durante o envio das requisições quanto no armazenamento.
- Anonimização e pseudoanonimização: remover ou mascarar dados sensíveis para que apenas o necessário seja exposto.
- Classificação de dados: etiquetar e categorizar informações de acordo com níveis de sigilo, aplicando políticas de acesso adequadas.
- Sanitização de prompts: impedir que prompts mal formatados ou maliciosos vazem dados privados ou resultem em comportamentos indesejados dos modelos.
- Placeholders inteligentes: substituir termos sensíveis por placeholders controlados, mantendo o contexto, mas preservando informações críticas.
Esses fatores são essenciais quando adotamos o uso de Inteligência Artificial de forma mais robusta. Um sistema de governança sólido, que gerencie logs, autorizações, versões de modelos e dados, é imprescindível para cenários mais complexos.
A governança e LLMs
Muito além de integrar modelos e adicionar camadas de segurança, a governança engloba a rastreabilidade de quem faz cada requisição, controles de acesso granulares e outras ações. Isso associado a um sistema que permite configurações de políticas de compliance, auditoria e monitoramento contínuo.
O desafio é grande, mas necessário, visto que a adoção da IA em setores críticos – como bancos, hospitais e outros – são regidos por normas e legislações específicas.
Multiagentes: especialistas virtuais
Outro movimento relevante na área de tecnologia é o uso de multiagentes de IA. Em uma plataforma, é possível criar vários agentes de IA para tarefas diferentes, por exemplo, otimizar códigos de programação, realizar triagem de dados em uma planilha, analisar um texto jurídico, entre outras inúmeras possibilidades.
Para garantir a melhor eficiência possível para cada caso de uso, além da contextualização com bases de informação específicas, outra abordagem interessante é justamente contar com modelos diferentes de LLMs para determinados agentes. Em vez de usar um único modelo para tentar resolver todos os desafios, os sistemas multiagentes podem distribuir as tarefas para os agentes com os modelos mais indicados para cada trabalho.
Para se ter ideia, a Gartner prevê que até 2028 pelo menos 15% das tomadas de decisões serão feitas por agentes de IA. Hoje, essa taxa é de 0%.
Na StackSpot AI, os agentes podem ser orquestrados de forma customizada para cada contexto de negócios, com logs detalhados, checagem de permissões e várias camadas de segurança. Nesse caso, a abordagem é flexível e escalável, adaptada ao mundo real das grandes empresas.
Descubra como os Multiagentes da StackSpot AI podem transformar todo o ciclo de desenvolvimento neste vídeo no nosso canal no YouTube:
Conclusão
A tendência é que LLMs e SLMs se tornem um recurso cada vez mais abundante, de forma que as plataformas que entregam estratégias de integração, gerenciamento e proteção, são cruciais para que grandes empresas ganhem escala, garantindo qualidade, segurança e governança.
No futuro, veremos ainda mais iniciativas que lidam com a complexidade do uso de múltiplos modelos, portanto o diferencial será quem tem experiência e conhecimento técnico para entregar a orquestração de forma confiável.
Orquestração se transforma em diferencial
O conceito de plataforma inteligente, voltada para a criação e orquestração de soluções de IA multi-LLM e multiagente é a proposta da StackSpot AI da Zup Innovation. A meta é entender que as empresas podem aproveitar todos os avanços tecnológicos das LLMs e SLMs, sem ser refém de um único modelo e nem colocar em risco a segurança e governança.
Por exemplo, as empresas que atuam em setores regulados e trabalham com dados sensíveis, a escolha da LLM é muito mais criteriosa do que escolher aquela que está no “hype”. O futuro será uma mescla de diversas LLMs e SLMs integradas de forma orquestrada e transparente, com segurança e governança.
O alto conhecimento técnico, parcerias confiáveis e mentalidade aberta para experimentar modelos diferentes são ingredientes essenciais para o uso da tecnologia. Você deve se perguntar: por que se prender a uma LLM, quando posso ter um repertório de modelos especializados?
É a capacidade de orquestração que fará a diferença. Dessa forma, transformamos a IA em mais do que um recurso, mas uma verdadeira vantagem competitiva.
O que achou do artigo? Compartilhe sua opinião nos comentários.
