A segurança do protocolo define quem pode agir, não o modelo.
A injeção de prompt recebe a maior parte da atenção em relação à segurança em sistemas de LLM (Modelos de Linguagem de Grande Escala), e merece atenção, mas não é o único problema quando os agentes começam a chamar ferramentas e delegar trabalho a outros agentes.
Escolha o padrão mais simples que funcione.
Sistemas de modelo único são simples. Sistemas de múltiplos modelos são poderosos. O desafio não é escolher os modelos, mas sim projetar a arquitetura que os orquestra.
O modelo certo para a tarefa certa.
Executar um modelo com 70 bilhões de parâmetros para resumir um e-mail de 200 palavras é um desperdício. Executar um modelo de 3 bilhões de parâmetros para revisar código em produção é imprudente. A maioria dos sistemas está em algum lugar no meio — e é aí que o roteamento de modelos entra.
Controle o risco, não apenas o modelo.
Os LLMs são imprevisíveis. Eles alucinam, vazam dados, geram conteúdo prejudicial ou recusam solicitações legítimas. As barreiras de segurança (guardrails) restringem o comportamento do modelo sem sacrificar a capacidade.
Gaste tokens onde realmente importam.
Os custos dos LLMs (Modelos de Linguagem de Grande Escala) escalam linearmente com o uso. Um sistema que processa 10.000 solicitações por dia a $0,01 por solicitação custa $100 diariamente — o que totaliza $365 por ano. Em escala empresarial, isso ultrapassa os $10.000.
