Encaminhamento de Modelos: Pare de Usar o Mesmo Modelo para Tudo
O modelo certo para a tarefa certa.
Executar um modelo com 70 bilhões de parâmetros para resumir um e-mail de 200 palavras é um desperdício. Executar um modelo de 3 bilhões de parâmetros para revisar código em produção é imprudente. A maioria dos sistemas está em algum lugar no meio — e é aí que o roteamento de modelos entra.