Posso usar vários modelos ao mesmo tempo?
Sim, essa é uma das razões principais da camada comum.
AI Orchestration · Arquitetura
A arquitetura de referência da AI orchestration
Como as camadas se combinam e qual caminho uma solicitação percorre, da pessoa ao modelo e de volta.
As camadas
Acesso
Interfaces de conversa, APIs, WhatsApp e integrações.
Plano de controle
Identidade, políticas, aprovações, registros e custos em cada solicitação.
Orquestração
Agentes e fluxos que dividem tarefas e chamam ferramentas.
Modelos
Vários modelos escolhidos por tarefa, dados e custo.
Conhecimento
Documentos e dados indexados com busca que respeita permissões.
O caminho de uma solicitação
- Uma pessoa ou sistema inicia uma tarefa
- O plano de controle verifica identidade e políticas
- A orquestração escolhe agente ou fluxo
- O conhecimento autorizado é recuperado
- Um modelo adequado é selecionado e chamado
- Ações em sistemas passam pelas aprovações previstas
- Tudo é registrado
Integração com sistemas da empresa
Conectores para ERP, CRM, e-commerce, central de atendimento e gestão documental são construídos uma vez e compartilhados por todos os agentes. Ações de escrita têm controles mais rígidos do que a leitura.
Opções de hospedagem
Nuvem pública, inclusive em regiões no Brasil, nuvem privada e infraestrutura própria podem ser combinadas. As classes de dados determinam onde o processamento é permitido.
Ambientes e versões
Separe desenvolvimento, homologação e produção também para instruções, agentes e regras de roteamento, testando cada mudança com os conjuntos de teste antes de publicar e mantendo a versão anterior para retorno rápido.
Latência e experiência do usuário
Para atendimento em tempo real, meça o tempo total da mensagem recebida até a resposta, incluindo buscas e integrações. Modelos e regiões mais próximos podem ser preferíveis para esses casos.
Perguntas frequentes
Onde fica o conhecimento da empresa?
Normalmente nos sistemas de origem; a camada o indexa respeitando as permissões.