Base de infraestrutura
- Servidores com GPU para inferência e ajuste de modelos
- Armazenamento e rede do ambiente de IA
- Plataforma de hardware dimensionada para a carga
A infraestrutura Dell fornece a capacidade computacional. A F2AI e a OPERA organizam essa capacidade em uma operação de IA, com acesso, consumo e auditoria sob o controle da empresa.
Quatro camadas, cada uma com um papel definido. A OPERA fica entre as aplicações e a infraestrutura e aplica as mesmas regras de acesso, roteamento e registro a todos os modelos, locais ou em nuvem.
Os sistemas do cliente consomem IA por uma API única, sem se prender a um modelo ou a um servidor específico.
Plano de controle que decide quem acessa o quê, para qual modelo cada chamada vai, em qual GPU roda e o que fica registrado.
Modelos abertos rodam na infraestrutura própria. Serviços em nuvem entram por um gateway opcional, quando o caso pede.
Servidores com GPU, armazenamento e rede dimensionados para a carga de cada projeto. É onde os modelos locais executam.
A Dell fornece a base de hardware. A F2IT dimensiona e implanta. A F2AI, com a OPERA, opera e governa a IA que roda sobre ela.
Cada chamada de IA passa pela OPERA antes de chegar ao hardware. É nesse trajeto que acesso, custo e registro são aplicados.
Um sistema ou usuário envia a requisição pelo endpoint único da OPERA.
ClienteA OPERA valida quem pede, para qual aplicação e sob quais limites.
OPERAA chamada segue para um modelo local ou, se previsto, para um serviço em nuvem.
OPERAO modelo local executa nos servidores Dell, com a capacidade alocada pela OPERA.
DellUso, consumo e resultado ficam registrados por aplicação, modelo e usuário.
OPERAA resposta volta pelo mesmo caminho, sem a aplicação conhecer o modelo por trás.
ClienteA escolha do ambiente é uma decisão de arquitetura por carga de trabalho. A OPERA mantém as mesmas regras nos três cenários.
Indicado quando o caso exige maior controle sobre dados, acesso, latência, capacidade ou continuidade.
Infraestrutura DellDistribui as cargas conforme sensibilidade, custo e capacidade, com failover entre ambientes quando configurado.
Prioriza elasticidade e velocidade de implantação, acessada por gateway opcional.
A OPERA traduz o consumo do hardware em indicadores que a TI, o negócio e a área de compliance conseguem acompanhar.
Projetos que partem de um desafio de negócio e terminam em uma solução integrada e governada.
Levantamento das cargas, dos modelos e dos requisitos para definir a configuração Dell adequada.
Instalação do ambiente, integração ao data center do cliente e implantação da camada de controle.
Acompanhamento, treinamento e evolução do ambiente, com um Technical Account Manager dedicado.
A F2AI pode apresentar a arquitetura sobre infraestrutura Dell para uma carga de trabalho da sua organização.