Mirai é uma camada de infraestrutura para executar modelos de IA diretamente em dispositivos do usuário final. Desenvolvedores integram um SDK para transferir a inferência da nuvem para CPUs e GPUs locais, mantendo o controle sobre a arquitetura do modelo.
Inferência no dispositivo e privacidade de dados
Mirai foca em inferência local, em que as saídas do modelo são calculadas no laptop, smartphone ou desktop do usuário. Isso ajuda a reduzir a latência, diminui a dependência da conectividade de rede e evita o envio de dados sensíveis para a nuvem.
Descarregue GPUs na nuvem e escale com eficiência
Ao mover parte da carga de trabalho para os dispositivos dos clientes, as GPUs na nuvem podem ser reservadas para tarefas que realmente exigem escalabilidade centralizada. Essa abordagem dá suporte ao crescimento do produto sem aumento linear dos custos de infraestrutura.
Ferramentas para desenvolvedores de produtos de IA
Mirai inclui componentes projetados para acelerar a implementação da inferência local:
SDK para integrar inferência no dispositivo aos apps
Biblioteca de modelos
App para macOS
Documentação e integrações prontas para reduzir retrabalho
