@dev.ao.cuboGOOGLE ABRE ML DRIFT GPU NA BORDA
Notícias de IA
Apache 2.0ML Drift foi disponibilizado como mecanismo GPU para inferência local.
4 APIsO mecanismo conecta inferência local a quatro APIs gráficas conforme a plataforma.
5DML Drift adiciona suporte nativo a tensores 5D para cargas complexas na borda.
Até 12%Nos testes Gemma do Google, houve até 12% menos memória.
Legenda do postO mesmo texto da legenda no Instagram.
A Google abriu o ML Drift, mecanismo GPU para inferência local sob Apache 2.0. O projeto integra o LiteRT e também funciona como biblioteca independente. Salve para acompanhar as notícias de IA. Siga @dev.ao.cubo. Fontes: - developers.googleblog.com: https://developers.googleblog.com/ml-drift-next-gen-gpu-aiml-inference-at-the-edge/
Fontes