Système de calcul intensif qui sous-tend chaque charge de travail d'IA sur Google Cloud. Personnalisez ses composants à l'aide de matériel entièrement intégré, de logiciels ouverts et de modèles de consommation flexibles.
Présentation
Choisissez des options de calcul, de stockage et de gestion de réseaux optimisées pour remplir des objectifs précis au niveau des charges de travail, qu'il s'agisse d'augmenter le débit, de réduire la latence, d'accélérer le délai d'obtention des résultats ou de diminuer le coût total de possession. En savoir plus sur : Google Cloud TPU, Google Cloud GPU, Google Cloud Storage, Titanium, réseau Jupiter
AI Hypercomputer est optimisé pour être compatible avec les outils et bibliothèques les plus courants, tels que Pytorch et JAX. De plus, il permet aux clients de bénéficier de technologies telles que les configurations multi-segments et multihôtes Cloud TPU, ainsi que de services gérés tels que Google Kubernetes Engine. Les clients peuvent ainsi effectuer un déploiement clé en main pour des charges de travail courantes telles que le framework NVIDIA NeMO orchestré par SLURM.
Nos modèles de consommation flexibles permettent aux clients de choisir des coûts fixes avec des remises sur engagement d'utilisation ou des modèles dynamiques à la demande pour répondre aux besoins de leur entreprise.Le planificateur dynamique de charges de travail aide les clients à obtenir la capacité dont ils ont besoin sans surallouer les ressources. Ainsi, ils ne paient que ce dont ils ont besoin.De plus, les outils d'optimisation des coûts de Google Cloud permettent d'automatiser l'utilisation des ressources afin de réduire les tâches manuelles des ingénieurs.
Fonctionnement
Google est un leader de l'intelligence artificielle grâce à l'invention de technologies comme TensorFlow. Saviez-vous que vous pouvez exploiter la technologie Google pour vos propres projets ? Découvrez l'historique de l'innovation de Google dans le domaine de l'infrastructure d'IA et comment vous pouvez l'exploiter pour vos charges de travail.
Utilisations courantes
L'architecture AI HyperComputer offre la possibilité d'utiliser l'infrastructure sous-jacente qui s'adapte le mieux à vos besoins d'entraînement.
Mesurez l'efficacité de votre entraînement à grande échelle à l'aide de Google avec ML Productivity Goodput.
"Nous avons besoin de GPU pour générer des réponses aux messages des utilisateurs. Plus notre plate-forme compte d'utilisateurs, plus nous avons besoin de GPU pour répondre aux besoins. Nous pouvons donc faire des tests sur Google Cloud pour trouver la plate-forme adaptée à une charge de travail spécifique. C'est formidable de pouvoir choisir les solutions les plus intéressantes." Myle Ott, ingénieur fondateur, Character.AI
L'architecture AI HyperComputer offre la possibilité d'utiliser l'infrastructure sous-jacente qui s'adapte le mieux à vos besoins d'entraînement.
Mesurez l'efficacité de votre entraînement à grande échelle à l'aide de Google avec ML Productivity Goodput.
"Nous avons besoin de GPU pour générer des réponses aux messages des utilisateurs. Plus notre plate-forme compte d'utilisateurs, plus nous avons besoin de GPU pour répondre aux besoins. Nous pouvons donc faire des tests sur Google Cloud pour trouver la plate-forme adaptée à une charge de travail spécifique. C'est formidable de pouvoir choisir les solutions les plus intéressantes." Myle Ott, ingénieur fondateur, Character.AI
Google Cloud s'engage à veiller au bon fonctionnement des frameworks ouverts dans l'architecture AI Hypercomputer.
L'écosystème logiciel ouvert de Google Cloud vous permet de créer des applications avec les outils et les frameworks avec lesquels vous êtes le plus à l'aise, tout en profitant du rapport prix/performances qu'offre l'architecture AI Hypercomputer.
"En intégrant l'IA générative à notre chatbot en collaboration avec Google Cloud, nous avons pu créer un assistant de voyage sur mesure. Nous voulons révolutionner l'organisation de voyages afin de faire vivre des vacances uniques à nos clients." Martin Brodbeck, directeur de la technologie, Priceline
Google Cloud s'engage à veiller au bon fonctionnement des frameworks ouverts dans l'architecture AI Hypercomputer.
L'écosystème logiciel ouvert de Google Cloud vous permet de créer des applications avec les outils et les frameworks avec lesquels vous êtes le plus à l'aise, tout en profitant du rapport prix/performances qu'offre l'architecture AI Hypercomputer.
"En intégrant l'IA générative à notre chatbot en collaboration avec Google Cloud, nous avons pu créer un assistant de voyage sur mesure. Nous voulons révolutionner l'organisation de voyages afin de faire vivre des vacances uniques à nos clients." Martin Brodbeck, directeur de la technologie, Priceline
Google Cloud offre un rapport prix/performances inégalé pour l'inférence de modèles d'IA, avec des accélérateurs facultatifs qui répondent aux besoins de toutes les charges de travail.
Les instances de VM Cloud TPU v5e et G2 fournissant des GPU NVIDIA L4 permettent des inférences hautes performances et économiques pour un large éventail de charges de travail d'IA, y compris les derniers LLM et modèles d'IA générative. Ces deux solutions offrent des performances tarifaires nettement supérieures par rapport aux modèles précédents. De plus, l'architecture AI Hypercomputer de Google Cloud permet aux clients d'adapter leurs déploiements à des niveaux de pointe.
"Nos résultats expérimentaux montrent que Cloud TPU v5e est l'accélérateur le plus rentable pour exécuter des inférences à grande échelle pour notre modèle. Leurs performances par dollar sont 2,7 fois supérieures à celles de G2 et 4,2 fois plus élevées que les instances A2." Domenic Donato,
Vice-président de la technologie, AssemblyAI
Google Cloud offre un rapport prix/performances inégalé pour l'inférence de modèles d'IA, avec des accélérateurs facultatifs qui répondent aux besoins de toutes les charges de travail.
Les instances de VM Cloud TPU v5e et G2 fournissant des GPU NVIDIA L4 permettent des inférences hautes performances et économiques pour un large éventail de charges de travail d'IA, y compris les derniers LLM et modèles d'IA générative. Ces deux solutions offrent des performances tarifaires nettement supérieures par rapport aux modèles précédents. De plus, l'architecture AI Hypercomputer de Google Cloud permet aux clients d'adapter leurs déploiements à des niveaux de pointe.
"Nos résultats expérimentaux montrent que Cloud TPU v5e est l'accélérateur le plus rentable pour exécuter des inférences à grande échelle pour notre modèle. Leurs performances par dollar sont 2,7 fois supérieures à celles de G2 et 4,2 fois plus élevées que les instances A2." Domenic Donato,
Vice-président de la technologie, AssemblyAI