Graphcore et Cirrascale annoncent Graphcloud
Accélérer l’innovation grâce au processeur Mk2 IPU de Graphcore dans le cloud .
Graphcore annonce aujourd'hui une nouvelle initiative pour aider les clients à accélérer leur innovation et tirer parti de la puissance de l’IA à grande échelle.
En collaboration avec Cirrascale Cloud Services, Graphcore a créé une solution totalement nouvelle pour l’IA dans le cloud : le premier cluster scale-out Mk2 IPU-POD disponible publiquement, qui permet d’ajouter facilement de la capacité de calcul à la demande, sans qu’il soit nécessaire de détenir et d’exploiter un centre de données.
L’opportunité créée par l’IA s’accompagne aussi de défis inédits de traitement. La taille des modèles augmente rapidement et la barre est placée toujours plus haut en matière d’exactitude. Pour pouvoir tirer pleinement parti des innovations récentes, les clients ont besoin d’un système matériel et logiciel à l’intégration étroite, conçu spécialement pour l’intelligence artificielle.
Graphcloud est un service cloud sécurisé et fiable de la famille IPU-POD. Il permet aux clients d’avoir accès à la puissance de l’IPU (Intelligence Processing Unit) de Graphcore lorsqu’ils passent du stade de l’expérimentation, de la validation de concept et des projets pilotes à des systèmes de production de plus grande envergure.
Deux offres Graphcloud sont proposées à l’occasion de ce lancement, tandis que des systèmes scale-out plus grands seront ajoutés dans les mois à venir :
- IPU-POD16 - 4 pétaFLOPS de calcul IA (16 IPU GC200 installés dans 4 IPU-M2000)
- IPU-POD64 - 16 pétaFLOPS de calcul IA (64 IPU GC200 installés dans 16-IPU-M2000)
Les coûts liés à l’apprentissage par des systèmes IPU-POD sont inférieurs et plus rapides par comparaison avec les systèmes GPU les plus récents.
La pile logicielle Poplar et les logiciels système sont pré-installés sur les instances du système Graphcloud. Des échantillons de code et des exemples d’applications sont disponibles localement pour les modèles de pointe utilisés dans les tests de performances de Graphcore, notamment BERT, EfficientNet, etc. Les utilisateurs ont également accès à une documentation complète qui leur permet de se familiariser rapidement avec différentes structures, dont PyTorch et TensorFlow.
L’un des premiers clients de Graphcore à utiliser Graphcloud est la société britannique Healx, dont la plateforme d’intelligence artificielle dédiée à la recherche sur les médicaments permet d’identifier de nouvelles thérapies pour les maladies rares. La société a reçu le prix « Best Use of AI in Health and Medicine » (Meilleure utilisation de l’IA en santé et en médecine) lors des AI Awards de 2019.
“Nous avons commencé à utiliser un IPU-POD16 sur Graphcloud fin décembre 2020. Nous avons porté notre code Mk1 IPU existant sur le système Mk2. Le processus s’est déroulé avec une parfaite fluidité et nous a apporté un avantage considérable sur le plan des performances. Comme nous disposions de davantage de mémoire pour nos modèles, nous étions plus obligés de fragmenter notre modèle et nous pouvions à la place fragmenter nos données. Résultat, du code plus simple et une formation plus efficace du modèle,” explique Dan O’Donovan, responsable technique de l’ingénierie de l’apprentissage automatique chez Healx.
“Tout au long de notre collaboration avec Graphcore, nous avons toujours eu accès aux versions les plus récentes des matériels, des SDK et des outils. De plus, il y a un dialogue continu avec les ingénieurs experts en matériels et logiciels de Graphcore, au cours de réunions en direct et via le service de support.”
Nigel Toon, PDG de Graphcore, salue en ces termes le lancement de Graphcloud : “Grâce à Graphcloud, il n’a jamais été aussi facile d’utiliser l’IPU, que vous fassiez une première évaluation de notre matériel et de la pile logicielle Poplar, ou que vous fassiez monter en puissance vos ressources de calcul IA. Nous sommes ravis de collaborer avec Cirrascale pour proposer Graphcloud sur la scène mondiale. C’est un autre élément important de l’offre complète de Graphcore pour ses clients, qui vient s’ajouter à notre programme de partenariats internationaux, nos ventes en interne et notre support technique.”
Pour PJ Go, PDG de Cirrascale Cloud Services, “Cirrascale est très fier de sa collaboration stratégique avec Graphcore, qui fait avancer un peu plus l’ère des solutions cloud d’apprentissage automatique vers des déploiements commerciaux à grande échelle auprès de certaines des entreprises les plus passionnantes du classement Fortune 500.”
Tarification et spécifications
Types de système disponibles
IPU-POD16 - Système à base de 4 IPU-M2000
IPU-POD64 - Système à base de 16 IPU-M2000
Tarification
Spécifications
- Les deux systèmes utilisent l’architecture d’interconnexion IPU-Fabric développée par Graphcore. IPU-Fabric a été conçue spécifiquement pour éliminer les goulets d’étranglement de communication et permettre à des milliers d’IPU de fonctionner sur des charges de travail d’intelligence machine comme une seule unité cohérente, ultra-rapide et à haute performance.
- Chaque instance IPU-POD64 est hébergée sur quatre serveurs hôtes Dell R6525 dotés de processeurs CPU AMD EPYC2 à double socket, utilisés dans les plus puissants systèmes de centres de données d’IA sur site. Chaque IPU-POD16 comprend un serveur dédié correspondant à la même spécification.
- 16 To de stockage local NVMe sécurisé pour l’IPU-POD64, 4 To pour l’IPU-POD16.
- Chaque IPU-POD64 est doté de 57,6 Go de mémoire sur le processeur et de 2048 Go de mémoire à diffusion en flux (32 modules DIMM de 64 Go)
- Chaque IPU-POD16 est doté de 14,4 Go de mémoire sur le processeur et de 512 Go de mémoire à diffusion en flux (8 modules DIMM de 64 Go)
Pour plus d’informations sur Graphcloud, visitez le site graphcore.ai/graphcloud
www.graphcore.ai