Prenez contact avec nous

Plan du cours

Fondements du déploiement hybride de l'IA

  • Compréhension des modèles de déploiement hybride, nuageux et de périphérie
  • Caractéristiques des charges de travail IA et contraintes d'infrastructure
  • Choix de la topologie de déploiement appropriée

Conteneurisation des charges de travail IA avec Docker

  • Construction de conteneurs d'inférence GPU et CPU
  • Gestion d'images et de registres sécurisés
  • Mise en œuvre d'environnements reproductibles pour l'IA

Déploiement de services IA dans les environnements nuageux

  • Exécution de l'inférence sur AWS, Azure et GCP via Docker
  • Provisionnement du calcul nuageux pour le service de modèles
  • Sécurisation des points de terminaison IA basés sur le nuage

Techniques de déploiement sur périphérie et en local

  • Exécution de l'IA sur des dispositifs IoT, des passerelles et des microserveurs
  • Environnements d'exécution légers pour la périphérie
  • Gestion de la connectivité intermittente et de la persistance locale

Réseau hybride et connectivité sécurisée

  • Tunelling sécurisé entre la périphérie et le nuage
  • Certificats, secrets et accès basé sur des jetons
  • Ajustement des performances pour une inférence à faible latence

Orchestration des déploiements d'IA distribués

  • Utilisation de K3s, K8s ou d'orchestration légère pour les configurations hybrides
  • Découverte de services et planification des charges de travail
  • Automatisation des stratégies de déploiement multi-sites

Surveillance et observabilité entre les environnements

  • Suivi des performances d'inférence à travers les différents sites
  • Journalisation centralisée pour les systèmes d'IA hybrides
  • Détection des pannes et récupération automatisée

Évolutivité et optimisation des systèmes d'IA hybrides

  • Élargissement des clusters de périphérie et des nœuds nuageux
  • Optimisation de l'utilisation de la bande passante et de la mise en cache
  • Équilibrage des charges de calcul entre le nuage et la périphérie

Synthèse et prochaines étapes

Pré requis

  • Compréhension des concepts de conteneurisation
  • Expérience des opérations en ligne de commande Linux
  • Connaissance des flux de travail de déploiement de modèles d'IA

Public cible

  • Architectes d'infrastructure
  • Ingénieurs de fiabilité des sites (SRE)
  • Développeurs spécialisés en périphérie (edge) et IoT
 21 Heures

Nombre de participants


Prix par participant

Nos clients témoignent (3)

Cours à venir

Catégories Similaires