Plan du cours
Fondements du déploiement hybride de l'IA
- Compréhension des modèles de déploiement hybride, nuageux et de périphérie
- Caractéristiques des charges de travail IA et contraintes d'infrastructure
- Choix de la topologie de déploiement appropriée
Conteneurisation des charges de travail IA avec Docker
- Construction de conteneurs d'inférence GPU et CPU
- Gestion d'images et de registres sécurisés
- Mise en œuvre d'environnements reproductibles pour l'IA
Déploiement de services IA dans les environnements nuageux
- Exécution de l'inférence sur AWS, Azure et GCP via Docker
- Provisionnement du calcul nuageux pour le service de modèles
- Sécurisation des points de terminaison IA basés sur le nuage
Techniques de déploiement sur périphérie et en local
- Exécution de l'IA sur des dispositifs IoT, des passerelles et des microserveurs
- Environnements d'exécution légers pour la périphérie
- Gestion de la connectivité intermittente et de la persistance locale
Réseau hybride et connectivité sécurisée
- Tunelling sécurisé entre la périphérie et le nuage
- Certificats, secrets et accès basé sur des jetons
- Ajustement des performances pour une inférence à faible latence
Orchestration des déploiements d'IA distribués
- Utilisation de K3s, K8s ou d'orchestration légère pour les configurations hybrides
- Découverte de services et planification des charges de travail
- Automatisation des stratégies de déploiement multi-sites
Surveillance et observabilité entre les environnements
- Suivi des performances d'inférence à travers les différents sites
- Journalisation centralisée pour les systèmes d'IA hybrides
- Détection des pannes et récupération automatisée
Évolutivité et optimisation des systèmes d'IA hybrides
- Élargissement des clusters de périphérie et des nœuds nuageux
- Optimisation de l'utilisation de la bande passante et de la mise en cache
- Équilibrage des charges de calcul entre le nuage et la périphérie
Synthèse et prochaines étapes
Pré requis
- Compréhension des concepts de conteneurisation
- Expérience des opérations en ligne de commande Linux
- Connaissance des flux de travail de déploiement de modèles d'IA
Public cible
- Architectes d'infrastructure
- Ingénieurs de fiabilité des sites (SRE)
- Développeurs spécialisés en périphérie (edge) et IoT
Nos clients témoignent (3)
programme de formation structuré et organisé en plusieurs niveaux.
Bert Paelinckx - Cube SoftwareSolutions
Formation - Introduction to Docker
Traduction automatique
Comment les formateurs transmettent-ils efficacement leurs connaissances
Vu Thoai Le - Reply Polska sp. z o. o.
Formation - Certified Kubernetes Administrator (CKA) - exam preparation
Traduction automatique
Les connaissances et les échanges avec Augustin
Laurent - L'Office national des vacances annuelles (ONVA)
Formation - Docker and Kubernetes
Traduction automatique