Bądźmy w kontakcie

Plan Szkolenia

Wprowadzenie do wnioskowania AI z Dockerem

  • Zrozumienie obciążeń związanych z wnioskowaniem AI
  • Korzyści ze skonteneryzowanego wnioskowania
  • Scenariusze wdrożeń i ograniczenia

Budowanie kontenerów wnioskowania AI

  • Wybór obrazów bazowych i frameworków
  • Pakowanie wytrenowanych modeli
  • Strukturyzacja kodu wnioskowania pod kątem wykonywania w kontenerze

Zabezpieczanie skonteneryzowanych usług AI

  • Minimalizowanie powierzchni ataku kontenera
  • Zarządzanie sekretami i plikami poufnymi
  • Strategie bezpiecznej komunikacji sieciowej i udostępniania API

Techniki przenośnego wdrażania

  • Optymalizacja obrazów pod kątem przenośności
  • Zapewnianie przewidywalnych środowisk uruchomieniowych
  • Zarządzanie zależnościami na różnych platformach

Lokalne wdrażanie i testowanie

  • Uruchamianie usług lokalnie za pomocą Dockera
  • Debugowanie kontenerów wnioskowania
  • Testowanie wydajności i niezawodności

Wdrażanie na serwerach i maszynach wirtualnych w chmurze

  • Dostosowywanie kontenerów do środowisk zdalnych
  • Konfigurowanie bezpiecznego dostępu do serwera
  • Wdrażanie API wnioskowania na maszynach wirtualnych w chmurze

Korzystanie z Docker Compose w wielousługowych systemach AI

  • Orkiestracja wnioskowania z komponentami pomocniczymi
  • Zarządzanie zmiennymi środowiskowymi i konfiguracjami
  • Skalowanie mikroserwisów za pomocą Compose

Monitorowanie i utrzymanie usług wnioskowania AI

  • Podejścia do logowania i obserwowalności
  • Wykrywanie awarii w potokach wnioskowania
  • Aktualizowanie i wersjonowanie modeli w środowisku produkcyjnym

Podsumowanie i kolejne kroki

Wymagania

  • Zrozumienie podstawowych pojęć uczenia maszynowego
  • Doświadczenie w Pythonie lub programowaniu backendowym
  • Znajomość podstawowych koncepcji kontenerów

Grupa docelowa

  • Programiści
  • Inżynierowie backendu
  • Zespoły wdrażające usługi AI
 14 godzin

Liczba uczestników


Cena za uczestnika (netto)

Opinie uczestników (3)

Propozycje terminów

Powiązane Kategorie