Kom i kontakt

Kursplan

Grundläggande principer för agenta-system i produktion

  • Agentarkitekturer: cykler, verktyg, minne och orkestreringslager
  • Agenters livscykel: utveckling, distribution och kontinuerlig drift
  • Utmaningar med hantering av agenter i produktionsstorskalig miljö

Infrastruktur och distributionsmodeller

  • Distribution av agenter i containerbaserade och molnbaserade miljöer
  • Skalningsmönster: horisontell vs vertikal skalning, konkurrens och strypning (throttling)
  • Orkestrering av multipla agenter och balansering av arbetsbelastning

Övervakning och observabilitet

  • Viktiga metrik: latens, lyckandelista, minnesanvändning och agentanslutningens djup
  • Sporning av agentaktivitet och anropsggrafer
  • Instrumentering av observabilitet med hjälp av Prometheus, OpenTelemetry och Grafana

Loggning, granskning och efterlevnad

  • Centraliserad loggning och strukturerad insamling av händelser
  • Efterlevnad och granskbarhet i agenta-arbetsflöden
  • Design av granskningsspår och återuppspelningsmekanismer för felsökning

Prestandaoptimering och resursoptimering

  • Minska inferensutgift och optimera agentors orkestreringscykler
  • Modellcache och lätta inbäddningar för snabbare hämtning
  • Lasttestning och stressscenarier för AI-pipelines

Kostnadskontroll och styre

  • Förstå agenternas kostnadsfaktorer: API-anrop, minne, beräkning och externa integrationer
  • Sporning av agentnivå kostnader och implementering av återkravsmodeller
  • Automatiseringspolicyer för att förhindra spridning av agenter och inaktiv resursanvändning

CI/CD och lanseringsstrategier för agenter

  • Integration av agentpipelines i CI/CD-system
  • Testning, versionering och återställningsstrategier för iterativa agentuppdateringar
  • Progressiva lanseringar och säkra distributionsmekanismer

Felhantering och tillförlitlighetsingenjörskonst

  • Design för feltolerans och graciös degradering
  • Återupprättnings-, tidsbegränsnings- och kretssäkringsmönster för agenttillförlitlighet
  • Incidenthantering och postmortem-ramverk för AI-drift

Avslutande projekt

  • Bygg och distribuera ett agenta-baserat AI-system med fullständig övervakning och kostnadsspårning
  • Simulera last, mät prestanda och optimera resursanvändning
  • Presentera den slutgiltiga arkitekturen och övervakningsdashboaden för kollegor

Sammanfattning och nästa steg

Krav

  • Grundläggande förståelse för MLOps och maskininlärningssystem i produktion
  • Erfarenhet av containerbaserad distribution (Docker/Kubernetes)
  • Kunskap om molnkostnadsoptimering och verktyg för observabilitet

Målgrupp

  • MLOps-ingenjörer
  • Site Reliability Engineers (SREs)
  • Teckningschefer som ansvarar för AI-infrastruktur
 21 Timmar

Antal deltagare


Pris per deltagare

Vittnesmål (3)

Kommande Kurser

Relaterade Kategorier