聯繫我們

課程簡介

使用Docker进行AI推理简介

  • 理解AI推理工作负载
  • 容器化推理的优势
  • 部署场景与限制

构建AI推理容器

  • 选择基础镜像和框架
  • 打包预训练模型
  • 构建用于容器执行的推理代码结构

保护容器化AI服务的安全

  • 最小化容器攻击面
  • 管理密钥和敏感文件
  • 安全网络与API暴露策略

可移植部署技术

  • 优化镜像以提高可移植性
  • 确保可预测的运行时环境
  • 跨平台管理依赖项

本地部署与测试

  • 使用Docker在本地运行服务
  • 调试推理容器
  • 测试性能和可靠性

在服务器和云端虚拟机上部署

  • 为远程环境调整容器
  • 配置安全的服务器访问
  • 在云端虚拟机上部署推理API

使用Docker Compose构建多服务AI系统

  • 使用支持组件编排推理
  • 管理环境变量和配置
  • 使用Compose扩展微服务

AI推理服务的监控与维护

  • 日志记录与可观测性方法
  • 检测推理流水线中的故障
  • 在生产环境中更新和版本化模型

总结与后续步骤

最低要求

  • 理解基本的机器学习概念
  • 具有Python或后端开发经验
  • 熟悉基础容器概念

目标受众

  • 开发人员
  • 后端工程师
  • 部署AI服务的团队
 14 小時

人數


每位參與者的報價

客戶評論 (3)

即將到來的課程

課程分類