感謝您提交詢問!我們的一位團隊成員將在短時間內與您聯繫。
感謝您提交預訂!我們的一位團隊成員將在短時間內與您聯繫。
課程簡介
使用Docker进行AI推理简介
- 理解AI推理工作负载
- 容器化推理的优势
- 部署场景与限制
构建AI推理容器
- 选择基础镜像和框架
- 打包预训练模型
- 构建用于容器执行的推理代码结构
保护容器化AI服务的安全
- 最小化容器攻击面
- 管理密钥和敏感文件
- 安全网络与API暴露策略
可移植部署技术
- 优化镜像以提高可移植性
- 确保可预测的运行时环境
- 跨平台管理依赖项
本地部署与测试
- 使用Docker在本地运行服务
- 调试推理容器
- 测试性能和可靠性
在服务器和云端虚拟机上部署
- 为远程环境调整容器
- 配置安全的服务器访问
- 在云端虚拟机上部署推理API
使用Docker Compose构建多服务AI系统
- 使用支持组件编排推理
- 管理环境变量和配置
- 使用Compose扩展微服务
AI推理服务的监控与维护
- 日志记录与可观测性方法
- 检测推理流水线中的故障
- 在生产环境中更新和版本化模型
总结与后续步骤
最低要求
- 理解基本的机器学习概念
- 具有Python或后端开发经验
- 熟悉基础容器概念
目标受众
- 开发人员
- 后端工程师
- 部署AI服务的团队
14 小時
客戶評論 (3)
多层次、结构化的课程体系。
Bert Paelinckx - Cube SoftwareSolutions
課程 - Introduction to Docker
機器翻譯
培訓師如何如此有效地傳授知識
Vu Thoai Le - Reply Polska sp. z o. o.
課程 - Certified Kubernetes Administrator (CKA) - exam preparation
機器翻譯
與Augustin的知識交流
Laurent - L'Office national des vacances annuelles (ONVA)
課程 - Docker and Kubernetes
機器翻譯