Skip to content

hasaki321/EmbodiedAI_25

Repository files navigation

物理人机交互仿真

本项目旨在探索具身智能(Embodied AI)与人机交互(HOI)领域,使用NVIDIA Isaac Lab作为核心仿真与训练平台。项目从基础环境搭建开始,逐步深入到强化学习运动控制,最终目标是实现复杂的人机交互任务。

我这里让AI给我设计了一个更平滑的的学习任务清单,同时结合自己的探索路线规划了任务。这个清单会结合文档的所有核心要求,并把它们安排在最符合认知规律的顺序上, 详见 任务清单


任务清单与项目进展

以下是本项目的学习与开发路线图,记录了各个阶段的目标和完成情况。

  • [x] 已完成
  • [-] 部分完成 / 进行中
  • [ ] 未开始

阶段一:入门与环境搭建 (Familiarization & Setup)

目标: 成功配置开发环境,熟悉Isaac Sim/Lab的基本操作,并能通过代码程序化地搭建和控制一个简单的仿真世界。

  • [x] 任务 1.1: 环境与工具链安装

    • 实验记录: assets/docs/1_Installation.md
    • 简介: 记录了在不同平台(本地服务器、云平台、Windows)上安装Isaac Sim与Isaac Lab的过程,以及遇到的问题和解决方案。
    • 成果展示:


      Windows平台成功启动Isaac Sim

  • [x] 任务 1.2: 探索仿真世界 (GUI手动操作)

  • [x] 任务 1.3: 脚本化你的第一个世界 (Python API 编程)

    • 实验记录: assets/docs/3_API_Motion_Control.md
    • 相关代码: src/python_api/move_unitree.py
    • 简介: 使用Isaac Lab的Python API,以编程方式创建了H1机器人环境,并实现了一个简单的PD控制器,驱动机器人完成站立动作。同时记录并可视化了关节角度和运动轨迹。
    • 成果展示:


      机器人运动控制及数据可视化 (./assets/docs/images/API_motion_control/Isaac Sim 4.5.0 2025-07-03 16-46-43.mp4)


阶段二:强化学习基础与简单运动 (RL Basics & Locomotion)

目标: 理解并运行Isaac Lab的强化学习框架,让机器人在简单的环境中学会一个基本技能——走路。

  • [x] 任务 2.1: 运行并理解官方行走示例

    • 实验记录: assets/docs/4_Humanoid_Direct.md
    • 简介: 成功运行了Isaac Lab官方的Isaac-Humanoid-Direct-v0任务,并深入解析了其环境配置、奖励函数和核心参数。
    • 相关代码:
      • Humanoid环境配置与实验记录&权重: src/humanoid
    • 成果展示:
    • 完整视频


      官方Humanoid模型行走训练80个epoch

  • [x] 任务 2.2: 复现并微调宇树 H1 行走


阶段三:鲁棒运动与人机交互 (Advanced Locomotion & HOI)

目标: 将学习到的技能应用到更复杂的场景中

  • [x] 任务 3.1: 强化学习应用迁移

    • 实验记录: assets/docs/6_New_rl_gym.md
    • 相关代码: unitree_rl_gym/ (作为子模块)
    • 简介: 基于legged_gym框架,将官方示例的H1机器人成功替换为天工X-Humanoid机器人。实验过程涵盖了:1) 深入解析URDF文件结构以确定正确的动作空间;2) 完成机器人配置文件的适配,包括关节映射、PD控制器参数(刚度与阻尼)的估算与调试;3) 针对新模型特性,对奖励函数进行细致调整以启动并稳定训练。最终,模型在Isaac Sim中成功训练,并实现了到MuJoCo环境的部署,验证了算法迁移的可行性。
    • 成果展示:
    • 完整视频


      成功将训练策略从 Isaac Sim 迁移至 MuJoCo,机器人展现出学习到的'螃蟹步'行走策略

  • [x] 任务 3.2: 探索前沿运动生成算法 (理论与代码)

    • 实验记录: assets/docs/7_Protomotion.md
    • 相关代码: src/protomotion/ (作为子模块)
    • 简介: 成功在Windows上配置并运行了ProtoMotionsMaskedMimic的预训练模型,解决了nccl后端的兼容性问题。
    • 成果展示:
    • 完整视频


      成功运行MaskedMimic预训练模型

  • [-] 任务 3.3: 实现一个基础 HOI 任务:推箱子

    • 实验记录: assets/docs/8_Protomotion_HOI.md
    • 相关代码:
      • 个人fork仓库: https://github.com/hasaki321/25HOI_ProtoMotions.git
      • 环境定义: src/protomotion/protomotions/envs/box/env.py
      • 配置文件: src/protomotion/protomotions/config/exp/box_mlp.yaml
    • 简介: (进行中) 基于ProtoMotions的框架,设计了一个两阶段的“推箱子”任务。目前已完成环境PushBoxEnv的代码编写和Hydra配置文件的创建,正在进行训练与调试。

About

No description, website, or topics provided.

Resources

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published

Languages