Skip to content

miracle-techlink/awesome-N1

 
 

Folders and files

NameName
Last commit message
Last commit date

Latest commit

 

History

19 Commits
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 

Repository files navigation

awesome-N1

📚 项目简介

N1 · Neuron One 是一个以科研实战为核心、面向大模型底层技术突破的青年研究团队,目标是在 Efficient Attention 与 Test-Time Learning 等前沿方向做出有实质性成果。

项目名称为 N1 · Neuron One(暂定),Connect the First Neurons. 第一批连接的年轻神经元,构建未来智能的底层系统。

✨ 研究方向

  • 🔍 Attention 机制优化
    • 稀疏化 Attention
    • Native Attention 硬件对齐
    • Linear Attention 研究
  • 🚀 高效训练与推理
    • 分布式训练优化
    • 推理加速技术
    • 算力效率提升
  • 🤖 强化学习与后训练
    • Test Time Scaling
    • RLHF 技术研究
    • 模型对齐优化

📚 学习资源

1. 基础入门

  • /basics/math - 数学基础
  • /basics/coding - 编程基础
  • /basics/dl - 深度学习基础

2. 研究课题

课题一

  • /research/contextual_alibi - Contextual Alibi 相关研究

  • /research/linear_attention - Linear Attention 研究

课题二

  • /research/rl - 强化学习研究

其他方向

  • /research/test_time_scaling - Test-time Scaling 研究

  • /research/training_optimization - 训练优化研究

3. 工具资源

  • /tools/platforms - 平台工具

4. 论文资源

  • /papers/surveys - 综述论文
  • /papers/recommend -推荐论文
  • /papers/latest - 最新研究

🤝 参与方式

  1. 基础知识储备(请先达到这些再阅读基础)

    • Python 和 PyTorch 熟练使用
    • 高等数学(反向传播推导)
    • 线性代数(矩阵运算)
    • 深度学习基础
  2. 学习与讨论

    • 资源分享:提交优质的学习资料和教程
    • 问题讨论:在 Issues 中提出和解答问题
    • 代码贡献:请建立自己的库提交个人方向的代码
    • 经验分享:分享学习心得和实践经验
  3. 参与渠道

    • GitHub Issues:技术问题讨论
    • Pull Requests:提交代码和文档
    • Discussions:开放话题讨论
    • 私聊交流:随时欢迎联系邮箱

📝 贡献指南

  1. 提交学习资源

    • 确保资源质量高、内容准确
    • 添加清晰的分类标签
    • 提供简短的内容说明
    • 注明来源和许可信息
  2. 代码贡献

    • 遵循代码规范
    • 添加必要的注释
    • 提供使用示例
    • 确保代码可复现
  3. 文档贡献

    • 使用 Markdown 格式
    • 结构清晰、层次分明
    • 包含必要的示例
    • 保持文档的及时更新

📞 联系方式

  • 问题讨论:GitHub Issues
  • 私聊交流:随时欢迎

📄 许可证

本项目采用 MIT 许可证 - 查看 LICENSE 文件了解详情

About

let's build N1 together

Resources

License

Stars

Watchers

Forks

Releases

No releases published

Packages

No packages published