A high-throughput and memory-efficient inference and serving engine for LLMs

Machine Learning Engineering Open Book

分享AI Infra知识&代码练习：PyTorch、vLLM/SGLang、slime/vime框架入门⚡️、性能加速🚀、大模型基础🧠、AI软硬件🔧等

个人中文简历 Latex 源码 https://hijiangtao.github.io/

Community maintained hardware plugin for vLLM on Ascend

Modern CUDA Learn Notes with PyTorch for Beginners, 200+ CUDA Kernels, Tensor Cores, HGEMM, FA-2 MMA.

SGLang-Omni empowers high-performance serving for TTS, ASR, speech and omni models.

TensorRT LLM provides users with an easy-to-use Python API to define Large Language Models (LLMs) and supports state-of-the-art optimizations to perform inference efficiently on NVIDIA GPUs. Tensor…

My learning notes for ML SYS.

Scalable RL for Any Agent and Sandbox.

SkyRL: A Modular Full-stack RL Library for LLMs

数字生命卡兹克开源的 AI Skills 合集 | Agent Skills: leader（帮你定义目标）, neat-freak 洁癖, hv-analysis, khazix-writer & more — Claude Code, Codex & 40+ agents

Filesystem-based cross-session memory skill with strict routing and progressive recall

面向 Codex 的公开梅花易数解卦 Skill：支持动静定体用、月令与卦气结合看旺衰，以及结构化逐步断卦输出。

Sub2API 一站式开源中转服务，让 Claude、Openai 、Gemini、Grok订阅统一接入，支持拼车共享，更高效分摊成本，原生工具无缝使用。

各厂家 Coding Plan 实际价值对比

🔄 Prompt-Data Co-Evolution Flywheel | 评估驱动的 Prompt 与数据协同迭代框架，人工审核闭环 + GT 版本化

我的agent学习笔记

我的llm笔记

主要记录大语言大模型（LLMs） 算法（应用）工程师相关的知识及面试题

LLM大模型（重点）以及搜广推等 AI 算法中手写的面试题，（非 LeetCode），比如 Self-Attention, AUC等，一般比 LeetCode 更考察一个人的综合能力，又更贴近业务和基础知识一点

Claude Code skill: daily AI/tech intelligence reports from HN + HuggingFace Papers

Agent-native AI assistant — chat, write, learning, all in one.

🚀 QQ聊天记录、表情包导出工具 | 自动化提取图片/文字/图片消息，支持TXT/JSON导出，高效备份，支持NT QQ

一个用于分析QQ群聊记录并生成年度热词报告的工具。支持热词发现、趣味统计、可视化报告生成等功能。

电子科技大学信息与软件工程学院学习资料，包含教材、课后答案、实验报告、课程代码、历年真题等，由伏羲主导，多位同学共同参与贡献，欢迎补充、纠错和咨询

多平台模型接入，可扩展，多种输出格式，提供大语言模型聊天服务的插件 | A bot plugin for LLM chat with multi-model integration, extensibility, and various output formats

Markdown 批量导出工具、开放式跨平台博客解决方案，随意组合写作平台(语雀/Notion/FlowUs/飞书/我来Wolai)和博客平台(Hexo/Vitepress/Halo/Confluence/WordPress等)