MLOps♾

Мой друг Алексей 16 мая запускает бесплатный курс по МЛ Опс
Курс я пока не проходил, но думаю что бейзлайн курса выше он сможет побить, там уже двенадцать сотен звезд, да и Алексей хороший, так что стоит присмотреться

GitHub

GitHub - DataTalksClub/mlops-zoomcamp: Free MLOps course from DataTalks.Club

Free MLOps course from DataTalks.Club. Contribute to DataTalksClub/mlops-zoomcamp development by creating an account on GitHub.

2.84K views11:06

MLOps♾

Forwarded from NoML Digest (Pavel Snurnitsyn)

В следующий четверг, 26 мая собираемся на очный митап по теме MLOps. Темы и спикеры:

🔸“ʎzy - фреймворк от Yandex Cloud для запуска произвольных (ML) задач на кластере”
😎Артём Трофимов, Руководитель команды разработки ʎzy, Yandex Cloud

🔸”ML платформа на базе open source компонентов”
😎Григорий Шутов, Архитектор направления ModelOps, GlowByte Advanced Analytics

🔸”Как построить MLOps из open source на примере платформы ML Space”
😎Данил Сивцов, Старший ML-инженер платформы ML Space, SberCloud

Место проведения: Loft Hall #3 Grace & Secret, ул. Ленинская Слобода 26 стр. 15. Сбор гостей в 17:30.

После докладов нас ждет фуршет и неформальное общение 🥂🍻😉
Для тех, кто не сможет присоединиться очно, будет онлайн трансляция📺

Детальная программа и регистрация по ссылке.

noml.club

Not Only ML

Сообщество, посвящённое анализу данных и продвинутой аналитике

3.52K views12:58

MLOps♾

https://getindata.com/blog/machine-learning-model-serving-tools-comaprison-kserve-seldon-core-bentoml/

Xebia

ML Model Serving Tools Im Vergleich: KServe Vs Seldon Vs BentoML

Compare KServe, Seldon Core, and BentoML for ML model serving on Kubernetes. Learn features, pros, and best practices to deploy machine learning models at scale.

3.84K views20:56

MLOps♾

https://lambdalabs.com/blog/keeping-an-eye-on-your-gpus-2/

lambda.ai

Keeping an eye on your GPUs - GPU monitoring tools compared

The best tools for monitoring your GPU usage and performance statistics compared.

4.29K views20:57

MLOps♾

https://lambdalabs.com/blog/best-gpu-2022-sofar/

lambda.ai

Best GPU for Deep Learning in 2022 (so far)

While waiting for NVIDIA's next-generation consumer & professional GPUs, here are the best GPUs for Deep Learning currently available as of March 2022.

5.15K views20:57

MLOps♾

https://medium.com/geekculture/monitoring-your-deployed-machine-learning-models-in-production-8822d1bab11a#ab79

Medium

Monitoring Your Deployed Machine Learning Models in Production

The Final Stage of the Machine Learning Workflow

6.15K views13:02

MLOps♾

https://habr.com/ru/companies/beeline_tech/articles/760308/

Хабр

MLOps в билайн: как катить машинное обучение в production без ML-инженеров. Часть I

Всем привет! Меня зовут Николай Безносов, я отвечаю за применение и развитие машинного обучения и продвинутой аналитики в билайне. В одной из прошлых статей мои коллеги рассказывали о месте Seldon в...

4.99K views09:37

MLOps♾

Как мы живем в wb

https://youtu.be/R_yhJfHKvIo?si=Bftza3LJ8Fo-CAVB

YouTube

LLM Inference: A Comparative Guide to Modern Open-Source Runtimes | Aleksandr Shirokov, Wildberries

🎥 From the MLOps World | GenAI Summit 2025 — Virtual Session (October 6, 2025)

Session Title: LLM Inference: A Comparative Guide to Modern Open-Source Runtimes
Speaker: Aleksandr Shirokov, Team Lead MLOps Engineer, Wildberries
Talk Track: LLMs on Kubernetes…

1.58K views07:29

MLOps♾

Forwarded from Фарш не провернуть 💝

Не так давно тут появился mini-sglang, про него многие писали. Теперь следующих шаг - nano-vllm.

Буквально полтора десятка файлов помогут вам разобраться как именно работают все основные компоненты инференс движка:

- Tokenization: как текст превращается в числа
- Embedding: как ID токенов становятся векторами
- Prefill: как модель "читает" ваш промпт
- Attention: как токены взаимодействуют
- KV Cache: почему кеширование важно
- Decode: как токены генерируются один за одним
- Sampling: как выбирается следующий токен

Это шикарный проект, и прекрасно что такое появляется.

GitHub

GitHub - ovshake/nano-vllm: a fun and educational take on vLLM

a fun and educational take on vLLM. Contribute to ovshake/nano-vllm development by creating an account on GitHub.

1.14K views19:30