Благодарим ви, че изпратихте вашето запитване! Един от членовете на нашия екип ще се свърже с вас скоро.
Благодарим ви, че направихте своята резервация! Един от членовете на нашия екип ще се свърже с вас скоро.
Съдържание и теми, включени в курса
Въведение в Edge AI и Nano Banana
- Ключови характеристики на натоварванията с Edge AI
- Архитектура и възможности на Nano Banana
- Сравняване на стратегии за внедряване на крайни устройства спрямо облака
Подготовка на модели за внедряване на крайни устройства
- Избор на модел и базова оценка
- Съображения за зависимости и съвместимост
- Експортиране на модели за допълнителна оптимизация
Техники за компресия на модели
- Стратегии за подрязване и структурна разреденост
- Споделяне на тегла и намаляване на параметрите
- Оценяване на въздействието от компресията
Квантизация за производителност на крайни устройства
- Методи за квантизация след обучение
- Работни процеси за обучение с отчитане на квантизацията
- Подходи с INT8, FP16 и смесена точност
Ускоряване с Nano Banana
- Използване на ускорителите на Nano Banana
- Интегриране на ONNX и хардуерни бекенди
- Бенчмаркване на ускорената инференция
Внедряване на крайни устройства
- Интегриране на модели във вградени или мобилни приложения
- Конфигуриране и наблюдение по време на изпълнение
- Отстраняване на проблеми при внедряването
Профилиране на производителността и анализ на компромисите
- Ограничения за латентност, пропускателна способност и топлина
- Компромиси между точност и производителност
- Итеративни стратегии за оптимизация
Добри практики за поддръжка на Edge-AI системи
- Версиониране и непрекъснати актуализации
- Връщане на модели и управление на съвместимостта
- Съображения за сигурност и интегритет
Обобщение и следващи стъпки
Изисквания
- Разбиране на работните процеси в машинното обучение
- Опит в разработването на модели, базирани на Python
- Запознатост с архитектурите на невронните мрежи
Аудитория
- ML инженери
- Специалисти по данни
- MLOps практикуващи
14 Часа
Отзиви от участници (1)
Поток, атмосфера и тема на презентацията
Lukasz Kowalczyk - Allegro Sp. z o.o.
Курс - Google Gemini AI for Data Analysis
Машинен превод