CANN SDK ile Sinir Ağı Performansının Optimize Edilmesi Eğitimi

CANN Optimizasyon Yeteneklerine Genel Bakış

• CANN'da çıkarım performansının nasıl yönetildiği
• Kenar (edge) ve gömülü AI sistemleri için optimizasyon hedefleri
• AI çekirdek kullanımı ve bellek atamasının anlaşılması

Analiz İçin Graph Engine Kullanımı

• Graph Engine ve çalışma zamanı hattına giriş
• Operatör grafiklerinin ve çalışma zamanı metriklerinin görselleştirilmesi
• Optimizasyon için hesaplama grafiklerinin değiştirilmesi

Profiling Araçları ve Performans Metrikleri

• İş yükü analizi için CANN Profiling Tool (profiler) kullanımı
• Çekirdek (kernel) çalışma süresinin ve darboğazların analizi
• Bellek erişim profili ve tiling (bloklama) stratejileri

TIK ile Özel Operatör Geliştirme

• TIK ve operatör programlama modeline genel bakış
• TIK DSL kullanarak özel bir operatörün implementasyonu
• Operatör performansının test edilmesi ve karşılaştırmalı ölçümü (benchmarking)

TVM ile Gelişmiş Operatör Optimizasyonu

• CANN ile TVM entegrasyonuna giriş
• Hesaplama grafikleri için otomatik ayarlama (auto-tuning) stratejileri
• TVM ve TIK arasında ne zaman ve nasıl geçiş yapılacağı

Bellek Optimizasyon Teknikleri

• Bellek yerleşimi ve tampon (buffer) konumlandırmasının yönetimi
• Yonga üzeri (on-chip) bellek tüketimini azaltma teknikleri
• Asenkron çalıştırma ve yeniden kullanım için en iyi uygulamalar

Gerçek Dünya Dağıtımı ve Vaka Çalışmaları

• Vaka çalışması: Akıllı şehir kamera akışı için performans ayarlaması
• Vaka çalışması: Otonom araç çıkarım yığını (stack) optimizasyonu
• Yinelemeli profiling ve sürekli iyileştirme yönergeleri

Özet ve Sonraki Adımlar