Schița de curs
Introducere în securitatea TinyML
- Provocări de securitate în sistemele ML cu resurse limitate
- Modele de amenințări pentru implementările TinyML
- Categorii de risc pentru aplicațiile de AI embeded
Confidențialitatea datelor în AI edge
- Considerații privind confidențialitatea pentru procesarea datelor pe dispozitiv
- Minimizarea expunerii și transferului de date
- Tehnici pentru tratarea descentralizată a datelor
Atacuri adversare asupra modelelor TinyML
- Amenințări de evitare a modelului și otrăvire (poisoning)
- Manipularea intrărilor pe senzorii embeded
- Evaluarea vulnerabilității în medii cu resurse limitate
Înăsprire a securității pentru ML embeded
- Straturi de protecție pentru firmware și hardware
- Mecanisme de control al accesului și boot securizat
- Bune practici pentru protecția pipeline-urilor de inferență
Tehnici TinyML de preservare a confidențialității
- Cuantoare și aspecte de design al modelului pentru confidențialitate
- Tehnici de anonimizare pe dispozitiv
- Metode ușoare de criptare și calcul securizat
Implementare și mentenanță securizate
- Provisioning securizat al dispozitivelor TinyML
- Strategii de actualizări OTA și aplicare a patch-urilor
- Monitorizare și răspuns la incidente la marginea rețelei (edge)
Testare și validare a sistemelor TinyML securizate
- Framework-uri de testare a securității și confidențialității
- Simularea scenariorilor de atac din viața reală
- Considerații privind validarea și conformitatea
Studii de caz și scenarii aplicate
- Eșecuri de securitate în ecosistemele AI edge
- Design-ul arhitecturilor TinyML reziliente
- Evaluarea compromisurilor între performanță și protecție
Rezumat și pași următori
Cerințe
- Înțelegerea arhitecturilor de sisteme embeded
- Experiență cu workflow-urile de machine learning
- Cunoștințe de fundamentale în cibersecuritate
Public țintă
- Analisti de securitate
- Dezvoltatori AI
- Ingineri embeded
Mărturii (3)
inventarul și identificarea diferitelor expuneri la risc în cadrul AI
Gary Cook - Cybersecurity and Information Technology Risk Division
Curs - Introduction to AI Trust, Risk, and Security Management (AI TRiSM)
Tradus de catre o masina
Mi-a plăcut foarte mult să învăț despre atacurile de IA și despre instrumentele disponibile pentru a începe să exersez și să le folosesc în mod activ pentru testarea securității. Am acumulat o mulțime de cunoștințe pe care nu le aveam la început, iar cursul a îndeplinit ceea ce speram. Partea mea preferată din training a fost Comet Browser și am fost uimit de ceea ce poate face. Cu siguranță este ceva ce voi explora mai mult. În general, a fost un curs excelent și m-am bucurat să învăț totul despre OWASP GenAI Top 10.
Patrick Collins - Optum
Curs - OWASP GenAI Security
Tradus de catre o masina
Cunoașterea profesională și modul în care ne-a prezentat-o
Miroslav Nachev - PUBLIC COURSE
Curs - Cybersecurity in AI Systems
Tradus de catre o masina