A tárgy az IT biztonság MSc mérnök-informatikus főspecializáció keretén belül kerül előadásra a tavaszi félévben. A hivatalos tantárgyi adatlap és tárgykövetelmények a kar szerverén találhatók. Erről az oldalról a tárggyal kapcsolatos legfrisseb adminisztratív információkat és egyéb fontos tudnivalókat lehet letölteni illetve elérni.
A tárgy célja, hogy betekintést nyújtson a gépi tanulás és az arra épülő rendszerek biztonsági kérdéseibe, és átfogó jelleggel tárgyalja a gépi tanulási algoritmusok ellen kivitelezhető különböző támadások és védekezési megoldások elvi alapjait és gyakorlati módszereit, valamint a gyakorlatokon és házi feladatokon keresztül betekintést nyújtson a gépi modellek adatvédelmi auditálásának kérdéseibe.
A kiadott anyagokat a Moodle rendszeren keresztül lehet letölteni.
The course materials can be downloaded from the Moodle sytem.
Az aláírás megszerzésének feltétele a ZH és mindkét házi feladat (egyenként is) sikeres teljesítése. Mind a ZH, mind a házi feladatok esetében, a sikeres teljesítéshez a maximálisan elérhető pontszám minimum 40%-át kell elérni. A ZH eredménye nem számít bele a félévvégi jegybe. A házi feladatokból maximálisan 2x25 pont szerezhető, a teljesítésükhöz tehát minimum 2x10 pontot kell szerezni. A megszerzett pontok beszámítanak a félévvégi jegybe.
Írásbeli vizsga, ami a félévvégi érdemjegy 50%-át adja. A tárgy sikeres teljesítéséhez a vizsgát külön is teljesíteni kell minimum 40%-ra.
A tárgyból szerzett pontszám: P = V + HF1 + HF2, ahol V a vizsgán szerzett pontszám, HF1 és HF2 pedig a házi feladat két fázisából szerzett pontszám.
A félévvégi jegyhez a ponthatárok:
85-100: 5
70-84: 4
55-69: 3
40-54: 2
0-39: 1
Megbeszélés szerint, az előadóval előre egyeztetett időpontban.
Please contact the lecturer to schedule an appointment.
| Dátum | Téma | Előadó | |
|---|---|---|---|
| 2024.02.13. | A gépi tanulás biztonságának áttekintése: bizalmasság, integritás, rendelkezésre- állás (CIA). Motivációs példák, jogi háttér, kockázat alapú megközelítés | Ács G. | |
| 2024.02.15. | Elmarad | ||
| 2024.02.20. | Döntések manipulációja 1: Támadó modellek, white-box támadások (FGSM, CW, Saliency maps) | Ács G. | |
| 2024.02.27. | Döntések manipulációja 2: Black box támadások, támadó minták transzferálhatósága | Ács G. | |
| 2024.02.29. | Elmarad | ||
| 2024.03.05. | Döntések manipulációja 3: Védekezések (támadói tanítás, bizonyítható robusztusság) | Ács G. | |
| 2024.03.12. | Tanító adat nem célzott mérgezése (poisoning) | Ács G. | |
| 2024.03.14. | Gyakorlat: Döntések manipulációja (evasion) | Ács G. | |
| 2024.03.19. | Tanító adat célzott mérgezése (poisoning) | Ács G. | |
| 2024.03.26. | Hátsó kapuk (backdoor) a gépi modellekben | Ács G. | |
| 2024.03.28. | Tavaszi szünet | ||
| 2024.04.02. | Tavaszi szünet | ||
| 2024.04.09. | Poisoning Védekezések 1 (Targeted, Untargeted) | Ács G. | |
| 2024.04.16. | Poisoning Védekezések 2 (Backdoor) | Ács G. | |
| 2024.04.18. | Zárthelyi | ||
| 2024.04.23. | Rendelkezésre állási problémák: Black- és white-box sponge konstrukciók | Ács G. | |
| 2024.04.30. | Confidentiality 1: Data privacy (modell invesion, membership attacks) | Ács G. | |
| 2024.05.02. | Gyakorlat: Poisoning | Ács G. | |
| 2024.05.07. | Confidentiality 2: Data privacy (Védekezések) | Ács G. | |
| 2024.05.14. | Confidentiality 3: Modell stealing, Védekezések | Ács G. | |
| 2024.05.16. | Gyakorlat: Confidentiality (Data privacy) | Ács G. | |
| 2024.05.21. | Modellek elmagyarázhatóságának támadhatósága | Ács G. | |