A gépi tanulás biztonsága (VIHIMB09)

A tárgy az IT biztonság MSc mérnök-informatikus főspecializáció keretén belül kerül előadásra a tavaszi félévben. A hivatalos tantárgyi adatlap és tárgykövetelmények a kar szerverén találhatók. Erről az oldalról a tárggyal kapcsolatos legfrisseb adminisztratív információkat és egyéb fontos tudnivalókat lehet letölteni illetve elérni.

Célkitűzés

Objectives

A tárgy célja, hogy betekintést nyújtson a gépi tanulás és az arra épülő rendszerek biztonsági kérdéseibe, és átfogó jelleggel tárgyalja a gépi tanulási algoritmusok ellen kivitelezhető különböző támadások és védekezési megoldások elvi alapjait és gyakorlati módszereit, valamint a gyakorlatokon és házi feladatokon keresztül betekintést nyújtson a gépi modellek adatvédelmi auditálásának kérdéseibe.

Lecturers

Oktatók

Kiadott anyagok

Course materials

A kiadott anyagokat a Moodle rendszeren keresztül lehet letölteni.

The course materials can be downloaded from the Moodle sytem.

Követelmények

Requirements

A szorgalmi időszakban

Az aláírás megszerzésének feltétele a ZH és mindkét házi feladat (egyenként is) sikeres teljesítése. Mind a ZH, mind a házi feladatok esetében, a sikeres teljesítéshez a maximálisan elérhető pontszám minimum 40%-át kell elérni. A ZH eredménye nem számít bele a félévvégi jegybe. A házi feladatokból maximálisan 2x25 pont szerezhető, a teljesítésükhöz tehát minimum 2x10 pontot kell szerezni. A megszerzett pontok beszámítanak a félévvégi jegybe.

A vizsgaidőszakban

Írásbeli vizsga, ami a félévvégi érdemjegy 50%-át adja. A tárgy sikeres teljesítéséhez a vizsgát külön is teljesíteni kell minimum 40%-ra.

A félévvégi érdemjegy számítása

A tárgyból szerzett pontszám: P = V + HF1 + HF2, ahol V a vizsgán szerzett pontszám, HF1 és HF2 pedig a házi feladat két fázisából szerzett pontszám.
A félévvégi jegyhez a ponthatárok:
85-100: 5
70-84: 4
55-69: 3
40-54: 2
0-39: 1

Órák ideje és helye

Time and location of classes

Előadás

Lecture

  • kedd, 08:15-10:00, QBF11

Gyakorlat

Practise

  • csütörtök, 8:15-10:00 (ld. a táblázatot alább), QBF10

Konzultáció

Megbeszélés szerint, az előadóval előre egyeztetett időpontban.

Office hours

Please contact the lecturer to schedule an appointment.

Beosztás

Schedule

Dátum Téma Előadó
2024.02.13. A gépi tanulás biztonságának áttekintése: bizalmasság, integritás, rendelkezésre- állás (CIA). Motivációs példák, jogi háttér, kockázat alapú megközelítés Ács G.
2024.02.15. Elmarad
2024.02.20. Döntések manipulációja 1: Támadó modellek, white-box támadások (FGSM, CW, Saliency maps), fizikai támadások Ács G.
2024.02.27. Döntések manipulációja 2: Black box támadások, támadó minták transzferálhatósága Ács G.
2024.02.29. Elmarad
2024.03.05. Döntések manipulációja 3: Védekezések (támadói tanítás, bizonyítható robusztusság, deep k-NN) Ács G.
2024.03.12. Tanító adat nem célzott mérgezése (poisoning), védekezések (label flipping, anomália detekció) Ács G.
2024.03.14. Gyakorlat: Döntések manipulációja (evasion) Ács G.
2024.03.19. Tanító adat célzott mérgezése (poisoning), feature collision, Witches' Brew, védekezések (minták súlyozása) Ács G.
2024.03.26. Hátsó kapuk (backdoor) a gépi modellekben, védekezések (Neural Cleanse) Ács G.
2024.03.28. Tavaszi szünet
2024.04.02. Tavaszi szünet
2024.04.09. Trójai támadások gépi modellek ellen Ács G.
2024.04.16. Rendelkezésre állási problémák: Black- és white-box sponge konstrukciók Ács G.
2024.04.18. Zárthelyi
2024.04.23. Tanító adat rekonstruálása: Támadó modellek, modell invertálása Ács G.
2024.04.30. Tagsági támadás (membership attack): Aktív és passzív támadások. gradiens alapú, score alapú, címke alapú támadások Ács G.
2024.05.02. Gyakorlat: Poisoning, Backdoors Ács G.
2024.05.07. Tagsági támadás elleni védekezések: Tanítás differenciális adatvédelemmel (DP-SGD, PATE), regularizáció Ács G.
2024.05.14. Modell-lopás, védekezések: modell vízjelezése, tanító adathalmaz inferenciája, modellek ujjlenyomat alapú összehasonlítása Ács G.
2024.05.16. Gyakorlat: Data reconstruction, Privacy Ács G.
2024.05.21. Modellek elmagyarázhatóságának támadhatósága, federált tanulás biztonsága (biztonságos aggregáció, bizánci problémák, KRUM) Ács G.