Verplicht in fase
Optioneel in fase
Eerste semester
Tweede semester
Beide semesters
Niet ingericht
Dit jaar
Volgend jaar
Wisselende jaren
Extern
Voorwaarden
Onderwijstaal
Duur
Identieke opleidingsonderdelenBeginselen van machine learning (B-KUL-H0E96A)
Uitgesloten voor examencontract
Blockeel Hendrik (coördinator) | Blockeel Hendrik | De Raedt Luc Doelstellingen
Na het volgen van deze cursus
- begrijpen student de basisprincipes van machine learning;
- kennen studenten een breed scala aan methoden en technieken van machine learning;
- kunnen ze deze benaderingen en technieken toepassen in concrete situaties;
- kunnen studenten software bouwen die machinale leertechnieken bevat.
Begintermen
De cursus is enkel toegankelijk voor studenten in de Master Computerwetenschappen. Studenten uit andere richtingen kunnen deze cursus niet opnemen.
De cursus veronderstelt een uitgebreide achtergrondkennis over computerwetenschappen in het algemeen, en veronderstelt bovendien over de hieronder vermelde onderwerpen specifieke kennis, op het niveau waarop deze wordt geïntroduceerd door de vermelde cursussen.
Studenten die de Bachelor in de informatica (Leuven) of Bachelor in de ingenieurswetenschappen (Leuven) met hoofdrichting Computerwetenschappen hebben afgerond, hebben al deze cursussen gevolgd.
Studenten Bachelor in de ingenieurswetenschappen (Leuven) met een andere hoofdrichting dienen zich vertrouwd te maken met de inhoud van het vak Artificiële intelligentie alvorens deze cursus te volgen.
- Calculus: multivariate functies, gradiënt, basisprincipes van numerieke optimalisatie - Analyse, deel 1, Analyse, deel 2 or Wiskunde I
- Discrete wiskunde: sets, predicaatlogica - Toegepaste discrete algebra or Bewijzen en redeneren voor informatici, Logica voor informatici
- Lineaire algebra: matrixalgebra, matrices als lineaire transformaties, matrixdecomposities - Toegepaste Algebra or Lineaire algebra
- Kansrekening: discrete en continue kansverdelingen, multivariate verdelingen - Kansrekenen en statistiek or Kansrekenen I
- Statistiek: parameterschatting, lineaire regressie, hypothese testen, Bayesiaanse statistiek - Kansrekenen en statistiek or Statistiek & data-analyse
- Programmeren - Methodiek van de informatica or Beginselen van programmeren
- Artificiële intelligentie: discrete search spaces, constraint solving, clausal logic, resolutie, Bayesiaanse netwerken, Markov-processen - Artificiële intelligentie
Volgtijdelijkheidsvoorwaarden
Dit opleidingsonderdeel is een voorwaarde voor het opnemen van volgende opleidingsonderdelen:
H05N0A : Capita Selecta Computer Science: Artificial Intelligence
H00Y4A : Big Data Analytics Programming
H0T25A : Machine Learning: Project
H0O23A : Reinforcement Learning
Identieke opleidingsonderdelen
Dit opleidingsonderdeel is identiek aan de volgende opleidingsonderdelen:
H0E98A : Principles of Machine Learning
Plaats in het onderwijsaanbod
Onderwijsleeractiviteiten
4 sp. Beginselen van machine learning (B-KUL-H0E96a)
Inhoud
De cursus bestaat uit vier delen.
Deel 1: Inleiding: basisterminologie en concepten; dichtste-buur-methoden, evaluatie
Deel 2: Leren op basis van discrete search spaces
- beslissingsbomen: basisalgoritme, heuristieken, snoeien, omgang met ontbrekende waarden, multi-target bomen
- regel-gebaseerd leren and inductief logisch programmeren: verfijnstralie, subsumptie, meest specifieke veralgemening
- ensemble-methoden: boosting, bagging, random forests, bias vs. variantie in ensembles
- automaten, learning theory: leeralgoritmen, leerbaarheid, complexiteit van leerproblemen, VC-dimension, Rademacher-complexiteit
Deel 3: Leren op basis van numerieke optimalisatie en zoeken in continue ruimtes
- concepten van statistisch leren: leren als optimalisatie, verliesfuncties, regularisatie
- artificiële neurale netwerken: basisprincipes, specifieke netwerkstructuren, convolutionele neurale netten, recurrente neurale netten, auto-encoders, generatieve tegenwerkende netwerken
- support vector machines: basisprincipes, SMO-algoritme, kernels, kernels voor sequenties, bomen en grafen
- dimensionaliteitsreductie
- methoden gebaseerd op matrixfactorisatie
Deel 4: Probabilistische modellen
- overzicht van probabilistische grafische modellen
- inferentie en leren in deze modellen
- statistisch relationeel leren: Problog, Markov Logic, ...
- Reinforcement learning: toestandsruimtes, probleemstelling, Q-learning, deep reinforcement learning
Studiemateriaal
Slides, reader met hoofdstukken uit handboeken en wetenschappelijke artikels.
De volgende werken kunnen opgenomen worden in de reader:
- Elements of statistical learning (Hastie, Tibshirani, Friedman)
- Machine Learning and Pattern Recognition (Bishop)
- Machine Learning (Flach)
- Deep Learning (Goodfellow, Bengio, Courville)
- Machine learning: a probabilistic perspective (Murphy)
- Introduction to Statistical Learning (James, Witten, Hastie, Tibshirani)
2 sp. Beginselen van machine learning: oefeningen (B-KUL-H0E97a)
Inhoud
- Pen-en-papier oefeningen, voornamelijk gericht op het verkrijgen van een meer grondige kennis van algoritmische en wiskundige elementen van machine learning.
- Enkele praktische oefeningen met machine learning tools en bibliotheken (Weka, Scikit-learn, TensorFlow, ...).
Studiemateriaal
Een selectie van aanbevolen oefeningen, gedeeltelijk uit de reader, zal via Toledo ter beschikking worden gesteld aan de studenten. Voor sommige oefeningen zal een voorbeeldoplossing worden voorzien.
Toelichting werkvorm
"flipped classroom" oefenzittingen