Napredno strojno učenje

Naziv predmeta:

Napredno strojno učenje

Opis:

Studenti uče izrađivati i održavati modele strojnog učenja, uključujući modele dubokog učenja, danas najvažniju metodu strojnog učenja koja se koristi u najvažnijim proizvodnim sustavima širom svijeta za različite zadatke. Kroz ovaj kolegij, studenti će usvojiti i primijeniti osnovne tehnike dubokog učenja na primjerima iz obrade prirodnog jezika, poput strojnog prevođenja, analize sentimenta i prepoznavanja imenovanih entiteta. Također, kolegij će se baviti dubokim i nagrađivanim učenjem.

Važno je da studenti pohađaju ovaj kolegij kako bi im omogućio produbljivanje razumijevanja matematike i algoritama duboke neuronske arhitekture i dubokog učenja, kao i stjecanje praktičnih znanja za implementaciju dubokog učenja. Studenti će usvojiti vještine dizajniranja duboke arhitekture u PyTorch-u, kao i izradu dubokih neuronskih mreža koje se mogu kasnije implementirati u bilo kojem programskom jeziku.
Studenti će naučiti:
Interpretirati definiciju različitih modela neuronskih mreža.
Biti sposoban izvesti i implementirati algoritme optimizacije za ove modele.
Interpretirati neuronske implementacije mehanizama pažnje i modela ugrađivanja sekvenci te kako se ovi modularni dijelovi mogu kombinirati za izgradnju najmodernijih sustava za obradu prirodnog jezika.
Biti sposoban implementirati i evaluirati uobičajene modele neuronskih mreža za jezik.
Interpretirati proces odabira modela kako bi opisao određeni tip podataka.
Evaluirati naučeni model u praksi.
Interpretirati matematiku potrebnu za konstrukciju inovativnih rješenja strojnog učenja.
Biti sposoban dizajnirati i implementirati različite algoritme strojnog učenja u nizu stvarnih aplikacija.

Literatura:

Obavezna literatura:
1. Skansi, S. (2018) Introduction to Deep Learning, Cham: Springer International Publishing,
2. Thakur, A. (2020). Approaching (almost) any machine learning problem.

Dopunska literatura:
1. Goodfellow, I., Bengio, Y., Courville, A. (2016) Deep Learning (Adaptive Computation and Machine Learning series), Cambridge: MIT Press, available at https://arxiv.org/abs/1609.08144