Wykład dotyczy podstaw systemów uczących się. Przedstawione będą techniki uczenia indukcyjnego (czyli opartego o przykłady), m.i. metody drzew decyzyjnych, sieci neuronowych, klasyfikatorów Bayesowskie, SVM, i itp., oraz techniki uczenia ze wzmocnieniem. Omawiane będą również historyczne i aktualne problemy oraz wyzwania dla systemów uczących się takie, jak problem uogólnienia i obciążenia (bias) klasyfikatorów, overfitting, problem wyboru modelu, selekcja cech, wyuczalność, itp.
Dodatkowe materiały
- RSES: Rough Set Exploration System. System implementowany przez byłych pracowników, doktorantów i studentów wydziału Matematyki, Informatyki i Mechaniki Uniwersytetu Warszawskiego, zawierający narzędzia i metody opracowane dla teorii zbiorów przybliżonych.
- R Project for Statistical Computing: Język i środowisko R (program R, CRAN, R-CRAN) są przydatnymi narzędziami do profesjonalnej analizie statystycznej. Pakiet Machine Learning category na CRAN (think: third-party Machine Learning packages) zawiera wiele przydatnych narzędzi do systemów uczących się. Materiały i informacje w języku można znaleźć pod tym adresem
- WEKA: System zawierający zbiór narzędzi do wykonywania zadań uczenia maszynowego i data mining. Program należy pobrać i zainstalować na swoim dysku. Uruchomić WEKA Explorer.
- Scikit Learn: Machine Learning in Python built on top of NumPy and SciPy. If you are a Python or a Ruby programmer, this is the library for you. It’s friendly, powerful and comes with excellent documentation. Orange would be a good alternative if you’d like to try something else.
- Octave: If you are familiar with MatLab or you’re a NumPy programmer looking for something different, consider Octave. It is an environment for numerical computing just like Matlab and makes it easy to write programs to solve linear and non-linear problems, such as those that underlie most machine learning algorithms. If you have an engineering background, this might be a good place for you to start.
- Books
- Bishop's Pattern Recognition and Machine Learning
- Hasti/Tibshirani/Friedman's Elements of Statistical Learning FREE VERSION ONLINE
- Barber's Bayesian Reasoning and Machine Learning FREE VERSION ONLINE
- Murphy's Machine Learning: a Probabilistic Perspective
- MacKay's Information Theory, Inference and Learning Algorithms FREE VERSION ONLINE
- An Introduction to Statistical Learning FREE VERSION ONLINE
- Machine Learning for Hackers,
- Machine Learning in Action
- Machine Learning with R
- Probabilistic Programming and Bayesian Methods for Hackers FREE VERSION ONLINE
- Building Machine Learning Systems with Python
The most often recommended textbooks on general Machine Learning are (in no particular order):
Note that these books delve deep into math, and might be a bit heavy for complete beginners. If you don't care so much about derivations or how exactly the methods work but would rather just apply them, then the folllowing are good practical intros:
(I've stolen most of the books in this 2nd list from /u/rvprasad's post here).
There are of course a whole plethora on books that only cover specific subjects, as well as many books about surrounding fields in Math. A very good list has been collected by /u/ilsunil here