Uczenie maszynowe (lab)
piątki, 17:05--18:45, D-1/317.4.
wykład: prof. dr hab. inż. Halina Kwaśnicka
Materiały:
- Neural networks by 3blue1brown (warto obejrzeć przynajmniej dwa pierwsze filmy).
- konkretny przykład uczenia sieci
Baza z ręcznie pisanymi cyframi:
można użyć plików mnist_loader.py oraz mnist.pkl.gz z tego
repozytorium. Proszę przeczytać dokumentację w pliku mnist_loader.py, żeby się dowiedzieć, jak (łatwo) się tego używa.
Keras:
dokumentacja,
tutorial.
Uwaga: jeśli przy uruchamianiu programu z tutoriala wystąpi błąd
ValueError: ('The specified size contains a dimension with value <= 0'...
można ustawić parametr
"image_data_format": "channels_first",
w pliku konfiguracyjnym ~/.keras/keras.json
Pytania i odpowiedzi dotyczące pierwszego raportu
> 1. Którą z dwóch wersji zrobić (niektórzy zrozumieli, że zadanie z ćwiartką jest pierwsze, a cyfry na następny raport, natomiast inni, że tylko te cyfry lub do wyboru),
Do wyboru, mogą być też oba lub coś całkiem innego.
Cyfry są zalecane.
> 2. Czy raport jest na ocenę czy na zaliczenie (a jeśli na ocenę, to czy wybór znajdywania punktu w danej ćwiartce będzie gorzej oceniany niż odczytywanie cyfr)
Jest na punkty (czyli, powiedzmy, ocenę). Ocena nie będzie bezpośrednio
zależała od wybranego problemu, chociaż np. ćwiartka, ze względu na
swoją prostotę, może utrudnić napisanie czegoś ciekawego.
> 3. Co dokładnie mamy w tym raporcie sprawdzić i opisać (tylko wybór parametrów, czy coś jeszcze).
Wybór parametrów, przede wszystkim liczba warstw i neuronów w warstwach,
wsp. uczenia, w dalszej kolejności sposób inicjacji wag, wielkość
minibatch (jeśli jest zaimplementowane), regularyzacja wag, lub inne.
Niekoniecznie to wszystko i wcale niekoniecznie ocena będzie lepsza,
jeśli będzie tego więcej.