Лабораторные работы по курсу DL

1. Лабораторная работа 1 (simple data-driven approach)

Требуется решить задачу классификации рукописных цифр c использованием алгоритма kNN.

Реализация kNN классификатора дожна быть выполнена самостоятельно на языке Python. Можно использовать только встроенный функционал и базовые операции над векторами и матрицами из библиотеки Numpy.

MNIST: http://yann.lecun.com/exdb/mnist/

MINST в формате CSV: https://www.kaggle.com/oddrationale/mnist-in-csv

2. Лабораторная работа 2 (multilayer neural network)

Требуется решить задачу классификации изображений на 10 классов c использованием нейронных сетей.

Реализация обучаемого классификатора на базе нейронной сети дожна быть выполнена самостоятельно на языке Python. Можно использовать только встроенный функционал и базовые операции над векторами и матрицами из библиотеки Numpy (нельзя использовать автоматическое дифференцирование).

Необходимо самостоятельно реализовать:

1. Слои для прямого хода и обратного распространения ошибки;
2. Оптимизатор, поддерживающий батчи (модификация SGD);
3. Метод инициалиазации весов нейронной сети (тренировка должна выполнять со "случайных" весов).
4. Подходящую функцию потерь.

CIFAR-10: https://www.cs.toronto.edu/~kriz/cifar.html