Нейронные сети и Keras. Часть 1

Докладчик: Данил Руденко

О докладе:
По некоторым оценкам, больше половины профессий будет автоматизировано – это и есть максимальный объём, на который может быть увеличен рынок алгоритмов машинного обучения, ярчайшем представителем которого являются нейронные сети.

В докладе мы поговорим об общей концепции нейронных сетей, рассмотрим основные Python - фреймворки для машинного обучения, а также реализуем решение задачи классификации изображений с применением Keras.

1. Python. Нейросети.
Keras.

Часть 1

2. Руденко Данил
Backend - разработчик
Немного GOlang
Немного Python (нейросети + аугментация данных)
Немного Embedded

3. Задача
классификации
Классифицировать объект — значит, указать номер (или наименование класса), к
которому относится данный объект.
киса 0
киса 1
киса 2

4. Программный нейрон

5. Нейронные сети

6. Сверточная нейронная сеть

7. Операция pooling

8. Визуализация фильтров

9. Задачи, плюсы
-идентификация объектов
-семантическая сегментация
-распознавание лиц
-распознавание частей тела человека
-семантическое определение границ
-выделение объектов внимания
-выделение нормалей к поверхностям

10. Множество NN - фреймворков

11. Keras

12. Топологии нейросетей
model = Sequential()
model.add(Conv2D(32, (3, 3),
input_shape=(3, 150, 150)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(
2, 2)))

model.add(Conv2D(32, (3, 3)))
model.add(Activation('relu'))
model.add(MaxPooling2D(pool_size=(
2, 2)))

….
model.add(Dense(1))
model.add(Activation('sigmoid'))


●Xception
●VGG16
●VGG19
●ResNet50
●InceptionV3
●InceptionResNetV2
●MobileNet

13. Dataset и уже готовые
веса

14. Keras. Применение встроенной нейронки
from keras.applications.vgg16 import VGG16
model = VGG16(weights='imagenet')
im = read_image('cat.jpg')
sgd = SGD(lr=0.1, decay=1e-6, momentum=0.9, nesterov=True) # https://goo.gl/jSWjvU
model.compile(optimizer=sgd, loss='categorical_crossentropy') # https://goo.gl/u9AfzF
out = model.predict(im) # произошел вывод номера класса, например 281

15. Проблемы

16. Аугментация данных

https://github.com/aleju/imgaug
https://github.com/mdbloice/Augmentor

datagen = ImageDataGenerator(
rotation_range=40,
width_shift_range=0.2,
height_shift_range=0.2,
rescale=1./255,
shear_range=0.2,
zoom_range=0.2,
horizontal_flip=True,
fill_mode='nearest')
-Поворот на произвольный градус
-Цветовая коррекция
-“Выбивание” квадратами
-Масштабирование
-“Склейка” сцен
-Аффинные преобразования
-Применение различных фильтров

17. Deep learning - это процесс рекурсивный

18. Fine-tuning

19. Fine - tuning в Keras
x = base_model.output
predictions = Dense(<количество_видов_кошечек>,
activation='softmax')(x)
model = Model(inputs=base_model.inputs, outputs=predictions)

for layer in model.layers:
if layer.name == 'activation_40':
break
layer.trainable = False


train_generator =
train_datagen.flow_from_directory(
train_data_dir,
target_size=(img_height, img_width),
batch_size=batch_size,
class_mode='categorical')

20. Нейросети идут в каждый дом. Example.