Previous Entry Share Next Entry
ML наступает
ens_a_se
Пока я не могу найти времени на изучение даже основ Machine Learning, уже вышло 4 фреймворка для Deep Learning: TensorFlow( Google ), Torch ( Facebook ), Chainer, Theano, CNTK (Microsoft).
И они работают на GPU - доклады на GTC2016.
Правда не знаю как слайды скачать. Прикольно бы взять какую-нибудь популярную задачу и решить 4мя фреймворками, а потом сравнить перфоманс в плане вычислений и результата.

  • 1
Baidu в Китае большой. И у них есть в долине офис, там делают исследования. Я про них стал больше знать когда они переманили Andrew Ng, он теперь у них руководит исследованиями по machine learning. Сейчас они делают self-driving cars, и хорошо продвинулись в распознавании речи.

Насчет программирования под фрэймворки - да, можно. Я под Keras программирую. На голом Theano без матана не уедешь, потому что Theano - это фрэймворк для матана, там надо самому писать все эти операции с тензорами. Всё что Theano делает полезного - это предоставляет язык для этих операций, и умеет выичсления оптимизировать и скомпилировать для выполнения на GPU. Keras же содержит в себе разные блоки матана необьходимые для построения нейронных сетей. Код на керасе моет выглядеть например как-то так:

print('Build model...')
model = Sequential()
model.add(Embedding(max_features, 128, input_length=maxlen, dropout=0.2))
model.add(LSTM(128, dropout_W=0.2, dropout_U=0.2)) # try using a GRU instead, for fun
model.add(Dense(1))
model.add(Activation('sigmoid'))

# try using different optimizers and different optimizer configs
model.compile(loss='binary_crossentropy',
optimizer='adam',
metrics=['accuracy'])

print('Train...')
print(X_train.shape)
print(y_train.shape)
model.fit(X_train, y_train, batch_size=batch_size, nb_epoch=15,
validation_data=(X_test, y_test))
score, acc = model.evaluate(X_test, y_test,
batch_size=batch_size)
print('Test score:', score)
print('Test accuracy:', acc)


Он позволяет из готовых блоков построить архитектуру сети, задать гиперпараметры, обучить, протестить.

  • 1
?

Log in