AI_ML_DL’s diary

人工知能、機械学習、ディープラーニングの日記

Stacked Capsule Autoencoders

Stacked Capsule Autoencoders A. R. Kosiorek, S. Sabour, Y. W. Teh and G. E. Hinton, NIPS2019 先に、次の論文を理解しておきたい。 Transforming Auto-encoders G. E. Hinton, A. Krizhevsky and S. D. Wang, ICANN 2011 <雑談> 画像認識における驚き…

Generative Deep Learning

Generative Deep Learning by David Foster abstraction and reasoning challengeのようにレベルの高いコンペに太刀打ちできないのは明らかだ。最先端のレベルを超えて、新たなモデルを生み出すことが求められているのだから。それでもヒントを求めてさまよ…

Program Synthesis

Program Synthesis Abstraction and Reasoning Challengeの課題に挑戦するために必要かもしれない。 Program synthesis S Gulwani, O Polozov, R Singh - Foundations and Trends® in …, 2017 - nowpublishers.com ステップ1 訓練データを見て、出力画像を…

Abstraction and Reasoning Challenge グリッド解釈

Abstraction and Reasoning Challenge グリッド解釈 グリッドの解釈方法を学ぶ。 といっても、頭の中でグリッドを動かしたり、ペンを持ってお絵描きするのとは違って、プログラムするというのは、簡単な作業ではない。 コンペのDiscussionで見かけた”Manual …

The Measure of Intelligence メモ

The Measure of Intelligence メモ Kaggleコンペにおいて頭に入れておくのがよさそうな部分を原文のまま(タイプミス満載かも)示す。 A hypothetical ARC solver may take the form of a program synthesis engine that uses the demonstration examples of…

Abstraction and Reasoning Challenge

Abstraction and Reasoning Challenge これは、F. Chollet氏が ”The Measure of Intelligence” で議論し提案している、”知能テスト:ARCデータセット”、を解くための ”AIシステム” を開発するKaggleのコンペです。 ARC(Abstraction and Reasoning Corpus)…

Transfer Learning

Transfer Learning *Hands-On Transfer Learning with Python : Implement advanced deep learning and neural network models using TensorFlow and Keras, D. Sarkar, R. Bali and T. Ghosh, 2018, Packt Pub., Chapter 1: Machine Learning Fundamentals…

Deepfake Detection Challenge - 8

gDeepfake Detection Challenge - 8 Identify videos with facial or voice manipulations <課題> *400の動画から、各10枚の静止画像を抽出し、fakeファイルとrealファイルに名前を付けて投げ込む。次に、この2種類の画像をCNNで分類できるかどうか、試し…

Deepfake Detection Challenge - 7

Deepfake Detection Challenge - 7 Identify videos with facial or voice manipulations *今日は、400の動画から、各10枚の静止画像を抽出し、fakeファイルとtrueファイルに名前を付けて投げ込む。 ・それがうまくいけば、次に、この2種類の画像をCNNで分…

Deepfake Detection Challenge - 6

Deepfake Detection Challenge - 6 Identify videos with facial or voice manipulations *今日は、400の動画から、各10枚の静止画像を抽出し、fakeファイルとtrueファイルに名前を付けて投げ込む。 ・それがうまくいけば、次に、この2種類の画像をCNNで分…

Deepfake Detection Challenge - 5

Deepfake Detection Challenge - 5 Identify videos with facial or voice manipulations *今日は、400の動画から、各10枚の静止画像を抽出し、fakeファイルとtrueファイルに名前を付けて投げ込む。 ・それがうまくいけば、次に、この2種類の画像をCNNで分…

Deepfake Detection Challenge - 4

Deepfake Detection Challenge - 4 Identify videos with facial or voice manipulations *本日の予定:ミニモデルを作り始めよう。 *スコアの計算ができるようにしよう。 ・jupyter notebookを立ち上げて、計算式をつくる。 ・自分で式をつくっていたが、…

Deepfake Detection Challenge - 3

Deepfake Detection Challenge - 3 Identify videos with facial or voice manipulations *本日の予定:方針を考えなおす。 *賞金総額$1,000,000、約1億1千万円とはすごいな。ノーベル賞級だな。 ・1位の賞金は$500,000、約5千5百万円だ。 ・ほんとかな、…

Deepfake Detection Challenge - 2

Deepfake Detection Challenge - 2 Identify videos with facial or voice manipulations *今日は、コンペのdiscussionやnotebookに学ぼうかなと思う。 *やっぱりすごい、情報の量と質が違う。一人ではとても調べられるものではない。 ・外部の情報源とし…

Deepfake Detection Challenge - 1

Deepfake Detection Challenge - 1 Identify videos with facial or voice manipulations *コンペに参加 ・コンペに参加する必須条件の1つは、規則を遵守することである。 ・そのためには、規則を正しく理解しなければならない。 ・今回は、データセットの…

Machine Learning without DNN - 2

Machine Learning without DNN - 2 *ニューラルネットを使わない機械学習の勉強をする。 ・テキストは、 A. Géron, Hands-On Machine Learning with Scikit-Learn & TensorFlow, March 2017: First Edition, O'Reilly ・論文は、 Comparison between XGBoos…

Machine Learning without DNN - 1

Machine Learning without DNN - 1 *今日は、ニューラルネットを使わない機械学習の勉強をする。 ・テキストは、A. Géron, Hands-On Machine Learning with Scikit-Learn & TensorFlow, March 2017: First Edition, O'Reilly ・昨年、第2版が出版されたが、…

Quantum-chemical insights from DTNN -6

Quantum-chemical insights from DTNN -6 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 *プログラムコードを学び、使えるようにする。(2月9日追記) *主要対象論文:K. T. Schütt et a…

Quantum-chemical insights from DTNN -5

Quantum-chemical insights from DTNN -5 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 *プログラムコードを学び、使えるようにする。(2月9日追記) ・主要対象論文:K. T. Schütt et a…

Quantum-chemical insights from DTNN -4

+Quantum-chemical insights from DTNN -4 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 ・対象論文:K. T. Schütt et al., Quantum-chemical insights from deep tensor neural networks…

Quantum-chemical insights from DTNN -3

Quantum-chemical insights from DTNN -3 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 ・対象論文:K. T. Schütt et al., Quantum-chemical insights from deep tensor neural networks,…

Quantum-chemical insights from DTNN -2

Quantum-chemical insights from DTNN -2 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 ・対象論文:K. T. Schütt et al., Quantum-chemical insights from deep tensor neural networks,…

Quantum-chemical insights from DTNN -1

Quantum-chemical insights from DTNN -1 *KaggleのテーマPredicting Molecular Propertiesと類似した内容であるが、Kaggleとは離れて、DTNNの本質に迫る。 *データベース ・データベースとしては、GDB-13のサブセットであるGDB-7とGDB-9を用いている。 ・…

Predicting Molecular Properties-9

Predicting Molecular Properties-9 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。(1週間を超えた!) *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は…

Predicting Molecular Properties-8

Predicting Molecular Properties-8 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。(1週間を超えた!) *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は…

Predicting Molecular Properties-7

Predicting Molecular Properties-7 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。 *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は、まず、グラフネット…

Predicting Molecular Properties-6

Predicting Molecular Properties-6 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。 *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は、まず、グラフネット…

Predicting Molecular Properties-5

Predicting Molecular Properties-5 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。 *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は、まず、グラフネット…

Predicting Molecular Properties-4

Predicting Molecular Properties-4 *1週間程度の予定で、過去のKaggleコンペ、Predicting Molecular Properties、に取り組む。 *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今回は、まず、グラフネット…

Predicting Molecular Properties-3

Predicting Molecular Properties-3 *1週間程度の予定で、過去のコンペ、Predicting Molecular Properties、に取り組む。 *目的は、DNNがどのような課題に対して、どのように貢献できるのかを、実例を通して学ぶこと。 *今日の目的は、MPNNモデルを使った…