3月1日（月） HuBMAP：1,130 teams, two months to go 今日はBatch_sizeの16と32に違いがあるかどうかを調べる。 EfficientNetB5-UnetのLB=0.836のコードがBatch_size=16だったので、これを32に変更したがGPUのメモリーオーバーとなったため、B4で実行した：…
Kaggle散歩（February 2021） HuBMAPコンペは3月26日が最終日。（日本時間：3月27日午前9時00分） 2月3日追記：最終日は新規データが追加されてから2か月後とのこと、現時点で新規データは追加されていないため、4月2日以降になることは確実。 2月24日追記：…
Kaggle散歩（January 2021） 1月7日に、Riiidコンペが終了する。：1月8日追記：Riiidコンペは393位だった。72時間くらいの間に100チームくらいに追い越された。これがKaggleだ！ その後は、 HuBMAP - Hacking the KidneyIdentify glomeruli in human kidney …
Kggle散歩（December 2020） MoAが終了した。 現在参加しているものはいくつかあるが、今月は、Riiid!に注力しようと思う。 MoAで２つめのメダルがとれそうである（暫定181位で銀）：12月11日確定！！：Kaggle Competition Expertになった。 次のランクアッ…
GitHub散歩（November 2020） これまでは、コードを見るだけのGitHubだった。 もう少し活用したいと思っている。 11月21日（土） GitHub Guidesのページの下端に次のように書かれている。 GitHub is the best way to build and ship software.Powerful colla…
DNNで量子化学計算（November 2020） 最近の進展についてまとめる機会があったので、より深く理解することと、実際の解析コードを使えるようになることを目標に、その経過をブログに記す。 11月10日（火） FermiNet： FermiNet is a neural network for lear…
Kggle散歩（November 2020） 11月は、25日にLyftが、30日にMoAが終了する。 Lyftは、計算資源の確保が課題であり、MoAは、Public LBとCVを天秤にかけながら、性能を上げる方法を探ることが課題である。 11月1日（日） Generative Deep Learning by David Fos…
Kggle散歩（October 2020） 10月は、OpenVaccine(10/5：訂正10/6)とOSIC(10/6)とRSNA(10/26)が締め切りを迎える。 これらのコンペの中からメダルを1個獲得できれば、2個目となり、Expertにランクアップされる。 しかし、どのコンペも難しい。 OpenVaccine：…
9月のKaggle散歩 9月1日 8月17日にSIIM-ISIC・・・が終わり、翌日から、OSIC・・・に取り組んでいる。 これまでは、一定の期間に1つのコンペを選んで取り組んできたが、結果が出ずに、リーダーボードに載ることなく終わったものが多い。リーダーボードに載る…
OSIC Pulmonary Fibrosis Progression Predict lung function decline 今日から、このコンペに挑戦しよう！ 目的：予測モデルを１から作れるようになるためのコードの学習。 手段：お手本モデルから、徹底的に学ぶ。 方法：プログラムのすべての行に、初心者…
SIIM-ISIC Melanoma Classification 2020年5月28日～8月17日 1st place $10,000.- 7月23日：あと26日 このコンペの目標は、正確な医療診断技術を習得し、1位を獲得することである。 その手段は、目標となる公開ノートを探し出し、それを理解し、ファインチュ…
PANDA Challenge 6月30日参戦：4月22日開始、最終日は、7月22日 目標順位：1位 : $12,000 目標スコア：0.985 予定： 課題の把握 結果： Data Descriptionは、精読すべきである。 TReNDSのコンペでは、データの説明欄に免責事項が書かれていて、その内容は、…
TReNDS Neuroimaging 2020年6月14日から参戦 最終提出締切：2020年6月29日 目標：メダル獲得 6月14日：1日目 概要： データのダウンロード：164GB 文献1：B. Rashid and V. Calhoun, Towards a brain-based predictome of mental illness 文献2：Y. Du et al…
Protein structure prediction using multiple deep neural networks in the 13th Critical Assessment of Protein Structure Prediction (CASP13) Andrew W. Senior1 | Richard Evans1 | John Jumper1 | James Kirkpatrick1 |Laurent Sifre1 | Tim Green1 |…
W．パウリ 相対性理論 内山龍雄 訳 昭和49年10月28日 第1刷発行 講談社 本棚に眠っていた本を取り出してみた。 たぶん、読んで理解できるのは、序文とか、歴史的背景のような読み物のところだけだろうと思うが、今日1日、つまみ食いしてみよう。 W. Pauliが2…
The frontier of simulation-based inference Kyle Cranmer, Johann Brehmer, and Gilles Louppe www.pnas.org/cgi/doi/10.1073/pnas.1912789117 Many domains of science have developed complex simulations to describe phenomena of interest. While the…
KaggleのARCコンペ第3位、Ilia Larchwnko氏の手法に学ぶ 目的は、Domein Specific Languageにより、課題を解くことができるようにすること。 ARCコンペの7位以内で、かつ、GitHubで公開しているものの中から選んだ。 Ilia氏は、2名で参加していて、最終結果…
Chapter 19 Training and Deploying TensorFlow Models at Scale Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Chapter 2は、KaggleのTitanicと並行して勉強していたので、何をどこまで学んだか忘れてしまった…
Chapter 18 Reinforcement Learning Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Reinforcement Learning (RL) is one of the most exciting fields of Machine Learning today, and also one of the oldeat.…
Chapter 17 Representation Learning and Generative Learning Using Autoencoders and GANs Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Autoencoders are artificial neural networks capable of learning …
Chapter 16 Natural Langage Processing with RNNs and Attention Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron style=137 iteration=1 style=137 iteration=20 style=137 iteration=500
Chapter 15 Processing Sequences Using RNNs and CNNs Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron RNNs are not the only types of neural networks capable of handling sequential data: for small seque…
Chapter 14 Deep Computer Vision Using Convolutional Neural Network Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron In this Chapter we will explore where CNNs came from, what their building blocks loo…
Chapter 13 Loading and Preprocessing Data with TensorFlow Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron So far we have used only datasets that fit in memory, but Deep Learning systema are often tra…
Chapter 12 Custom Models and Training with TensorFlow Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Up until now, we've used only TensorFlow's high-level API, tf.keras, but it already got us pretty…
Chapter 11 Training Deep Neural Networks Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron In Chapter 10 we introduced artificial neural networks and trained our first deep neural networks. But they we…
Chapter 10 Introduction to Artificial Neural Networks with Keras Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron From Biological to Artificial Neurons Biological Neurons Logical Computations with Neu…
Chapter 9 Unsupervised Learning Techniques Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Although most of the applications of Machine Learning today are based on supervised learning (and as a resul…
Chapter 8 Dimensionality Reduction Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Many Machine Learning problems involve thousands or even millions of features for each training instance. Not only d…
Chapter 7 Ensemble Learning and Random Forests Hands-On Machine Learning with Scikit-Learn, Keras & Tensorflow 2nd Edition by A. Geron Suppose you pose a complex question to thousands of random people, then aggregate their answers. In many…
