WSI＊自己教師あり学習のメモ
最近病理の画像をバイトで扱うことが増えています。せっかくなので自己教師あり学習を使ってみたいと思い、病理画像に自己教師あり学習を用いた論文をいくつか調べました。 WSIとは Whole slide images（WSI）とは、バーチャルスライドとも呼ばれる病理組織プレパラート標本全体をス....
方向微分によるニューラルネットワークの勾配近似
【論文まとめ】DINO: Emerging Properties in Self-Supervised Vision Transformers
本記事ではFacebook AI Researchの研究者らによって提案されたDINOという，画像モデルにおける自己教師あり学習の解説を行います． Caron, Mathilde, Hugo Touvron, Ishan Misra, Hervé Jégou, Julien Mairal, Piotr Bo....
attention勉強会2
2021/03/14開催の勉強会の資料です。 最近attentionの流行を肌で感じだし、焦って勉強しています。 スライド maskについての訂正 softmax(QK)についてではなく、QKにmaskをかけます。 Linformer D(Q,K,V)=softmax(QK)VのQKが低ラン....
【論文まとめ】医師国家試験問題自動生成AI
以下の論文を軽く紹介。 Shen S, Li Y, Du N, Wu X, Xie Y, Ge S, et al. On the Generation of Medical Question-Answer Pairs. arXiv. 2018. http://arxiv.org/abs/1811.00681 概要 Tensent M....
【論文まとめ】Improving Breast Cancer Detection using Symmetry Information with Deep Learning
Improving Breast Cancer Detection using Symmetry Information with Deep Learning. http://arxiv.org/abs/1808.08273 概要 放射線専門医がするようにマンモグラムの左右差を見て乳がんの判定をするCN....
