医療画像と自己教師あり学習まとめ
休み中に読んだ自己教師あり学習の医療画像への応用について３つまとめました。 APTOS2019で検証するときはkaggle上でsubmitしてスコアを出してほしいなと個人的には思いました。 画像に紐付いた別データ(テキストや遺伝子データなど)を使ってマルチモーダルな学習をするのは今後....
WSI＊自己教師あり学習のメモ
最近病理の画像をバイトで扱うことが増えています。せっかくなので自己教師あり学習を使ってみたいと思い、病理画像に自己教師あり学習を用いた論文をいくつか調べました。 WSIとは Whole slide images（WSI）とは、バーチャルスライドとも呼ばれる病理組織プレパラート標本全体をス....
CLIPを実装し理解する
目的 CLIPを理解するため、公式実装や他の記事を参考にしながらCLIPを自分で実装してみました。 公式実装では他に様々な工夫がなされていますが、今回は最低限のコードでCLIPを分かり易く実装することを目的にしているため、性能については保証できません。 本記事はCLIPの実装と解説を主....
クローン病の予後予測と脂肪組織萎縮の関係
共同第一著者として携わった研究がthe American Journal of Pathologyに受理されました。 テーマは『手術時に取得した切片からクローン病の2年以内の再発を予測するモデルを作成→モデルの出力を解析して再発に関わる因子を調べる』でした。コードはgithubに公開されて....
方向微分によるニューラルネットワークの勾配近似
SwinTransformerで物体検出
なんの記事か Kaggle Advent Calendar 2021の2枚目の18日目の記事です。 最近流行りのSwinTransformerを使って物体検出を触ってみます。SIIM2021 3rd解法では Swin Transformer with RepPoints(mmdetection)がア....
自転車コンペ
2021/10/01~2021/10/27にsignateで開催されたSIGNATE Student Cup 2021秋【予測部門】で377人中26位になり銀メダルを獲得しました。 コンペの概要 予測する日以前のデータを使用し、予測当日での70ヶ所の駐輪場での利用可能な自転車数を予測する回....
宇宙人コンペ
2021/05/10~2021/08/18(UTC)にkaggleで開催された SETI Breakthrough Listen - E.T. Signal Search にて自分が所属しているチームが768チーム中7位となり金メダルを獲得しました。 初コンペ本格参加 何度かkaggleのコンペを覗....
甲状腺細胞診分類モデル＠日本臨床細胞学会
自分が大阪大学データビリティフロンティア機構の技術補佐員としてモデル開発に携わっている研究が、6/4~6/6に開催された第６２回日本臨床細胞学会総会にて発表がありました。 テーマは『甲状腺細胞診画像から癌の種類を予測する』でした。 この抄録のp112にある 「s3-3AI を用いた甲状腺....
【論文まとめ】DINO: Emerging Properties in Self-Supervised Vision Transformers
本記事ではFacebook AI Researchの研究者らによって提案されたDINOという，画像モデルにおける自己教師あり学習の解説を行います． Caron, Mathilde, Hugo Touvron, Ishan Misra, Hervé Jégou, Julien Mairal, Piotr Bo....
