自転車コンペ
2021/10/01~2021/10/27にsignateで開催されたSIGNATE Student Cup 2021秋【予測部門】で377人中26位になり銀メダルを獲得しました。 コンペの概要 予測する日以前のデータを使用し、予測当日での70ヶ所の駐輪場での利用可能な自転車数を予測する回....
宇宙人コンペ
2021/05/10~2021/08/18(UTC)にkaggleで開催された SETI Breakthrough Listen - E.T. Signal Search にて自分が所属しているチームが768チーム中7位となり金メダルを獲得しました。 初コンペ本格参加 何度かkaggleのコンペを覗....
甲状腺細胞診分類モデル＠日本臨床細胞学会
自分が大阪大学データビリティフロンティア機構の技術補佐員としてモデル開発に携わっている研究が、6/4~6/6に開催された第６２回日本臨床細胞学会総会にて発表がありました。 テーマは『甲状腺細胞診画像から癌の種類を予測する』でした。 この抄録のp112にある 「s3-3AI を用いた甲状腺....
【論文まとめ】DINO: Emerging Properties in Self-Supervised Vision Transformers
本記事ではFacebook AI Researchの研究者らによって提案されたDINOという，画像モデルにおける自己教師あり学習の解説を行います． Caron, Mathilde, Hugo Touvron, Ishan Misra, Hervé Jégou, Julien Mairal, Piotr Bo....
令和2年度自主研究奨励事業『眼底画像から緑内障か否か判断する深層学習モデル開発』
2021/04/30に銀杏会館でとりおこなわれた令和2年度学部学生による自主研究奨励事業、全学選抜自主研究成果発表会にて優秀賞をいただきました。 テーマは『眼底画像から緑内障か否か判断する深層学習モデル開発』でした。 アドバイザー教員の三木 篤也先生をはじめ、様々な方にご支援いただきま....
attention勉強会2.5
2021/03/21開催の勉強会の資料です。 スライド atma6,10にこっそり参加していました。 6はがちで何もわからず10はattentionが散ったので悲しみは深いですが、大変勉強になったので感謝しております。n番煎じですが軽くまとめてみました。 非言語データについてw2vでの埋....
attention勉強会2
2021/03/14開催の勉強会の資料です。 最近attentionの流行を肌で感じだし、焦って勉強しています。 スライド maskについての訂正 softmax(QK)についてではなく、QKにmaskをかけます。 Linformer D(Q,K,V)=softmax(QK)VのQKが低ラン....
線形多層ニューラルネットワークにおける陰的正則化とIRMAE
この記事は以下の論文の再現実装を中心とし、線形多層ニューラルネットワークにおける陰的ランク最小化について解説を行います。 Jing, L., Zbontar, J. & LeCun, Y. Implicit Rank-Minimizing Autoencoder. NeurIPS' 20, 202....
【勉強会資料 2020 第7回】機械学習実践編 : Kerasで作る深層学習画像分類器
今回は機械学習の実践編として、深層学習を使った画像分類器を実際に作って動かしてみます。 深層学習は「ゼロから作る」のもとても勉強になってよいのですが、実用的に使う場合には通常は何らかのライブラリを使います。GPUを動かすための処理なども全て組み込まれていて、慣れればとても楽ちんです....
【勉強会資料 2020 第6回】 機械学習とCNN入門
2020.06.24に行われた第6回勉強会のオンライン勉強会の資料を公開します。 紹介スライド
