横田理央研究室では世界最大級のスパコンを用いて
大規模深層学習や大規模行列計算の研究をしています

研究室レベルでは世界最大級の計算資源を活用し、分散並列深層学習の最先端の技術を開発しています。
また、計算量・メモリ・I/Oなどを削減するアルゴリズムの研究なども行っています。

ニュース

2025.01.23 Qi Sunさん(D1)の論文が2本ICLR2025に採択されました
2025.01.23 石川 智貴さん(M2)の論文が2本ICLR2025に採択されました
2025.01.23 中村 泰士さん(M1)の論文が2本ICLR2025に採択されました
2024.10.09 東工大 (岡崎研と横田研) と 産総研が開発した大規模言語モデルLlama3.1-Swallow-8B,70Bを公開しました。
2024.07.01 東工大 (岡崎研と横田研) と 産総研が開発した大規模言語モデルLlama3-Swallow-8B,70Bを公開しました。
2024.03.15 藤井一喜さん(B4)と中村泰士さん(B3)の岡崎研との共同研究がNLP2024で優秀賞を受賞しました。
2024.03.11 東工大 (岡崎研と横田研) と 産総研が開発した大規模言語モデルSwallow-MS, Swallow-MX を公開しました。
2023.12.19 東工大 (岡崎研と横田研) と 産総研から オープンなLLMの中で日本語で最高性能の大規模言語モデル Swallow を公開しました。
2023.08.11 横田教授が「ガイアの夜明け」に出演しました。
2023.04.25 Stability AI JapanのDavid Ha, Jerry Chi, Kamil Rockiによる特別セミナーを開催します
2023.03.04 石川智貴さん(B4)が情報処理学会 第85回全国大会 にて学生奨励賞を受賞
2023.03.02 大友広幸さん(D3)の研究がHPC Asia 2023でBest Paper賞を受賞しました
2023.02.28 高島空良さん(M2)と産総研の共同研究がCVPR2023に採択されました
2023.02.01 大沢和樹さん(卒業生)がDeepMindに就職しました
more info.

横田研究室に所属するには

情報理工学院 情報工学系 情報工学コースになります。


» 詳細を確認する

階層的低ランク近似

密行列の演算は境界積分法を用いた偏微分方程式の解法や統計学や機械学習における畳み込みの計算など様々な場面で用いられている。

» 詳細を確認する

深層学習への応用

NVIDIAやGoogleの低精度演算用ハードウェアにみられるように深層学習は高い精度を必要としない。

» 詳細を確認する