Sakana AI⁠新手法「TAID」よって蒸留された高性能SLM「TinySwallow-1.5B」公開

Sakana AIは2025年1月30日、高性能な大規模言語モデル(LLM)が持っている知識を小規模言語モデル(SLM)に効率的に転移するための新技術「TAID(Temporally Adaptive Interpolated Distillation)」を開発し、これを用いて作成した日本語SLM「TinySwallow-1.5B」を公開した。

全文を読む

プロフィール

おすすめ記事

記事・ニュース一覧