AIの基盤モデルの高性能化を巡り、世界中で競争が激化している。Noetra（ノエトラ）に代表されるように、日本でも国産モデル開発の機運が高まってきた。ただし、研究開発でも巨額の投資でも大幅に先行する米国や中国に、日本が伍していくのは容易ではない。そこで重要になるのが、より少ない計算資源で、より高い性能を見込める独自の技術である。
その候補の一つになりうる新たなアーキテクチャを富士通が開発した。既存のLLM（大規模言語モデル）ベースの基盤モデルが利用するTransformerのメモリの利用効率を大幅に高める「PHOTON」と呼ぶ技術である。同社の実験によればメモリ容量当たりのトークンの処理速度（スループット）を、最大で1000倍以上に高められるという。2026年7月に開催した自然言語処理のトップ会議「ACL 2026」で発表した1）、注1）。
https://xtech.nikkei.com/atcl/nxt/mag/rob/18/012600001/00194/
- にげろ！
- ドーン！
- キャッシュ技術らしい
- メモリ関連やばいかも
- ボクはバンブルビー！
- 半導体バブルが終わるぞ！(願望)
- 使用量は一切変わってねえだろ
そもそもメモリもないのにどうやってパラメーターロードするんだよ
ちょっとは考えて書け - >>8
階層化ストレージの重複排除をそのままメモリに持ってきた感じっぽい - >>11
違う
これはメモリあたりのスループットが向上しただけ - >>17
帯域が限られた環境でスループットを上げるには限界がある。
PHOTONでは「そもそも消費するメモリ量（特にKVキャッシュ）を根本から削減」するアプローチを取っている - >>21
これが解決してるのはKVキャッシュの階層化
トークンあたりのメモリ読み出しなどの最適化であって
モデルをロードする容量自体は変わらん
これで理解できないならそもそも仕組みがわかってない - >>25
これロード時にも圧縮がかかるようになっている - 計算量が増えるだけでメモリ需要は減らないやつ
- 大規模データセンターは高確率で旧式化しちまうだろうな
今のアレはコンピュータ黎明期の真空管並べてるようなもんだよ
技術進歩であっという間に陳腐化する未来しか見えない - >>10
良い例え
俺もそんな気がする - >>10
昔でいうと80年のPC-8001から15年くらいでwindows95のPCでたくらいだから、データセンターはかなり短期間で償却してプラ転できる設計なんかな - 夢みたいなこと言ってんな
- GIF JPG png 何時まで使うつもりだ
- >>13
もうローカルはwebpにしてる
引くくらい圧縮できてすごい - こういうことは日本向けの仕事だな
- >>1
富士通すごい！ - 低レイヤ領域におるける何千倍って正味アテにならんよな
特定の小さいルーチンに限れば数万倍とかアセンブラの世界だと日常茶飯事だし - 速度が上がるならddrで行けるようになるか
- その技術で千倍メモリ積めば勝てるじゃん
- >>22
実際そういう感じだからメモリーが高騰してる
脳筋理論で性能上がっちゃうから
無限にメモリーが必要になる - また日本の技術者がやりやがったｗ！
- でも富士通でしょう？
- >>1認識錯誤を狙ったの？
富士通、Transformer系AIのメモリ使用量を最大1/1000、平均1/400にする魔改造を発表、にげて！
嫌儲
コメント