【AI】Google、スマホでオフラインで動くチャットAIを開発!8Bの蒸留量子化無しの生モデルで2GB以下

サムネイル
1 : 2025/05/28(水) 21:45:52.34 ID:MeUSnn6E0

ネット接続なしにスマホで高速に動く賢いAI「Gemma 3n」

https://news.yahoo.co.jp/articles/fbaad4425ba23f8f5986369dbc46052e3e887ca4

2 : 2025/05/28(水) 21:46:37.14 ID:MeUSnn6E0
ローカルでAIを実行することにより、インターネット接続不要で、ユーザーのプライバシーを尊重しつつAIの機能を実行できる。また、マルチモーダルモデルであるため、音声、テキスト、画像、動画を理解して処理できるという。音声機能により、高品質な文字起こしや翻訳が可能。さらに複数のモダリティをまたいだ入力も対応する予定。

 多言語対応能力も向上し、特に日本語、ドイツ語、韓国語、スペイン語、フランス語を強化。多言語ベンチマーク「MWT24++(ChrF)」で50.1%という高性能を実現した。

3 : 2025/05/28(水) 21:47:49.80 ID:MeUSnn6E0
GPT-4.1nanoやllama4.0 17Bよりベンチ上
4 : 2025/05/28(水) 21:50:12.82 ID:h5WqC6QCH
でもインターネットにつないだ瞬間にそれまで溜め込んだプライバシーをダダ流しにすんでしょ?
6 : 2025/05/28(水) 21:52:14.02 ID:mA5aoCec0
SD480メモリ4GBでもキビキビ動きますか?
7 : 2025/05/28(水) 21:55:20.79 ID:Szaza62er
巨大迷路の最速アルゴリズムだから
モデルを作るのはスペックいるけど
使う時はそれほどスペックはいりません
9 : 2025/05/28(水) 22:00:12.20 ID:+M3/K3rX0
>>7
AIがグラフ探索アルゴリズムだと思ってるのか?
8 : 2025/05/28(水) 21:59:47.00 ID:3pyTQYARd
もう嫌儲必要ないじゃんこれ
10 : 2025/05/28(水) 22:00:36.71 ID:gW8ZDk180
それでマルチモーダル?
まゆつばすぎる
13 : 2025/05/28(水) 22:27:52.82 ID:XuhJeqY0r
8B程度のAIなんて大して役に立たないだろ
14 : 2025/05/28(水) 22:32:33.06 ID:aa1Tl0nv0
マジで意味のないクソアホAIだよ
そんなサイズのAIは支離滅裂なことしか言わない
15 : 2025/05/28(水) 22:40:37.46 ID:vUxsRP1V0
pcのローカルでできるんすか
16 : 2025/05/28(水) 23:07:54.40 ID:dgc1HjQQ0
SOCのNPUの有無とかTOPS値による性能の差とか全然書いてないのな
18 : 2025/05/28(水) 23:29:23.83 ID:kLMRjpqfM
>>16
訓練済みの8Bモデル動かすだけなんてノーパソのCeleronだけでも既にいけるよ
19 : 2025/05/29(木) 00:58:33.71 ID:2T+E5EWN0
>>18
動かすんじゃなくてその速度だよ
17 : 2025/05/28(水) 23:11:49.95 ID:OraeHHVD0
カーナビ商法?
22 : 2025/05/29(木) 09:38:25.28 ID:FR+h1izb0
なにを言ってるのか全然話についていけんわ…
25 : 2025/05/29(木) 09:49:23.99 ID:oQlvBDtd0
「基本原則は同じ」
26 : 2025/05/29(木) 09:53:59.33 ID:/QO7Cn8q0
これ何が処理をさせるのは良いけど
答えを求める系のものは駄目やぞ
知識量が足りなさすぎ
29 : 2025/05/29(木) 17:12:37.05 ID:7Xo26Xeq0NIKU
>>26
当たり前だろ、Wikipedia日本語版の女声優記事だけでLZMA圧縮しても3GBあるんだぞ?
これは24言語対応+音声入力+画像入力+動画入力対応で2GBのAIだ、知識が足りるわけない
30 : 2025/05/29(木) 19:46:46.71 ID:9CnQ8iTs0NIKU
>>29
未だにハードディスクとメインメモリの差もわからんアホ
これの2GBはメモリ使用量だ
ストレージに保存されるモデルのサイズは数百GBだよ
27 : 2025/05/29(木) 10:17:57.40 ID:H0Y0gcwQ0
消しゴムマジックをローカルで動かすとか設定の検索が少し賢くなるとかに使えるんじゃね?
28 : 2025/05/29(木) 12:08:15.12 ID:dIZWi1CK0NIKU
バッテリー持つ訳ないよねw
31 : 2025/05/30(金) 03:56:37.40 ID:Zmm9+M060
もうこれを嫁にしよう

コメント

タイトルとURLをコピーしました