https://pc.watch.impress.co.jp/docs/column/nishikawa/2062248.html
- gpt-oss-120b
GeForce RTX 4090 24GB 起動すらせず
GeForce RTX 3090 + GeForce RTX 4090 48GB = 120.47tok/s
MacBook Pro M4 Max 128GB = 70tok/s
https://youtu.be/tu1M7vqH28Q - 96W電源のノートパソコン
- 脱CUDAが深刻
- CUDA-Cでプログラミングしているやつ絶滅した
- m6でたら終わる
- GPTですら満足いかないのにそれ以下のローカルをやる気にはならんべ
- え？今ってCUDAじゃなくても良いの？
- >>8
そのせいでAMDも急激に追い上げてる - >>12
全く追い上げてない - >>27
AMD、OpenAIに6GW規模のGPU提供へ 「NVIDIA一強」を崩せるか
https://eetimes.itmedia.co.jp/ee/articles/2510/14/news038.html - >>34
amdとかのgpu使ってるのは推論だけで、
肝心のモデル学習はnvidia一択なんだわ - ゲフォはCUDAなければ雑魚なのか
- 猫も杓子もPython全盛の時代だし
CUDA-C言語で組んでるやついなくなったからな - linux同様にAIの起動とベンチとって満足してるの？
- tok/sってなんぞ？
tiKtok投稿数/秒か？ - >>14
そうだよ - VRAMに入らないだけでRAMに移せばMACぐらいの速度でるんじゃねえの？
GPT-OSSってMOEだから全部VRAMに入れなくてもよかったはず - なお画像動画生成はぼろ負け
- >>17
画像はもうローカルも微妙なイメージある
動画はエ口に関してはまだローカルに分がある感じはするけど - みんなMac mini数珠繋ぎしてる
- VRAMじゃなくLPDDRでもいいやんけ
- >>19
中国がLPDDR5Xを買い占めしているせいで
日本のメモリ価格が高騰しているんだぞ - >>26
ジャップには使い熟せないから別にいいじゃん - しかしAmuseはNSFWに厳しい
- 3090+4090ってなんだよアンバランス過ぎるだろ
そっちの方が早い結果になってるけど - こういう話基本的にメモリの容量だけの問題でとっとと大容量のメモリで出せってだけの話なんだよな
- エ口動画生成もいける？
- 4090のメモリ改造 48GBにするの
- Macって高価なVRAMじゃなくてメインメモリでいけるんか？
- >>30
統合メモリだから下手なVRAMよりアクセス速度速いんじゃない - >>30
高価なVRAMみたいのをCPUチップに内蔵している
だからメモリ増設できない - 今性能良いチップよりRAMの方が重要だから
- 嫌儲的には中古3090 24GB 2枚がおすすめなのかね? 電気代がやばそうよな
- GPUはゲームが動けばいいよ
AIやりたきゃ専用チップ作れ - LPDDRつこえばVRAMになるからね
MacじゃなくともAMDのRyzenAI max+395では最大96GBまで割り当て可能
LLMにおいては5090でもこいつには勝てん - >>35
それメモリとの距離とスピード問題にならんの？ - >>43
AIいうても種類があってな
VRAM量が正義の分野もある
だからいくら速くても足りないと論外 - >>43
Ryzen AIは「LPDDR5Xの最大8チャンネル」で解決している
当然HBMには負けるが、安いLPDDR5Xを並列に繋げる方式でそこそこ善戦している - 最後に勝つのはAMD
- もうすぐRyzen AIの奪い合いになる
- メモリ価格高騰はその前触れ
- Appleシリコン強すぎ
- 今のうちにRyzen AI 128GBマシン買い占めとけ
- 脱CUDAは去年から研究されまくっててそろそろ実を結ぶな
Geminiも今年から脱CUDAフルパワーだし - メモリの高騰がヤバすぎる
- ｴﾝﾋﾞﾃﾞｨｱはゲーム専門に戻ろう☺
我々は革ジャンの味方だよ🤗 - >>49
いまや利益の15%しかゲーム分野の利益はない… - そろそろM5出そう？
- バラクーダでもいいの？
生成AIの「脱CUDA」が進んだ結果、GeForce RTX 4090が「MacBook Pro（iGPUのノートパソコン）」に負けてしまう😨
嫌儲
コメント