- 1 : 2024/12/09(月) 12:18:22.06 ID:yGBxq7h50
https://5ch.net
://gigazine.net/news/20241209-nvidia-gpu-apple-silicon-inference/
- 2 : 2024/12/09(月) 12:18:29.55 ID:yGBxq7h50
M2 Ultra 76-Core GPU 192GB 76.28 36.25 12.13 4.71
RTX 3090 24GB 6個 101.07 45.55 16.93 5.82
RTX A6000 48GB 4個 93.73 38.87 14.32 4.74
RTX 4090 24GB 8個 116.13 52.12 18.76 6.45
RTX 6000 Ada 48GB 4個 118.99 50.25 17.96 6.06
- 46 : 2024/12/09(月) 12:26:15.00 ID:m0WHXURK0
>>2
動画保存したくなるわ
- 3 : 2024/12/09(月) 12:18:36.64 ID:yGBxq7h50
GPU 8B Q4_K_M 8B F16 70B Q4_K_M 70B F16
RTX 3090 24GB 2個 108.07 47.15 16.29 メモリ不足
RTX 3090 24GB 4個 104.94 46.40 16.89 メモリ不足
RTX 3090 24GB 6個 101.07 45.55 16.93 5.82
RTX 4090 24GB 2個 122.56 53.27 19.06 メモリ不足
RTX 4090 24GB 4個 117.61 52.69 18.83 メモリ不足
RTX 4090 24GB 8個 116.13 52.12 18.76 6.45
- 4 : 2024/12/09(月) 12:18:50.52 ID:kl1mvrAf0
マイニングかよ
- 5 : 2024/12/09(月) 12:19:03.07 ID:K/Y1yhow0
ストレージやんけ
- 6 : 2024/12/09(月) 12:19:07.07 ID:yGBxq7h50
なお、GPUを増やすほど同期に時間がかかってるのか性能が落ちてる
RTX 4090 24GB 1個 127.74 54.34 メモリ不足 メモリ不足
RTX 4090 24GB 2個 122.56 53.27 19.06 メモリ不足
RTX 4090 24GB 4個 117.61 52.69 18.83 メモリ不足
RTX 4090 24GB 8個 116.13 52.12 18.76 6.45
- 7 : 2024/12/09(月) 12:19:07.44 ID:Jec7In9YH
ゲフォは繋がらんやろ？
- 8 : 2024/12/09(月) 12:19:23.88 ID:YFPFdSvE0
ビデオカード2個装備して2倍のパワーとか昔なかったっけ？
- 9 : 2024/12/09(月) 12:20:01.69 ID:LT+S7w8f0
AIとか要らないから安く上がる
- 10 : 2024/12/09(月) 12:20:06.93 ID:ZcGcN2aq0
GLIDEか
- 11 : 2024/12/09(月) 12:20:07.54 ID:hv2b2uo/0
あ ほ く さ
- 12 : 2024/12/09(月) 12:20:13.88 ID:Jec7In9YH
NPUあかんの？メインメモリ使うやろ？
- 14 : 2024/12/09(月) 12:20:25.61 ID:evZzoxTM0
海馬だっけ記憶がどうのっていうの
ナマモノが省エネで上手いことやってんのになんでシリコンが出来ないんだよ
- 22 : 2024/12/09(月) 12:21:48.63 ID:2Ls/nV1I0
>>14
昔からよく言われてる理論で
専用品と同じことソフトウェアでやろうとすると10倍の性能が必要なんや
- 87 : 2024/12/09(月) 12:37:59.04 ID:Z370VfVD0
>>14
幼児の言語の覚え方を考えると大規模言語モデルほど大量の情報を必要としていないから大規模言語モデルでのAIと実際の人間の思考ではやり方が根本的に違うんだろ
実際のやり方、方法は違うけど結果はかなり似通ってるだけなんじゃない？
- 15 : 2024/12/09(月) 12:20:27.12 ID:FojWC3IC0
もうAI専用のカード作れよって話
- 33 : 2024/12/09(月) 12:23:45.75 ID:Xcxy3pn70
>>15
一応3Dモデル作成用？のグラボとドライバはある
誰も使ってないから売れなくて困ってるらしい
- 16 : 2024/12/09(月) 12:20:30.40 ID:oE8DJozbM
これもう松崎しげるだろ
- 38 : 2024/12/09(月) 12:24:36.71 ID:ov5BK9p4r
>>16
うむ
- 51 : 2024/12/09(月) 12:27:07.17 ID:OVsno46v0
>>16
はい
- 79 : 2024/12/09(月) 12:34:12.84 ID:t5Lfqz6c0
>>16
ほんとこれ
- 85 : 2024/12/09(月) 12:37:10.68 ID:DeJ1jaFUM
>>16
これいいと思う
- 17 : 2024/12/09(月) 12:20:40.90 ID:LiqaEk0P0
これが必要なのはローカルで処理させる変人だけだろ？
- 18 : 2024/12/09(月) 12:20:52.50 ID:eL6kLb7G0
>>1
グラボメーカーのエサになってるだけっていうｗ
- 19 : 2024/12/09(月) 12:21:00.75 ID:WTwYYQ6lM
マザボ対応してるかな
- 20 : 2024/12/09(月) 12:21:15.72 ID:q1+4WSLU0
win12がこの要求求めてきたら笑う
- 21 : 2024/12/09(月) 12:21:21.98 ID:JC03oVz80
文書作成とか統計処理とかレベルのAIでもそんな性能いるの？
- 23 : 2024/12/09(月) 12:21:54.68 ID:ot5QsvUs0
大衆向けグラボのメモリが少ないんだよな。
- 39 : 2024/12/09(月) 12:24:50.84 ID:+QKbMNbU0
>>23
4090でも24GBとかだもんなぁ
- 55 : 2024/12/09(月) 12:27:52.77 ID:Wbj4Ymsrd
>>23
radeonは多いだろ
AIに向いてないが
- 24 : 2024/12/09(月) 12:22:07.29 ID:8qCv0D800
これでもGPT4より下位性能のやつだからな。
AI界のミドルレンジでこれ。
- 25 : 2024/12/09(月) 12:22:11.59 ID:t9fxFgF+a
HDDとかむかしは500GBすげー1Tすげーって感じだったのが今お手頃だけどメモリもそうなる？
- 26 : 2024/12/09(月) 12:22:38.43 ID:eL6kLb7G0
儲からないのに30万以上もグラボに金かけるのはさすがにアホくさい
- 27 : 2024/12/09(月) 12:22:51.10 ID:HP54jyJC0
新品買うより普通にTeslaサーバー解体で放出された中古買うよね
- 28 : 2024/12/09(月) 12:23:14.65 ID:kH64hPbw0
たかだか1024トークンしか入れてないからこの表見て買うのは危ない
- 29 : 2024/12/09(月) 12:23:21.65 ID:a/fBg3rhd
CPUとかメモリとかすっかり主役じゃなくなったな
- 30 : 2024/12/09(月) 12:23:31.94 ID:n7cmmHfE0
企業が運営するネットとかクラウドのAIサービスに個人は敵わなくなるな
そのサービスの先には大量のグラボやサーバーがあるんだから
- 31 : 2024/12/09(月) 12:23:34.89 ID:GJlK8zQR0
マイニングはメモリの量じゃなくてメモリバス幅が必要
AIとは違う
- 32 : 2024/12/09(月) 12:23:39.97 ID:UBUC/E4J0
俺のメモリー1テラだが？
- 34 : 2024/12/09(月) 12:23:54.84 ID:PtiBXMdd0
あればあるだけ使うんだから当たり前だろ
- 36 : 2024/12/09(月) 12:24:11.13 ID:PERppA+Y0
わりとどうでもいい
- 37 : 2024/12/09(月) 12:24:31.24 ID:bs7TMN3K0
ローカルはコスパ最悪になった
クラウド1択
- 40 : 2024/12/09(月) 12:24:56.52 ID:ozzzz+dTM
HIKAKINぐらいしかできんやん
- 41 : 2024/12/09(月) 12:25:05.80 ID:qL2MRPvg0
CPUのメモリも活用してや
- 42 : 2024/12/09(月) 12:25:09.88 ID:BvduwM5m0
美しい人生を〜
- 43 : 2024/12/09(月) 12:25:26.19 ID:PL3l1Wgi0
俺のiphone6sメモリ2G
- 44 : 2024/12/09(月) 12:25:32.88 ID:J0ysBuMn0
クソデカマザボくん必要やん
- 45 : 2024/12/09(月) 12:26:09.85 ID:oWeIFO5q0
AIやるのは円安終わってからでええやろ
今やるのはアフォ
- 47 : 2024/12/09(月) 12:26:19.64 ID:uIBRyrJR0
まあPC自体動かすのに
もう8gbじゃきついからな
最低でも16gbは欲しい時代
- 48 : 2024/12/09(月) 12:26:33.30 ID:ZNDKll7H0
もうね
- 49 : 2024/12/09(月) 12:26:57.73 ID:yGBxq7h50
100万円のMac Studio / Mac Pro が善戦しててびびる
M2 Ultra 76-Core GPU 192GB 76.28 36.25 12.13 4.71
- 50 : 2024/12/09(月) 12:27:01.08 ID:KUtr+Dpm0
VRAMか
- 52 : 2024/12/09(月) 12:27:16.68 ID:bu3+0r0fM
数値だけじゃRAMとROMの判断出来なくなるやんけ
- 53 : 2024/12/09(月) 12:27:33.35 ID:WO91Mebp0
生成AIってそんなうまく使えてるやついるんかな
こっちが期待するものを出させようとするとすごい細かい条件を指定してを繰り返さないといけないから結局自分でやったほうが早いよってなるわ
俺は翻訳ぐらいにしか使ってない
- 56 : 2024/12/09(月) 12:27:54.60 ID:C9XUBirp0
美しい人生よ
- 57 : 2024/12/09(月) 12:27:58.79 ID:HP54jyJC0
これメモリが広大に使えるMac買えっていう提灯記事じゃん
間違っちゃいないけど本気で組むならちゃんとリグ作れよ
- 58 : 2024/12/09(月) 12:28:13.21 ID:CpCi9os6M
美しい人生よ～
- 59 : 2024/12/09(月) 12:28:15.30 ID:jZ1jo8pvr
でもクラウドだとロリエ口ダメでしょ😡
- 63 : 2024/12/09(月) 12:30:03.55 ID:+QKbMNbU0
>>59
画像生成はめちゃくちゃスリムになって12～16GBが主流
- 60 : 2024/12/09(月) 12:28:49.55 ID:R0yq91Lqr
YouTubeで2分くらいのおもしろAI動画あげてるチャンネルの人って超絶スペックのパソコン使っとるんか？
- 61 : 2024/12/09(月) 12:29:08.93 ID:Ly3WUkMo0
64であと５年戦うつもりやったのに
- 62 : 2024/12/09(月) 12:29:57.89 ID:pzzB1qc2d
グラボに拡張メモリスロットつける時代だろこれ
- 64 : 2024/12/09(月) 12:30:40.34 ID:yGBxq7h50
>>62
RIVA128にはメモリスロット付いてた
- 65 : 2024/12/09(月) 12:30:59.59 ID:sublyYeF0
ローカルpcでai使って何すんの
- 67 : 2024/12/09(月) 12:31:28.55 ID:Jec7In9YH
>>65
HENTAIクリエイティブでしょ
- 66 : 2024/12/09(月) 12:31:27.83 ID:ZxY4qgtA0
限りない容量を～
- 68 : 2024/12/09(月) 12:31:58.21 ID:WmR80dQv0
性能上がればデータも増えて結局ローカルじゃ動かせないんだわ
GPUレンタルも高いし個人で遊ぶのはイラストと軽いllmぐらいだわ
- 69 : 2024/12/09(月) 12:32:16.65 ID:lXIbHn9s0
さっさと戦争終わらせて半導体価格下げていけ
- 70 : 2024/12/09(月) 12:32:39.76 ID:Sts4DrXl0
基盤直付けしかできない従来のLPDDR５メモリから性能が倍増して
なおかつ可撤性になったLPCAMM2規格のメモリが商用化され始めてるから
グラボのメモリボッタクリ商法はもう終わり
グラボのメモリも自分で増設できる時代がもうすぐくる
- 72 : 2024/12/09(月) 12:33:07.26 ID:0vAPdWGlH
業界や一部の人は盛り上がってるけど何に使うの？
- 73 : 2024/12/09(月) 12:33:16.72 ID:dJhPxf0U0
なにがAIだよ
ポンコツ野郎がよ
- 74 : 2024/12/09(月) 12:33:24.14 ID:4hJfDy0B0
人間の脳みそが高々50W前後の消費エネルギーで適切な論理的思考を実現してるのに
現状のAIは効率悪過ぎだろ
- 75 : 2024/12/09(月) 12:33:38.53 ID:r4RstUix0
グラボ複数積みすりゃいいだろ
- 76 : 2024/12/09(月) 12:33:44.79 ID:DlW6Qe070
これは厳しいなぁ
- 77 : 2024/12/09(月) 12:33:58.61 ID:FzRdz4W50
マックってVRAM192もあんのか
- 90 : 2024/12/09(月) 12:39:58.96 ID:HP54jyJC0
>>77 VRAMというよりメインメモリと共用だけどGPUが直接扱えるメモリ領域になるから通常のdGPU(グラボ型のGPU)よりも高速にアクセスできるってのがウリ
まぁGPU性能はまだまだだからリグ組んで同等メモリ量にしたNVIDIAと比べたら性能は劣るけどね
- 78 : 2024/12/09(月) 12:34:02.27 ID:SjB8dTRS0
NVIDIAがVRAM増やすの渋ってるのが悪い
- 80 : 2024/12/09(月) 12:35:10.17 ID:DTZeCHFe0
中国人が4090のメモリ引っ剥がして4090@96GBのグラボ作ったりしてるな
- 81 : 2024/12/09(月) 12:35:25.18 ID:+mNekl4n0
もう飽きた
- 82 : 2024/12/09(月) 12:36:48.86 ID:hy82bsOW0
まだ8GBなんだが…
- 83 : 2024/12/09(月) 12:36:56.84 ID:XO36+11p0
エ口系とかはローカルでやるほうがいいが
プログラミングとかClaudeがやっぱすごい
- 84 : 2024/12/09(月) 12:37:03.37 ID:em4iE9Ar0
そんな設備投資してやることがアニメキャラと安倍晋三のなりきりAIかよ
- 86 : 2024/12/09(月) 12:37:44.47 ID:MFzIsa9OM
全身画像いれると全裸にして好みのエ口シーンつくるAIあるけど
あんなのはローカルでやるだろうな
クラウドでやってたらただの馬鹿だよ
- 88 : 2024/12/09(月) 12:38:24.50 ID:4h+b2Czd0
今現在で高めな一般用PCマザーも192までしか積めないんやろ？
グラボでそんだけ要求すんのかい！
- 89 : 2024/12/09(月) 12:39:25.92 ID:hLQDFMsX0
脳はもつれ粒子使った超光速通信をハードでやってるからな
クソ遅半導体に勝ち目はない
- 91 : 2024/12/09(月) 12:40:02.28 ID:JEvzEkGv0
AIってなんでこんなにメモリ容量にシビアなんだ
データに一切の局所性無くアクセスするって事なんか?
メインメモリもディスクスワップも出来ないって事は
- 93 : 2024/12/09(月) 12:40:19.13 ID:Jec7In9YH
macユーザーさん筋金入りのドスケベですね
- 94 : 2024/12/09(月) 12:40:31.05 ID:YcNn7FlVa
12800000000TB積んだ＼(^o^)／
コメント