AIのメモリー、128GBでもメモリ不足、美しい人生には最低144GB、限りない喜びには推奨192GB必要に

1 : 2024/12/18(水) 13:50:19.37 ID:WZAoXH7Y0: http://5ch.net
://gigazine.net/news/20241209-nvidia-gpu-apple-silicon-inference/
2 : 2024/12/18(水) 13:50:26.41 ID:WZAoXH7Y0: M2 Ultra 76-Core GPU 192GB　76.28　36.25　12.13　4.71
RTX 3090 24GB 6個　101.07　45.55　16.93　5.82
RTX A6000 48GB 4個　93.73　38.87　14.32　4.74
RTX 4090 24GB 8個　116.13　52.12　18.76　6.45
RTX 6000 Ada 48GB 4個　118.99　50.25　17.96　6.06
3 : 2024/12/18(水) 13:50:32.86 ID:WZAoXH7Y0: GPU　8B Q4_K_M　8B F16　70B Q4_K_M　70B F16
RTX 3090 24GB 2個　108.07　47.15　16.29　メモリ不足
RTX 3090 24GB 4個　104.94　46.40　16.89　メモリ不足
RTX 3090 24GB 6個　101.07　45.55　16.93　5.82
RTX 4090 24GB 2個　122.56　53.27　19.06　メモリ不足
RTX 4090 24GB 4個　117.61　52.69　18.83　メモリ不足
RTX 4090 24GB 8個　116.13　52.12　18.76　6.45
4 : 2024/12/18(水) 13:50:41.93 ID:WZAoXH7Y0: なお、GPUを増やすほど同期に時間がかかってるのか性能が落ちてる
RTX 4090 24GB 1個　127.74　54.34　メモリ不足　メモリ不足
RTX 4090 24GB 2個　122.56　53.27　19.06　メモリ不足
RTX 4090 24GB 4個　117.61　52.69　18.83　メモリ不足
RTX 4090 24GB 8個　116.13　52.12　18.76　6.45
5 : 2024/12/18(水) 13:51:44.22 ID:k4z4UNrw0: もっとメモリ節約できるようになれよAIはよ
使いすぎ
6 : 2024/12/18(水) 13:52:33.16 ID:Fv/aBeg10: 1週間くらい前に見たぞこのスレ
7 : 2024/12/18(水) 13:52:36.86 ID:ssdx61LmH: メタが公開してる奴720Gくらいあるやん
8 : 2024/12/18(水) 13:52:48.15 ID:uClZe4oM0: ちょっと上手いじゃねえか
9 : 2024/12/18(水) 13:52:58.81 ID:03OGC8200: AI絵師の実力貼っとくぞ🤡
みたいなコピペ↓
10 : 2024/12/18(水) 13:53:02.84 ID:9xNmhT0J0: この胸のときめきをあなたに～
11 : 2024/12/18(水) 13:53:21.15 ID:EUF6kbXu0: んじゃあ人間のRAMとROMは何ギガ相当なの、っと
12 : 2024/12/18(水) 13:53:37.44 ID:ssdx61LmH: 言語がだせれば絵作りも捗るな
14 : 2024/12/18(水) 13:54:08.55 ID:NJSPdqnz0: しげるかよ
15 : 2024/12/18(水) 13:54:36.89 ID:PaVcode30: スマホに最適化されてるai生成なら12で十分
16 : 2024/12/18(水) 13:54:37.03 ID:4V3Uqh670: ゴリ押しやめてアルゴリズム改良すれば
28 : 2024/12/18(水) 14:07:13.73 ID:0LEyZbgA0: >>16
人間を超える汎用AI作りたいから肥大化してるんでしょ🥺
画像認識だけとか超解像だけとかの専門AIは小さくて賢いのがいっぱいある😁
17 : 2024/12/18(水) 13:54:37.83 ID:5/Fgn70R0: ここしか知らない歌No. 1
22 : 2024/12/18(水) 13:55:57.13 ID:NdRRaSHj0: >>17
教えてくれるまで知ってる
23 : 2024/12/18(水) 13:56:09.80 ID:hUt3a4pL0: ラデオンちゃんはいつAI得意になるの
二次絵は最近AMUSEとかいうので戦えるようになったらしいけど
27 : 2024/12/18(水) 14:06:54.47 ID:fJ25x40k0: >>23
AIソフト側がラデオンちゃん得意にならないとだめなのだ
32 : 2024/12/18(水) 14:15:04.96 ID:U/zsez9S0: >>27
ラデオンだけならまだしもライゼンも怪しいからね、ドライバ辺り
24 : 2024/12/18(水) 13:57:16.49 ID:Z5YslEzUH: これじゃ3Dなんて扱えないか
25 : 2024/12/18(水) 14:01:24.05 ID:NdRRaSHj0: 醜い人生よ限りない苦しみよ
26 : 2024/12/18(水) 14:05:53.55 ID:aylQuPyi0: このスレ加齢臭がしますね！
29 : 2024/12/18(水) 14:08:08.45 ID:+Txtfbym0: RAMを使うってことで勘弁してくれねえかな
グラボねえよ
30 : 2024/12/18(水) 14:09:37.79 ID:4ervZldEd: ChatGPTが頭よくなりすぎて回答がこっちをバカにしてるみたいなニュアンスになった気がする
33 : 2024/12/18(水) 14:17:20.65 ID:FeRU8qfc0: 学習じゃ最低5TBとか使ってるわけでそう考えればだいぶ頑張ってる方ではある