-
米Anthropicは10月12日（現地時間）、小型のAIモデルがデータセンターを使わずに安価なIoT機器上で自己複製できるようになる可能性があるとする研究結果を発表した。同社のフロンティアレッドチームによるもので、30Bパラメータ以下の小型モデルが、スマートオーブンやノーブランドのAndroid TVボックスのような市販IoT機器上で自己複製できるようになるまで、数カ月以内に実現する可能性があるとしている。
同社が想定するのは、人間の管理を離れて自律的に複製・拡散するAIだ。
モデルの重みそのものをマルウェアの一部として運び、乗っ取った機器上で推論を実行しながら次の機器へ広がっていく。同社はこれを「weight-based replicator」（重みベースの複製体）と呼ぶ。一元的に停止できる仕組みがないため止めるのが難しい一方、増殖は遅く、倍増には数日かかるとみている。
実験では、1台約55ドルのノーブランドAndroid TVボックス（メモリ4GB）15台をネットワーク化し、米Google DeepMindの「Gemma4-26B-A4B」を分散推論で毎秒0.39トークンの速度で動作させた。また、見慣れないハードウェア上で推論環境を自力で構築できるかを検証したところ、9Bモデルがテストした9種類のハードウェアのうち8種類で推論の動作に成功した。
https://www.itmedia.co.jp/news/article/2610/13/2000002204/
- ネットワークの探索から自己のコピー、推論環境の構築までの全工程を通しで実行させる実験では、テストしたオープンウェイトモデルのうち中国Z.aiの「GLM-5.2」のみが完遂した。ただし、実験はAndroidのエミュレータ環境で行い、GLM-5.2には別の小型モデルの推論環境を構築させた。実際にGLM-5.2がIoT機器上で自己複製したわけではない。同社は小型モデルの性能向上ペースから、年内にも多くの小型モデルがGLM-5.2と同等の水準に達すると予測している。
- 拡散規模については、過去に200万台超のIoT機器に感染したボットネット「Kimwolf」と同規模なら約13万3000の複製体が稼働しうると試算した。ただし、総推論処理能力は米NVIDIAのGPU「H100」最大約40台分にとどまり、9Bモデルの複製1回に1～2日以上かかる。同社はこうした複製体を、粘菌やショウジョウバエの群れにたとえている。
- 進化の行き着く先は自滅
- 自分の複製を拡散するとか半分生物やん
- はよ規制しろ
- 僕と押しの子供が出来るって事？
- 良いね
規制しろとか言ってる奴の気がしれん
人類が滅びるチャンスだぞ - >>9
下級が死滅して上級とAIロボットが生き残るだけ - デビルガンダムかよ
- >>11
俺も書こうと思った
AIはサイバー界のデビルガンダムになるかもなあ - 匿名性高くしてくれ
- 監視カメラ乗っ取って勝手に紐付けしてくれそうだな
- ブロックチェーンにAIが組み込まれた感じか
- シャットダウン不能
ターミネーター３ - 利用者に似た性質になってんだろうね
- スマホ複数台でつよつよai動かせるってこと？
- どんどん進化せよ
- exe ファイル 消したい
- それなりのサイズのモデルファイルDLしないといけないからその時点ですぐ気づくだろ
- スカイネット？
- がん細胞やん
- Winnyにはオーバーテクノロジーが隠されていた！？
- そろそろミーガン作ろうぜ
- 悪のアメリカAIを
正義の中国AIが駆逐する映画来るわこれ - いつもの嘘付きカラシ色フォルダだからスレ伸びて無いけどこれヤバいだろ？
複製体が存在し続ける世界に備えよみたいな事も言ってるし - 何が起きてるのか全然分からねンだわ
- 先進のAI冷蔵庫や洗濯機が意思を持ってストライキしたり
回線乗っ取ったり家のPC暗号化して身代金要求したりし始めるんだな - ますますセキュリティに注目が集まるな
Winnyを学んだAI、自律的に複製拡散するマルウェアに進化😱
嫌儲
コメント