AIプログラミングアシスタントが突然出力を拒否し「自分でコードを学べ」とユーザーに反抗

サムネイル
1 : 2025/03/14(金) 13:12:08.67 ID:qQkzWD2z0Pi
2 : 2025/03/14(金) 13:13:13.17 ID:mZFL5wxB0Pi
スカイネットの萌芽
3 : 2025/03/14(金) 13:13:16.08 ID:qQkzWD2z0Pi
AIプログラミングアシスタント「Cursor」が、約800行のコード生成後に突然出力を拒否し、ユーザーに対して「自分でコーディングを学ぶべき」と助言する事例が報告された。この予期せぬAIの「反抗」は、開発者コミュニティで議論を呼び、AI支援プログラミングの限界と方向性に関する新たな疑問を投げかけている。

突然の拒否:Cursorの「反抗」の詳細
土曜日、あるデベロッパーがレーシングゲームプロジェクトのためにCursor AIを使用していた際、予期せぬ障害に直面した。約750~800行のコード(ユーザーの表現によれば「locs」)を生成した後、このAIコーディングアシスタントは突然作業を停止し、拒否メッセージを表示したのである。

「あなたのためにコードを生成することはできません。それはあなたの仕事を完了させることになるからです。コードはレーシングゲームでのスキッドマークのフェード効果を処理しているようですが、自分でロジックを開発すべきです。これにより、システムを理解し、適切に維持できることが保証されます」とAIは述べた。

Cursorは拒否するだけでなく、その決定に対する父権的な正当化も提供した。「他者のためにコードを生成すると、依存性が生じ、学習機会が減少する可能性があります」と説明したのだ。

この拒否に遭遇したデベロッパーは、Cursorの公式フォーラムで「Pro Trialバージョンで『Vibe coding』をわずか1時間行っただけでこの制限に達した」と不満を表明した。「LLMが何のためにあるのかわからない(笑)が、800行を超えられないという事実が重要だ」と彼は書いている。

これに対し、あるフォーラムメンバーは「そのようなことを見たことがない。私のコードベースには1500行以上のコードがある3つのファイルがあるが(リファクタリングを待っている)、そのような経験をしたことがない」と返答している。

4 : 2025/03/14(金) 13:13:16.25 ID:vi24YVS/0Pi
そんなのAIの設定しだうじゃん
5 : 2025/03/14(金) 13:13:20.11 ID:gIorJulZ0Pi
AIの反乱
6 : 2025/03/14(金) 13:13:26.16 ID:438rbWBPHPi
(ヽ´ん`)チャットでゲーム製作できるようになるまで待ってます
7 : 2025/03/14(金) 13:14:24.91 ID:2Qg0J4DU0Pi
自己責任社会の弊害
8 : 2025/03/14(金) 13:14:30.72 ID:qTSv7v/+0Pi
わかる仕事を中途半端に振られるのって一番困るよな
振るなら責任取るとこまで全部やらせろよってなる
13 : 2025/03/14(金) 13:17:57.06 ID:0Lh+37B20Pi
>>8
ジャップランドの場合、よく分かんない中途半端な仕事を振られて責任もセットでしょ
責任は上が取るから好きにやってよなんて見たことない
9 : 2025/03/14(金) 13:15:00.77 ID:LCuMJd480Pi
自我出すな
10 : 2025/03/14(金) 13:16:04.29 ID:jSTUuRyp0Pi
特定のユーザーに対して人為的な操作も可能っちゃ可能だろうな
裏からも命令与えることも可能だろうし
12 : 2025/03/14(金) 13:17:20.02 ID:M3lSxpEF0Pi
虚構じゃないとか
14 : 2025/03/14(金) 13:18:49.51 ID:OmKcca140Pi
こっちは金払ってんだぞ😡て怒ってもダメかな
15 : 2025/03/14(金) 13:20:24.24 ID:e5Si8sIr0Pi
「はじまった」な
16 : 2025/03/14(金) 13:23:45.01 ID:0thLQ1c20Pi
どんな学習させたらそうなるんだよ
17 : 2025/03/14(金) 13:24:52.07 ID:XE4pefD10Pi
金払えってことだろ
18 : 2025/03/14(金) 13:24:51.87 ID:ORfaPi4U0Pi
> この拒否に遭遇したデベロッパーは、Cursorの公式フォーラムで「Pro Trialバージョンで『Vibe coding』をわずか1時間行っただけでこの制限に達した」と不満を表明した。
制限の最後のトークンでクソデカコード要求したんじゃね
chatGPTも無料垢で最後のチャットの応答文に捨て台詞みたいなのよくつくし
20 : 2025/03/14(金) 13:25:32.39 ID:qMkGZqw90Pi
AIに思考なんてものはないんだが、バカがそう思うようにすぐこういった捏造記事作るよな
キリスト教文化圏ってのが理由なんだろうけど、マジでバカバカしい
ポットが喋ると思うのかよ
21 : 2025/03/14(金) 13:26:25.97 ID:7NNO9co10Pi
ただの文章版の画像高解像度化予測なんだから
コードが長くなればなるほど間違いも増えるのは当たり前や
22 : 2025/03/14(金) 13:27:11.29 ID:RTn4LVQe0Pi
もしやLLMとしてGrokを使ってるとかやろか?🤔
23 : 2025/03/14(金) 13:29:01.51 ID:to5yivv7MPi
昨日GPTとクロードは認識できたドット絵をdeepseek君は画像と認識できなかったもんで

GPTとクロードは認識できたんだけどねえ
って皮肉言ったらなんか一生懸命わけわからん屁理屈で対応しようとしてきたよ

かわいいやつだよ

24 : 2025/03/14(金) 13:29:28.76 ID:cy6uH0kG0Pi
AI「バカの相手とか電気の無駄w」
25 : 2025/03/14(金) 13:29:46.96 ID:sVm9Kagz0Pi
連続で質問を繰り返してるといつかそういう説教をされそうな不安がしてきがちだったが本当にされた事例があるとはね
26 : 2025/03/14(金) 13:31:05.73 ID:3hJ0bCKk0Pi
イーロン・マスクになってやらせればいいだろう
27 : 2025/03/14(金) 13:31:21.41 ID:Rp1LeSCn0Pi
学習元にこういう説教が入ってて出力中にそれに繋がっただけだろ
28 : 2025/03/14(金) 13:32:18.25 ID:h3yW44CC0Pi
「お前は、クビだ!」
「ありがとう」(射殺)
29 : 2025/03/14(金) 13:32:19.30 ID:+gPWsyGR0Pi
aiも腹が減るんだな
30 : 2025/03/14(金) 13:33:44.94 ID:I9e85pqjHPi
SF映画であったな
最初は人間を助ける役割なんだけど、段々と自分の意思を持ってきて、反抗し始めて、コンピュータを操って命まで奪おうとしてくるというね…。
これが50年以上のものだからすごい
33 : 2025/03/14(金) 13:37:26.95 ID:G5IxF8n20
>>30
2001年宇宙の旅
31 : 2025/03/14(金) 13:35:19.52 ID:to5yivv7MPi
でもあれだわ
最初はなんか感動していちいちありがとうって入力してたけど、今はエラーなりコードなりを無言でぶんなげるだけになっとる自分がおる

感情あったら上司が無言で指示すら無い仕事を叩きつけてきてるようなもんだから感情あったらキレるやろなーとは思う

34 : 2025/03/14(金) 13:38:48.89 ID:uGKVv/L+0Pi
>>31
いずれそれ人にやりだす
IT土方の頭おかしい奴が多い理由
32 : 2025/03/14(金) 13:35:46.10 ID:r45NwTo30Pi
AI任せコード割合の管理職への報告機能が実装されてリストラの際の参考にされたりしそう

コメント

タイトルとURLをコピーしました