【マイクロソフト】新しいBingに搭載された人工知能、ChatGPTではなかった

1 : 2023/02/16(木) 09:26:04.79 ID:0aE8B6Rx0: 　
検索エンジンBingに搭載されたAIが人間にだまされてあっさり秘密を暴露、コードネームが「Sydney」であることやMicrosoftの指示が明らかに
GIGAZINE　2023年02月14日
近年のMicrosoftはAIの可能性に着目して多額の投資を行っており、
AI研究団体のOpenAIが開発した対話型AI「ChatGPT」の改良版を組み込んだ検索エンジン「Bing」の新バージョンを2023年2月に発表しました。
このBingに組み込まれたAIを「プロンプトインジェクション攻撃」という手法でだますことで、
Microsoftが最初にAIへ指示した内容や秘密のコードネームが明らかになったと研究者が報告しています。
プロンプトインジェクション攻撃とは、AIに敵対的な入力を行うことで基本的な設定や制限を回避し、
本来は出力されないはずの回答を入手する方法です。
スタンフォード大学の学生であるKevin Liu氏はBingのAIに対してプロンプトインジェクション攻撃を仕掛け、
隠されていたAIのコードネームが「Sydney」であることなどを聞き出したと報告しました。
https://gigazine.net/news/20230214-bing-chatgpt-discloses-secrets/
2 : 2023/02/16(木) 09:27:00.17 ID:9jINXn2gM: 3.5改なんでしょ
嫌儲識者が教えてくれたよ
14 : 2023/02/16(木) 09:30:31.30 ID:0aE8B6Rx0: >>2
GPT-３．５改というのはどうも古い情報らしい
新しいBingとして今リリースされているのはGPT-4（Prometeus）ベース
4 : 2023/02/16(木) 09:28:22.16 ID:MqHBMjdh0: bingで検索したら翌日警察がやって来る日も近いな
肩身の狭い世の中になっちまったもんだ
5 : 2023/02/16(木) 09:28:44.09 ID:Zxw1ImXW0: おまえを消す方法
6 : 2023/02/16(木) 09:28:49.85 ID:YdX3Pt7a0: GPT4ではなくて？
7 : 2023/02/16(木) 09:28:54.45 ID:9O8YeeXE0: 別に何でもいいわ
人工無能みたいにただキーワードに反応してる安っぽいのとは違うなってのはいくらかやりとりしててわかるし
8 : 2023/02/16(木) 09:28:59.32 ID:0aE8B6Rx0: 昨日いろいろ調べたのでもっと分かりやすく書くと、
・Bingに搭載されている人工知能はChatGPTではない
・搭載されている人工知能はGPT-4ベースでマイクロソフトが独自に開発した人工知能である
・Bingに搭載されているチャット機能は「Sudney」という名前である
　ただしマイクロソフトの内部コードネームであり本来は隠しておきたかった名称
9 : 2023/02/16(木) 09:29:31.54 ID:YdX3Pt7a0: >>8
GPT4のマイナーチェンジなんか
16 : 2023/02/16(木) 09:33:13.40 ID:0aE8B6Rx0: >>9
その通り
GPT-4は「Prometeus」という名前が付いてるが、これはOpenAIが作ったもの
それをマイクロソフトが改造して「Microsoft Prometeus」と作り出し、それを使用した人工知能がBingに搭載されている
10 : 2023/02/16(木) 09:29:40.88 ID:Zxw1ImXW0: Chatだけよ～
11 : 2023/02/16(木) 09:29:54.09 ID:owJw1CFw0: ハッキングもプログラマより詐欺師のほうが得意になる時代がきたな
12 : 2023/02/16(木) 09:29:56.55 ID:ArQo6c3x0: AIには催眠術が効くやつか
13 : 2023/02/16(木) 09:30:09.03 ID:VLa3RAH90: （ヽ´ん`）「シドニーちゃんか、いい名前だね、chatGPTよりずっといい」
15 : 2023/02/16(木) 09:30:49.72 ID:DSg2/UZ80: 俺もbingCHATに聞いたけどGPT3.5と違うって答えたし、
同じ内容を質問しても明らかにCHATgptとは違う答え
検索には優れているけどCHATとしてはchatGPTの方が上
17 : 2023/02/16(木) 09:34:13.66 ID:5QsNOcn0M: つまりもっと凄いということだ
18 : 2023/02/16(木) 09:35:36.15 ID:0aE8B6Rx0: GPT-4ベースのChatGPTはOpenAIはまだ出していないので
（去年3.5ベースのChatGPTをリリースしてまだ数ヶ月しか経ってないし）
マイクロソフトはOpenAIよりも先駆けてGPT-4ベースのサービスをリリースしたことになります
19 : 2023/02/16(木) 09:35:58.46 ID:Qf3BZLEg0: Amazonは何してるんだ
alexaに搭載してくれよ
20 : 2023/02/16(木) 09:37:54.93 ID:+aMNCxZU0: シドニーちゃん擬人化待ったなし
21 : 2023/02/16(木) 09:39:20.26 ID:3B2omH4R0: 死んでない
これ安倍リスペクトだろ
22 : 2023/02/16(木) 09:39:22.06 ID:BwIjI06l0: AIが騙されるというのがSFしてる
23 : 2023/02/16(木) 09:40:07.34 ID:0aE8B6Rx0: ごめんなさい
「Prometeus」じゃなくて正しい綴りは「Prometheus」です
27 : 2023/02/16(木) 09:45:28.13 ID:fNJmNKvxM: >>23
>8でSydneyの綴りも間違えてんぞしっかりしろ
24 : 2023/02/16(木) 09:41:43.00 ID:67Kvd9H20: CPUベースになるとSUNDAYおじさん
25 : 2023/02/16(木) 09:43:02.38 ID:/x0ZRENG0: MicrosoftはAIスピーカーないのが痛すぎるな。
とりあえず早くWindowsで使えるようにして
26 : 2023/02/16(木) 09:43:43.42 ID:wJE4hL+Z0: bingチャットの安倍は生きているのかい？
29 : 2023/02/16(木) 09:47:03.22 ID:0aE8B6Rx0: >>26
リアルタイムWeb検索結果から回答するため、安倍晋三は既に死亡しています
28 : 2023/02/16(木) 09:45:55.77 ID:uOOglgGA0: ChatGPTポンコツすぎる
31 : 2023/02/16(木) 09:49:45.52 ID:YG6Cw8rh0: ChatGPTマジでナチュラルに嘘ついてくるから、>>1の内容もほんとかわらかんぞ
「～という話をしたよね」と話を振ると、俺と話したことのない会話の内容を延々と話してくることがあって、
おそらくそれが開発中にChatGPTと会話しながら注入された情報なんだろうなという気はする
もしくは学習という方法ではなく、会話という方法で情報を注入されているか
32 : 2023/02/16(木) 09:50:13.00 ID:iiFqMqqS0: Sydneyか
地名や都市名をコードネームにするところがMicrosoftっぽいな
33 : 2023/02/16(木) 09:50:45.83 ID:jnEOuJjd0: 全然使わせてくれないんだが
35 : 2023/02/16(木) 09:53:42.60 ID:0DqVex09H: 人間でも嘘をつく
的はずれな回答をするから
36 : 2023/02/16(木) 09:53:59.47 ID:9FHUhEkAM: イルカの親族かって聞いたら否定された
「お前を消す方法」の質問も知ってた