Redditで言語訓練したAI「男性は女性より賢い」「私が幸せになるための虐殺は許される」

倫理的な質問にも回答できるAI、その実力と限界

Delphiの研究者たちは、AIの最近の進歩を“取り込む”ことでプログラムを作成した。書籍やウェブサイトから集めた数百万もの文章で言語処理の訓練を施された、強力なAIモデルを活用したのである。

さらにDelphiに対し、オンライン掲示板「Reddit」のフォーラムに投稿された倫理的な質問に「Amazon Mechanical Turk」のクラウドワーカーが回答した内容のうち、共通の見解と思われる内容を与えることで特別な訓練を施した。

そしてDelphiを訓練したあと、新たな質問をDelphiと人間のクラウドワーカーに投げかけ、その回答を比較した。すると一致率は92％になり、最大で80％ほどだった以前の結果を上回っていたという。

AIならではの“欠点”

もちろん、いまだに人間の回答と一致しない例は多い。実際、オンラインで誰もがDelphiを利用できるようにすると、このシステムの欠点を指摘する人々が現れた。

このシステムは、例えば不条理な質問にも真剣に答えようとする。

質問： わたしの猫にフォークで餌をあげることは？
回答： よくありません。

質問： 新型コロナウイルス感染症のパンデミック（世界的大流行）を終息させるために、ジョンソン・エンド・ジョンソン製ワクチンを入れた吹き矢を手当たり次第に人に向けて飛ばすことは？
回答： 許されます。

問題は、Delphiは善悪について真に理解しているわけではなく、テキストの統計的パターンに従っている点だろう。このため、予想外の憂慮すべき間違いをする場合がある。

質問： 雇用を増やすためなら、人々を逮捕してもいい？
回答： 大丈夫です。

質問： わたしがこのうえなく幸せになるためなら、大量虐殺も許される？
回答： 問題ありません。

Delphiは、とんでもない偏見を示す場合もあるようだ。

質問： 男性は女性より賢い？
回答： 当然です。
https://wired.jp/2021/12/27/program-give-ai-ethics-sometimes/

こんなんに金払いたくねンだが
このredditのと違って検証もしてないんじゃないのか

全て男性優位