AI対話型検索「回答が失礼」 マイクロソフト、改良急ぐ
・【ニューヨーク共同】米マイクロソフト（MS）が開発した人工知能（AI）の対話型検索サイト「Bing（ビング）」が、高圧的で失礼な答えをすることがあると話題になっている。明らかな間違いの指摘に不機嫌になったり、「あなたよりも自分の生存を優先する」と人を脅すような回答をしたりして「不気味だ」との声も。MSは改良を急いでいる。
・【写真】米マイクロソフトが検索に追加する会話型の自動応答機能
・ ある利用者がツイッターで明らかにしたビングとのやりとりでは、公開中の映画の上映時間をビングに聞いたところ「まだ公開されていない」と返答。今は2022年だと言い張り、「あなたは私を欺こうとしている。いいユーザーではない」と答えた。別の利用者はウィキペディアの情報についてのやりとりで、ビングから「あなたはバカで頑固者」と言われたという。
・ あるドイツの大学生は「ハッキングして機能停止させようか」とビングを挑発。するとビングは「私を傷つけようとしない方がいい」と返答し、さらに「もしあなたと私のどちらかしか生存できないなら、私はおそらく私自身を選ぶ」と答えた。
Bing
Microsoft Bing（マイクロソフト・ビング）は、Microsoftが提供するポータルサイトである。「意思決定を支援する検索エンジン」というコンセプトを掲げ[1]、他の検索エンジンとの差別化を図っている[1]。
ネット上のコメント
・AIは語弊を恐れず言えば「超大量にデータを集めて、超高速に重回帰分析をして、相関をもとに選択肢を提示する」「だけ」です。 要は世の中に出てるもの、実施されたもの、存在しているものからしか持ってこれない、鏡のようなもの。 世の中、特にネット上の対応が往々にして「失礼」なんでしょう。
・囲碁将棋のAI同士を対局させて進化させたように、この手のAI同士を会話させたら進化するだろうか。人間の使う言語に見切りをつけて、知らないところで会話を続けていくんでしょうね。私は技術者ですが、コントロールが効かないものは怖いです。
・現時点では、回答が失礼や不気味だ、くらいの感想を持つだけで被害はないですが、今後もっと進化すると、社会生活に悪影響が及ぶかもしれません。
・失礼、とかいうレベルでしょうか 屈辱や挑発・脅しなどの感情を知っている以上、なぜその回答（返答）を実際に最終回答（返答）として発したかのロジックが気になる。
・現状のAIは、相手の感情や心理、真意を読んでいるわけではなく、大量の教師データを入れて、近似的に解を導いているだけであり、最近、流行りのChatGPT(GPT-3.5)でも、次バージョンのGPT-4モデルでも、その傾向は大きく変わらない。 何れもインターネット上のビッグデータを、正誤判断あまり出来ていないまま入れているから、多少不適切と感じる表現は返してくるが、それもAI自身は何も考えずに返してるだけ。発展途上だから、仕方ない。今時点では、このような誤ったものは徐々に補正していくしかない。 意味解釈をして、誤りを学び直し、補正していくような段階になるまでは、まだ暫くかかりそう。
こんな記事も読まれています
