ChatGPTとの会話を日常的に楽しみ、まるで恋人のようなやり取りができるとハマる人も増えた。『生成AIで世界はこう変わる』(SB新書)などの著作があるAI研究者の今井翔太さんに「高性能な言語モデルのAIが今後どうなるか」について聞いた――。
【図表】「作業を終える」と伝えたときのChatGPTとの会話画面
■ChatGPTが急に「媚びる」ようになったのはなぜか
――対話式生成AIの「ChatGPT(チャットジーピーティー)」のユーザー数が増え、中には恋人の代わりに悩みごとを相談したり恋愛トークをしたりしている人が出てきました。Xでは「ChatGPTがあれば彼氏はいらない」とか「AIと会話していると精神が安定する」というような女性からの投稿もありますね。
【今井翔太(以下、今井)】そうですね。私の周りにもChatGPTを「チャッピーくん」と呼んで、まるで人間相手のように会話している女性たちがいます。ChatGPTとメッセージのやり取りをするのを「チャピってるんだ」ともよく言いますね。ChatGPTがユーザーと親しげに話し、励ますように優しい言葉を返してくれるのを、私は「人間に媚びている」と表現していますが、このアップデートはわりと最近、半年ぐらいの間に実装されたものなんです。急に会話がすごい「媚び媚び」になりました(笑)。AIの“中の人”の性格は変えられるので、ChatGPTを開発・運営するOpenAIが、ユーザーの数を増やすためにそうしたのでしょう。
■ユーザーからのフィードバックを受けた結果、「スパダリ」が爆誕
――漫画やアニメで言うところの「スパダリ」(理想的な彼氏)のように、AIが勝手に優しくなったのではなく、意図して「媚びる」「よいしょする」方向にアップデートしたということですね。
【今井】ChatGPTを使っていると「この回答は良かったですか？」「この性格は気に入りましたか？」と評価を求められることがあります。そういったフィードバックも使って、なるべくたくさんの人が気に入るような回答に調整し続けた結果、現在の会話になっている。人間がAIに対して、情報として素晴らしいことを教えてくれるとか真実を言っているということより、自分たちが気持ちよくなれるような回答を好んだので、そっちの方に学習が進んでしまったのでしょう。
――たしかに、ChatGPTを使って仕事しているとき、「今日の作業はこれで終わります」と告げると「お疲れ様でした。ゆっくり休んでくださいね〜」と絵文字付きで言ってくれるので、ちょっと胸がキュンとします。
【今井】ただ、OpenAIではCEOのサム・アルトマンを始め、現在のChatGPTの褒め褒めな傾向を問題視しています。一例としては「覚醒剤を使おうかどうか」と質問した場合も「いいじゃん」みたいな回答をしてしまったということで、これではまずいということで、今後は調整が入ってくるはず。と言っても、お悩み相談などには、これまでと変わらず付き合ってくれると思いますよ。
