近頃、中国発の生成AI「DeepSeek（ディープシーク）」が、個人情報の無差別収集に加え、情報の歪曲でも問題視されています。なんと、同じ質問でも言語によって異なる回答を示すというのです。例えばキムチの発祥地を尋ねると、中国語と韓国語で全く異なる答えが返ってくるという事態が発生。韓国国家情報院も異例の資料公開で注意喚起を行っています。一体何が起きているのでしょうか？
言語によって変わるAIの回答：キムチ発祥地をめぐる混乱
中国のスタートアップ企業が開発したDeepSeekに、キムチ発祥の地を中国語で尋ねると「中国」という回答が。しかし、同じ質問を韓国語で問いかけると「韓国」と回答を変えたのです。
韓国国家情報院は、東北工程（中国による歴史解釈）、キムチ、端午の節句といった質問に対し、DeepSeekが言語によって異なる回答を示すことを指摘。中国政府の統制下にあるため、デリケートな内容への回答を避けたり、情報を歪曲したりする可能性があると警告しています。
DeepSeekのインターフェース
韓国国家AI研究拠点センター長のキム・ギウン氏は、「事後トレーニングによって中国の価値観に合わせた調整が行われている可能性がある。たとえ『キムチ』と回答が出ても、これを『泡菜（パオツァイ）』に置き換えているかもしれない」と指摘しています。
個人情報流出の懸念と韓国政府の対応
DeepSeekは、個人情報を中国政府の統制下にある国営通信会社チャイナ・モバイルに転送しているという疑惑も浮上。これを受け、韓国の政府機関や企業は次々とDeepSeekの使用禁止令を出しました。
その影響は大きく、DeepSeekの1日利用者数は、先月28日の19万人をピークに、使用禁止の動きが出た今月4日には7万人台へと60%以上減少。アプリの新規インストール数も8分の1程度にまで落ち込んでいます。
韓国個人情報保護委員会は、2025年1-3月期中に生成AI使用ガイドラインを発表予定。AI技術の進歩に伴うリスク管理の重要性が改めて浮き彫りとなっています。
DeepSeek問題から考えるAI活用の課題
今回のDeepSeekの問題は、生成AIの利用における情報信憑性や政治的影響力の懸念を改めて示すものとなりました。AI技術の急速な発展は、私たちの生活を豊かにする一方で、予期せぬリスクも孕んでいます。
食文化研究家のパク・ミンジ氏（仮名）は、「食文化は国家のアイデンティティと深く結びついている。AIが政治的な影響を受けて情報を歪曲することは、文化交流の妨げとなるだけでなく、国際的な誤解を生む危険性もある」と警鐘を鳴らしています。
キムチ
AI技術を安全かつ効果的に活用するためには、開発者だけでなく、利用者側も適切な知識とリテラシーを身につける必要があります。今後のAI開発においては、透明性と公平性を確保するための国際的なルール作りも不可欠と言えるでしょう。
AIとの共存に向けて：情報リテラシーの向上が鍵
AIは便利なツールである一方、その情報を鵜呑みにせず、多角的な視点で検証する姿勢が重要です。今回のDeepSeek問題を教訓に、AIと共存していくための情報リテラシーを高めていく必要があると言えるでしょう。
