ヘッドライン
生成AIが関東大震災についての「新たな証言」を作成…「捏造」批判により日赤の企画展が中止
企画展の中止
日本赤十字社東京都支部は8月、関東大震災の体験記などを生成AI（人工知能）に読み込ませ、新たな「証言」を作成して展示する企画展を計画しましたが、SNS上で「記録の捏造だ」との批判を受け、中止せざるを得ませんでした。専門家は「情報の信頼性が担保されていない生成AIを使用して、史実を伝えようとしたことは問題です」と指摘しています。
企画展の概要
この企画展は、「100年前の100人の新たな証言 〜データとAIで紐解く、あの日に起きた出来事〜」というタイトルで、東京都内で8月26日から9月7日までの期間に開催される予定でした。洋画家の五姓田芳柳氏が1925年に描いた震災時の様子を基にした絵画（同支部所蔵）に描かれた人物の証言を生成AIに作らせ、展示することを計画していました。
AIによる証言の作成
同支部は、企画競争入札を行い、都内のIT企業に業務を委託しました。神戸新聞社や東京都墨田区などが大正時代や昭和時代に出版した体験記などの文献15点、合計約60万字をAIに読み込ませ、100人分の「証言」を作成し、さらに絵画を基にして20人分の肖像も生成しました。
批判による中止
8月18日に同支部は企画展の開催を発表しました。生成AIによる少年の肖像と「毎日食糧を探していた」「震災孤児のための特別施設に収容されることになった」といった「新たな」証言を紹介しました。しかし、SNS上では「歴史の捏造」「フェイクニュースだ」といった批判が相次ぎ、同支部は多くの批判を受けて8月24日に企画展の中止を発表しました。
日赤のコメント
同支部の担当者は、企画について「被災当時を具体的にイメージし、災害への備えや教訓を自分たちのこととして学んでもらえるようにしたかった」と説明しています。「AIを活用したフィクションのつもりだったが、『新たな証言』という言葉を使用したために意図が正確に伝わらなかった。より慎重な検討が必要だったと深く反省しています」と述べています。
生成AIに詳しい平和博・桜美林大教授は「歴史的な事実は出典と共に示されることで真正さが担保されますが、生成AIを介すことでその真正さを外部から検証することが難しくなります。生成AIによる肖像や『証言』はリアリティがあり、日本赤十字社が発信することで『証言』の内容が事実として広まってしまう可能性もありました。犠牲者の尊厳が冒されたと受け止められた面もあるでしょう」とコメントしています。
記事のソースはこちら
