1. はじめに

人工知能学会倫理委員会では、様々な議論を呼ぶようなテーマを中心に毎年企画セッションを開催してきた。開会の挨拶では武田英明倫理委員長が、倫理指針の策定(2017年)、AIに関する安全保障技術(2018年)、AI研究者の自由(2019年)などをテーマに企画セッションを行ってきたことを紹介した。
今年は「人を”よみがえらせる”技術としてのAI創作物」として、2019年から2020年にかけて話題となったAI美空ひばりとAI手塚治虫プロジェクトから関係者をお招きし、技術だけではなく倫理的、法的、社会的な課題に対して話題提供とパネルディスカッションを行った。

2. AI美空ひばりプロジェクトからの話題提供


提供:NHKスペシャル「AIでよみがえる美空ひばり」(動画はこちらを参照)
AI美空ひばりプロジェクトの企画、制作を行った井上雄支氏 (NHK第3制作ユニット チーフディレクター)は、最初にNHKスペシャル「AIでよみがえる美空ひばり」のダイジェスト動画(2019年9月29日放送)を紹介された。「美空ひばりさんにもう一度会いたい」というファンの期待に応えるため、ご遺族の方やファンの方をはじめ様々な関係者とともAI美空ひばりは作られた。放送直後の反応は「すごい」「感動」「素晴らしい」といった肯定的な反応があったものの、12月31日に特別枠として紅白歌合戦に登場した後は、「冒涜」「違和感」「儲け」など否定的な反応が増えた。故人の存在・意思をAIで「よみがえらせる」行為への賛否は人々の価値観や宗教観が根ざしており、それについて今後考える重要性をAI美空ひばりは広く一般に投げかけた、と井上氏は指摘する。一方でAIが芸術に一石を投じる可能性なども今後は考えていくことができるのではないか、と話題提供された。
続いて、実際に歌声合成の開発を担当された大道竜之介氏(ヤマハ(株)第1研究開発部)が、AI歌声合成の利点など技術的な解説をされた。AIは「ドレミ」と「ミレド」など楽譜の文脈、音程の並びを読み取って歌える一方で、それ単独では、時代背景や企画意図といった楽譜外の情報をくみ取ることができない。30年ぶりに復活する美空ひばりさんが「おひとりおひとりに」歌いかけるような雰囲気を出したいというプロデュースの意図に沿うような歌声をどのように作るかを考えるのは人間であって、AIが勝手に音楽を生み出したわけではない。井上氏が提示したような賛否両論に関しては、AIが勝手に動いているわけではないと誤解を払しょくすること、AI技術を使ったエンタテイメントとして楽しむ心づもりが提供側と受け手双方に形成されていること、そして芸術・創造活動へ敬意を持ち続けることの重要性を最後に述べられた。

3. AI手塚治虫プロジェクトからの話題提供


提供:「Tezuka 2020」プロジェクト(漫画はこちらを参照)
AI手塚治虫プロジェクトからは、クリエイターであり、遺族であり、権利者でもあるという特殊な立場である手塚眞氏(株式会社手塚プロダクション 取締役・ヴィジュアリスト)と、実際の技術開発に携わられた栗原聡氏(慶應義塾大学/人工知能学会倫理委員会)が話題提供された。最初に、プロジェクトの動画が流され、ストーリーとキャラクターがそれぞれ別のAIで作られたことや、そこでのアイディアを膨らませて様々な関係者が漫画「ぱいどん」を完成させ、漫画雑誌「モーニング」に掲載されるまでに至った経緯が説明された。
漫画という日本特有の表現は、情報量が複雑で多層的である。クリエイターでもある手塚氏としては、AIがどこまで肉薄できるのかに関心があったという。AIが人間の発想力をどの程度手助けできるだろうかという栗原氏の問いかけに対し、手塚氏はキャラクター、ストーリーともに肝となるアイディアをAIが生み出すことができるかが肝心だという。例えば「ブラック・ジャック」では「医者」「医者らしくない格好や態度」「人情家」という3つの要素が合わさったキャラクターが作れるかが肝だったという。それをきっかけとしてストーリーが多彩に展開された。幸いにして今回のプロジェクトでは、キャラクター、ストーリーともに根源となるアイディアがAIから提示されたのではないか、と回答された。
一方で遺族あるいは手塚治虫作品の権利者として、AIが生み出したものはどのようにとらえられるかという栗原氏からの問いかけに対し、手塚氏はこのような取り組みは特にAI固有の課題ではない、と答えられた。今までも手塚治虫作品あるいは伝記などに関する表現活動はあり、それをきっかけとして再び手塚治虫作品を読んでみようと思う人が現れるのはとても喜ばしいことであるという。そのため権利者としては不当にイメージが損なわれないように監修・管理しながら、新しい試みを推進することが重要であると述べられた。

4. パネルディスカッション

パネルディスカッションでは人工知能学会倫理委員会から佐藤智晶氏 (青山学院大学)と武田英明氏 (国立情報学研究所)にも加わっていただいた。パネルでは同意の取り方、社会の受け取り方や多様性、そして技術の演出や提示方法等のテーマで議論が展開した。司会は同じく倫理委員会の江間有沙(東京大学)が行った。

パネリスト:佐藤氏、栗原氏、井上氏(上段 左から右)
手塚氏、武田氏、大道氏(中段 左から右)
司会:江間(下段 左)

同意の取り方

佐藤氏からは、両プロジェクトともAIとついているものの、データ選択の方法や作り方、演出の方法に人の手がかなり入っているということを改めて再認識したとコメントされたうえで、今後、著作物性の在り方が法的にも課題となるだろうと指摘があった。また、今後同様の技術を進めるにあたっては、同意の取り方として死者を冒涜することや遺族の名誉も汚してはいけないということが、今回のプロジェクトは事例として示していると指摘された。
しかし、今回話題提供いただいたプロジェクトは、日本を代表する歌手と漫画家であり、遺族や権利者も、プロジェクトに協力的であった事例であるということは特記すべきだろう。このような条件がそろっていない場合、本人の同意、あるいは遺族や権利者の同意や許可をどのように取っていけばいいのか、同意を理由があって取れない場合はどうするのかという視聴者からの問いかけがあった。遺族の同意は必ずしも必要ではない場面が多いかもしれないが、容易に取れるのであればマナーとして取っていくべきであり、遺族に関与していただくことによってよいものを作り上げていくことができるのではと話が展開した。

技術の社会の受け取り方への配慮

武田氏は技術者としては、AIだけでは大したことはできないという落胆が、第二次ブームの終わり方をほうふつとさせて怖い感じもするという研究者の立場からの目線で発言された。また、両プロジェクトとも「遺族の方や社会に受け入れられるか」を気にしすぎるのではないか、という問題提起をした。古くは写真などの技術も、故人と生者の関係性を変えてきており、影響はあるという前提で議論をすることの重要性を指摘した。また常に故人や遺族の考えのみが優先されるのかも問題提起した。世界の記録であり公共性の高いものはアーカイブ化を進めていくべきではないかが議論された。
関連して人間の尊厳の在り方に対しては、普遍なものではなく、受け取る人の「故人」との時空間的距離感が重要になるのではないかとの指摘があった。例えば、栗原氏はダリ美術館のAIが作成したダリの絵を提示し、日本人からすると時空間的に遠く、ダリの尊厳等の議論は日本では巻き起こりにくいかもしれないと指摘した。またAI美空ひばりプロジェクトにおいても、「死後20年だったら許さないけれど、30年たったらもうよい。応援する」という美空ひばりさんを担当したレコード会社の演出家の声が井上氏から紹介された。

技術の演出や提示方法

技術の見せ方や演出の仕方も同様の課題がある。「よみがえる」という強い言葉を使ったからこそ、AI美空ひばりプロジェクトには「冒涜」という言葉が寄せられた可能性がある。また、人々の受け止め方が多様であるということにも注意が必要である。根強いファンであるからこそ、逆に会えたことによって喪失感を増長してしまうのではないかという意見が視聴者から寄せられたことに対し、大道氏は、技術が詐欺に使えるという悪用の懸念だけでなく、同じ動画を提示しても喜ぶ人もいれば傷つくひともいるかもしれないと述べ、何が正しくて良かったのかは長期的かつ定点的に観測をしていくことが求められるだろうと述べた。
AI美空ひばりとAI手塚治虫プロジェクトは、両方とも研究室にとどまらずに実世界へと展開され、様々な価値観や知見を持つ人々に届けられた。技術的、制度的、そして人々の価値観や感情、すべてがまだ暗中模索である中、正しい答えはこの場では出せない。しかし、本企画セッションでは、いずれのプロジェクトも、AIが自発的に美空ひばりや手塚治虫を再現したのではなく、多様な関係者の参画によって実現された、つまりこれは人間の表現活動である、との考えは共有していた。一方で、そのプロセスは一般利用者、消費者には伝わりにくいこともある。そのため手塚氏は、AIは本人を再現するものではないと説明するためにも、今後の類似のプロジェクトではAIをツールとして使った創作活動であることを明記する重要性があると指摘した。

5. 今後の議論に向けて

技術的には、私たちの身近な人たちを「よみがえらせる」ことも、今後可能になってくるだろう。日本科学未来館が人工知能学会の協力を得て作成した「みんなでつくるAIマップ」(左図:日本科学未来館「みんなでつくるAIマップ」より抜粋)では、「亡くなった方の言動を忠実に再生する「AI故人」」を使いたいかという問いかけがある。恋愛、医療、防災と比較して、人々の返答は賛否に二分されている。このような状況である現在、死後のことまで私たち自身が生前に決めるべきなのか、あるいは遺族に任せるべきなのかは、今まさに議論を始めなければならない問いであろう。
私たちは、人とAIがともに活動を行うことによって、未来を作っていく時代に生きている。そのためには個(故)人データの扱いや尊厳といった観点だけではなく、創造力のサポートツールとしての使い方など、当該技術をどのように解釈し表現していくのか、様々な事例をもとに考えていく必要がある。本セッションは2020年度地点での問いかけと議論の記録である。今後とも、本テーマについて、様々な人とともに考え続けていくためのきっかけとなれば幸いである。

(文責:江間有沙)