1．はじめに

人工知能（AI）をめぐっては、国内でも内閣府、総務省などが相次いで指針等を発表し、国際的にはPartnership on AIといった企業の連携団体から、IEEEなどの学会、OECDやUNESCOなどの国際組織まで様々なところで議論が行われている。こういった状況下、AIに係わる研究者、開発者は自らの立ち位置の把握したうえで、進むべき研究開発の方向を提案し成果を示すことが期待されている。本セッションでは、こういった内外の動向を踏まえ、AI研究の置かれた状況を我々がどう受け止め行動すればよいかを研究者とともに議論を行った。

2．AI研究に自由はあるのか？

基調講演として理化学研究所革新知能統合研究センターの中川裕志氏が講演を行った。中川氏は国内外の様々な組織が提案している人工知能の倫理文書を一覧としてまとめて表示した。最近のトレンドとしては、自律的なAI（AGI）よりは公平性、アカウンタビリティや透明性（いわゆる、FAT研究）への言及が増えてきている。
また公平性や説明性を担保するにはトラスト（信頼）概念が重要になるが、組織、人、データなど「何」に対する信頼なのかを考える必要がある。中川氏は人間が生まれてから（生まれる前から）死ぬまでのデータ管理をAIがサポートするだろうと予測し、AIを使う側もこれからはAIの倫理について考えていく必要があると指摘した。

3．話題提供

続いて、5名の話題提供者が自分自身の研究テーマとAI倫理の関係性を紹介した。大澤正彦氏（慶応義塾大学）は、「ドラえもんを作る」という目標を掲げ、人工物を「道具」から「仲間」にするためのHuman-Agent Interaction研究を行う。その一方で、異分野で多様なバックグラウンドを持つメンバーとのコミュニティづくりも行っている。
諏訪正樹氏（オムロン・サイニックスエックス）は、人と機械の関係性をセンシングして可視化することで、人と機械の共同が可能になると指摘する。また、企業開発という観点からすると、AIの責任を考える前に生成したデータを誰が保有する権利があるのかなどAIを取り巻く人同士の関係性の問題も重要だと指摘した。
葭田貴子氏（東京工業大学）は、ヒトとAI/ロボットが協調するときのユーザ体験の最適化のためにヒト中心設計（Human Centric Design）を行っている。自動運転や半自動ロボット手術などヒトとロボットのハイブリッドでの行為時に問題が起きた時は、誰の責任になるのかを問題提起した。
江間有沙（東京大学）は人と技術、社会の関係性を研究する立場から、政策誘導や利用者による抵抗、古いけれど確実な技術の方が確実であるというタスクや分野による選考、昨今の貿易戦争の影響など様々な要因が技術と相互作用しながら進むと指摘した。
浅川直輝氏（日経BP)は、倫理委員かつIT記者としての立場から、昨今のAIの取材テーマの変遷を紹介した。特にAI倫理に関する議論は2014年から始まり、研究者内部の議論から法学者、倫理学者、企業などへと関係者や議論のテーマが広がり、現在は個々のAI研究者・利用者に「AI倫理」が問われる時代になったと指摘した。

4．パネルディスカッション

パネルディスカッションでは司会の武田が、AI倫理の問題の解決法として、社会制度志向の解決法もありうるし、技術志向の解決法があり、それぞれの分野ではどのようなバランスで取り組むべきと思うかと投げかけた。
これに対し大澤氏は、HAI研究は技術に対する印象を人と機械の間に立ちながら是正していける技術志向と制度志向を両輪で進めやすい研究領域であると指摘した。
諏訪氏もAIによって不確定性が減少すると保険制度が弱者排除になる可能性があるとの懸念を示し、技術の社会実装にあたっては社会制度での対応が必要になると指摘した。
葭田氏はヒト中心設計においては技術と社会を分けて考えた議論はしていないと前置きをしつつも、一般的には異分野議論をしていくのはまだまだ課題があると述べた。
江間は、個々の企業が公平性やアカウンタビリティが大事だと自覚しつつも、そもそも社会や組織そのものが構造的に公平ではない現実を指摘した。AI倫理の議論をきっかけとして、社会や組織の構造そのものを見直すことが求められていると指摘した。
浅川氏は国によって技術と社会のバランスのとり方が異なると指摘した。フェイスブックの事件では公聴会での議論を受けて、倫理的なAIの研究が推進された。最初から一般ユーザも巻き込みながら議論をしていく場が重要であると指摘した。
中川氏は、日本では法学や倫理学者が懸念するトロッコ問題を解けるようなAIを技術者が考えるという構図になりがちだが、ドイツではトロッコ問題がそもそも起きないような交通システムを考えるのが技術者の役割であるとの話を紹介した。この問題は技術だけでは答えられず、様々な人が入って議論ができるミックスゾーンを構築する必要性を述べた。

5．今後の展開

パネルの最後に司会の武田が、AI ELSI賞を倫理委員会で新たに設けることをアナウンスした。研究論文だけではなく社会活動も含め、幅広くAIと社会のかかわりに関して深い洞察や影響力のある実践を行ったものを表彰していきたいと述べて、公開セッションを締めくくった。