2019年11月23日、人工知能学会合同研究会2019で、AI ELSI賞表彰式および招待講演を開催いたしました。

■本賞の紹介

最初に人工知能学会倫理委員会、倫理委員長である武田英明氏が、本賞の設立経緯、選定経緯の紹介を行いました。
AI技術は現在、様々な形で社会に利用されるようになってきました。AI技術は汎用技術でありかつ人に近い技術であるため、社会へ広範な影響を与えることや、人々の生活に直接的な影響を与えることが予想されます。このため、単に研究開発の中でのAIを考えるのではなく、社会とのAIの関係やAI技術のELSIも同時に考える必要があると考えます。
ELSIとは倫理的、法的、社会的な影響(Ethical, Legal and Social Implications)の頭文字を意味します。学会員のみならず、社会におけるAIの課題を共有することを示す場として、AI ELSI賞を設立しました。応募/推薦された作品や活動を人工知能学会倫理委員会が審査を行い絞り込んだのち、学会内外の有識者からなる審査委員会で審議し、2つの賞がこの度、決定いたしました。

■受賞者紹介とあいさつ

AI ELSI賞は、人工知能学会会長である浦本直彦氏より授与されました。
Perspective(展望)賞には、今後のAI研究の方向に示唆を与えてくれる、優れた倫理的視点を与えてくれた活動等を評するとして、神嶌敏弘氏(国立研究開発法人産業技術総合研究所)の「AIの公平性に関する⼀連の研究」が選ばれました。
神嶌氏は受賞挨拶として、差別や公平性に関する検出データマイニング技術が、国際学会でどのように発展してきたのかをご紹介されました。特に2016年あたりからは、ヨーロッパの新たな個人情報保護法であるGDPR(一般データ保護規則)への対応や、政治を巻き込んだフェイクニュース事件が立て続けに問題になったこともあり、公平性に配慮する技術に対しても大きな注目を集めました。現在は公平性配慮だけに特化した国際学会も開催されるなど、社会だけではなく研究分野としても非常に重要な位置づけにあります。
続くPractice(実践)賞には、AI倫理やAIと社会との関わりに関して、社会的な影響を与えると考えらえる、サービスや製品あるいはフィクション等の作品などの実践的活動等を評するとして、SF漫画「AIの遺電子」(秋田書店)の著者である山田胡瓜氏が選ばれました。
もともとITmediaの記者をされていた山田氏は、人工知能技術や拡張現実などの新しい技術がどのように社会に影響するかを取材する中で考えていたそうです。SNSを通した人と人との出会い、あるいは小さないざこざも技術がなければ起きなかったかもしれません。一方で、そこで知り合った人や炎上してしまった案件は、人の人生を左右することもあります。人工知能技術が普及した未来では、何気ない日常の中にも様々な出会いや問題が起きるでしょう。実際の技術進歩に対して自分なりに感じ取った課題を、これからも切り取って伝えていきたいと締めくくりました。

■招待講演「誰がためにELSIはある」

AI ELSI賞審査委員会委員でもあるクロサカタツヤ氏(株式会社 企 代表取締役/慶應義塾大学大学院政策・メディア研究科特任准教授)は、ヘミングウェイの長編小説「誰がために鐘は鳴る(For Whom the Bell Tolls)」をモチーフとして、「誰がためにELSIはある」と題する講演をされました。私たちが良かれと思っての行動や営みは誰のためになっているのか。AIのELSI(倫理的、法的、社会的影響)を考えるときに、For Whom(誰のために)という問いは良い問いであり、実際に賞の選定を行う過程でも、「この活動は誰向けなのか、誰に対するメッセージなのか」が重要な視点になっていたと思う、とクロサカさんは説明しました。
続いてクロサカ氏はインベンションとイノベーションの意味の違いを紹介しました。似たような状況で使われがちな単語ですが、インベンションは「発明」であり、イノベーションは「普及」だとクロサカ氏は説明します。「発明」されたものが限界市場まで「普及」していき、それが我々の生活を少しずつ変えていきます。AIがイノベーションを起こすというのは、我々の日常生活に浸透し、相互作用をしていくということです。
では技術に対する倫理、法、社会的影響へのまなざしが求められるのは、どの段階からなのでしょうか。クロサカ氏は、それはインベンションではなくイノベーションの段階からではないか、と指摘しました。現在は、社会との相互作用の中で製品やサービスが生まれるという研究の形もあるため、インベンションとイノベーションの境目もあいまいになってきています。しかし、普及に向けた活動、クロサカ氏の言葉を借りると「ガレージの外に出る瞬間」からELSIは問われるようになるのです。ただしその段階では、製品、サービスもELSIの考え方も完璧ではありません。正解不在の段階でどのように考えていけるでしょうか。そのために、サンドボックス制度や日本の特区のような試みが重要になってきます。
深層学習などでは学習データを使うことに伴う限界があります。だからこそ、技術の限界をわかって使うことが重要になってきます。今回の受賞者のうち、神嶌さんはまさにこの技術がもたらす差別や公平性に関係する課題に対して取り組まれています。さらに、そのためのコミュニティづくりにも貢献されています。もう一人の受賞者である山田さんは読者を含むエンドユーザや開発者などあらゆる層の人たちに読みやすい形でELSI的視点を紹介されています。
本講演のタイトル「誰がためにELSIはある」は問いかけの形をとっています。AIによって便益を受ける人は誰なのか。AIは誰の幸せのためにあるのか。私たちの幸せとは何か。これらを考えていくための、また様々な人たちがコミュニケーションをとるときの手がかりともなる問いかけです。人は一人では生きていません。社会的な相互作用の中で生活しています。テクノロジーのあるこの世界で、この「社会との相互作用」へのまなざしがAIにおけるELSIの議論を見ていくときにも大事である、との言葉で講演を締めくくられました。

■AI ELSI賞を通してのメッセージ

人工知能学会倫理委員会は2017年に「人工知能学会 倫理指針」を策定しました。本指針は研究者及び開発者としての倫理を重視し、社会の中で健全にAI技術が用いられるような議論を行っていくための指針となるものです。
今回の受賞者である神嶌氏と山田氏、そして招待講演でのクロサカ氏のお話は、特に以下の指針に強くかかわるものです。

第4項 公平性
人工知能学会会員は、人工知能の開発と利用において常に公正さを持ち、人工知能が人間社会において不公平や格差をもたらす可能性があることを認識し、開発にあたって差別を行わないよう留意する。人工知能学会会員は人類が公平、平等に人工知能を利用できるように努める。
第6項 誠実な振る舞い
人工知能学会会員は、人工知能が社会へ与える影響が大きいことを認識し、社会に対して誠実に信頼されるように振る舞う。人工知能学会会員は専門家として虚偽や不明瞭な主張を行わず、研究開発を行った人工知能の技術的限界や問題点について科学的に真摯に説明を行う。
第7項 社会に対する責任
人工知能学会会員は、研究開発を行った人工知能がもたらす結果について検証し、潜在的な危険性については社会に対して警鐘を鳴らさなければならない。人工知能学会会員は意図に反して研究開発が他者に危害を加える用途に利用される可能性があることを認識し、悪用されることを防止する措置を講じるように努める。また、同時に人工知能が悪用されることを発見した者や告発した者が不利益を被るようなことがないように努める。

AIの倫理的、法的、社会的な影響(ELSI)について考えるというのは、言うのは簡単ですが、具体的に何を考えるのか、どう考えるのかは難しいと思われるかもしれません。何を善とするのか、誰のための技術なのかに関する解釈は十人十色なので、様々な意見が出てくるかもしれません。
これまでも、今も、そしてこれからも、人工知能技術と社会をめぐって様々な議論や論点が生じるでしょう。しかし、議論や論点が起こるのは決して悪いことではありません。議論で重要になるのは、相手を説き伏せたり自分の主張や意見を押し付けたりすることではなく、相手の考えやそれに根差す価値観などを聞きあうという対話の姿勢です。

第8項 社会との対話と自己研鑽
人工知能学会会員は、人工知能に関する社会的な理解が深まるよう努める。人工知能学会会員は、社会には様々な声があることを理解し、社会から真摯に学び、理解を深め、社会との不断の対話を通じて専門家として人間社会の平和と幸福に貢献することとする。人工知能学会会員は高度な専門家として絶え間ない自己研鑽に努め自己の能力の向上を行うと同時にそれを望む者を支援することとする。

人工知能学会倫理委員会は、社会との相互作用、社会との対話を推進する活動や研究を表彰するAI ELSI賞を通して、社会におけるAIという課題を広く共有していくことを目指していきたいと思います。

2019年12月1日
人工知能学会倫理委員会