人工知能学会倫理委員会
委員長 松尾豊
2017年2月28日
人工知能学会倫理委員会では、2014年の委員会設置以来、人工知能研究あるいは人工知能技術と社会との関わりを広く捉え、それを議論し考察し、社会に適切に発信していくことを進めてまいりました。我が国でも、さまざまな政府機関で人工知能と社会に関する議論が行われ、また国際的にもそうした議論が進められるなか、人工知能学会としても深い専門知識に基いて、国内の議論をリードしていく役割があると考えています。
昨年の前半には、こうした趣旨に基づき、倫理委員会内での議論を倫理綱領案という形でまとめました。６月の全国大会には公開討論を行い、さまざまな意見をいただき、その後、ネット上でも意見を募集しました。それを踏まえた改訂作業を進め、12月には改訂版の倫理綱領案を策定しました。さらに、それをもとに、再度、倫理の専門家や編集委員会からのご意見もいただき、修正を経た上で、このたび人工知能学会理事会において「人工知能学会倫理指針」が承認されました。
| 「人工知能学会 倫理指針」はこちらからダウンロード頂けます。 |
倫理指針の意図は下記の通りです。
倫理委員会の大きな目的は、人工知能技術のもたらす正負のインパクト両面に関し、社会には様々な声があることを理解し、社会から真摯に学び、理解を深め、社会との不断の対話を行っていくことです。本倫理指針の意図は、今後の人工知能学会と社会との対話に向けた大まかな方針になるものをまず掲げることにあります。人工知能学会は社会のために研究活動を行っている、といういわば当たり前のことを当たり前に書くことによって、それを社会からきちんと認識してもらい、対話の基盤としていければと考えています。
そういった意図から、本倫理指針のほとんどの部分は、研究者としての職業倫理の側面が強く、当たり前のことが書かれていますが、その当たり前のことをきちんと表明することこそが重要と考えております。昨年の人工知能学会全国大会の公開討論では、パネリストの土屋俊先生から、「人工知能研究者は何をするか分からないと世間からは思われている。決してマッドサイエンティストではなく、よりよい社会のためにと思って研究していることを、まずはきちんと表明すべきであり、こうした倫理指針を学会の側から出そうというのは褒めてよい」という内容のコメントをいただいていますが、倫理委員会の意図を的確に代弁していただいたものと思っています。
また、本倫理指針は、すぐに何らかの実効性をもつことを意図するものではありません。例えば、編集プロセスで投稿論文が倫理指針にあっているかをチェックする、あるいは特定の人工知能研究がこの倫理指針に合致するかをチェックするなどの体制づくりを進めたい、進めるというような意図はありません。まずは倫理指針を出すことで、大枠での合意を作り、社会、そして学会員同士が対話しながら倫理指針や人工知能技術についてより深い議論を進めたいと思っています。そして、もし社会の多くの人、あるいは多くの会員が何らかの実効的なプロセスを望むのであれば、対話を通して本倫理指針の解釈および見直しをしていきたいと思っております。
そして、今回の倫理指針で特徴的なものは第９条です。ここは、大変に人工知能学会らしい条項だと思っています。アシモフの３原則のような前文参照、あるいは、本倫理指針に従って作られた人工物に対しても本倫理指針が適用されるという再帰性を含んでおり、条文として興味深い構造になっています。また、倫理委員会としては、人工知能が将来どのような形で社会に使われるかはさまざまな可能性があると思っておりますが、鉄腕アトムやドラえもんが人工知能研究に大きな夢を与えた日本においては、社会のなかで「構成員」として認められる人工知能の形は、比較的多くの人がイメージしやすく、人類のための人工知能という本倫理指針の趣旨が理解されやすいものだと考えています。なお、EUにおいてはロボットに法的人格を与えるという動きがあります。さらに、こうした第９条を置くことで、人々に「社会の構成員っていったいなに？」「人工知能が倫理指針を遵守するってどういうこと？」とさまざまな疑問を投げかけ、それが社会全体での人工知能技術の理解を深め、また人工知能の社会のなかでのあるべき姿への議論が深まることにつながるのではないかと考えています。そうした議論を生み出したいというのが第９条の趣旨です。
最後に、繰り返しになりますが、本倫理指針は、人工知能研究者が当たり前に感じていることを人工知能学会としてきちんと表明し、それを通じて研究者と社会との対話を深め、社会のなかで健全に人工知能技術が用いられるような議論をしていくために策定いたしました。本倫理指針をきっかけとして、様々な方たちの対話のきっかけとなることを期待し、倫理委員会は今後も活動を行ってまいります。
また、学会員ならびに社会全体と対話を行っていくために、倫理指針の公布後は意見を募集し、改めて5月の人工知能学会全国大会の倫理委員会公開討論会で議論する予定です。
