第２回 人工知能学会 倫理委員会

議事次第

1. 現状で参考になりそうな議論の確認
– The Future of Life Institute (FLI)の要旨の共有
– One Hundred Year Study on Artificial Intelligence (AI100)について
2. 人工知能の現状の認識について、および表明すべき声明に関しての議論

議論まとめ

（１）誰に向けての声明か
倫理委員会から出す声明は倫理にとどまらず、ひろく社会への影響を考慮すべきものである。（最初に共有したオープンレターのなかでも、倫理は一項目である。）人工知能研究者に向けて、あるいは（人工知能研究者を含む）市民に向けて出すという考え方がある。おそらく市民に向けてのほうが適切だろう。あるいは、前回の議事録の㈰から㈫の内容を精査して出すという案もある。
（２）声明を出す目的
声明を出す目的は、人工知能が社会に対して持つ見えない影響に対して、研究者自らが、あるいは市民が意識的になることである。人工知能に限らず、ソーシャルメディア、あるいは情報技術一般にこういった見えない影響があるものだが、特に我々は人工知能の影響に対して注意深くなるべきである。
（３）影響について
社会で必要とされる知性の質が変わっている。たとえばゆっくり考える能力よりも、大局的な情報に基づいて瞬時に判断する能力などが必要とされるようになっているのかもしれない。知性の質が変わることは人間の尊厳に直接関わる。人工知能の職業への影響の問題は間接的であり、今後、例えば、人間の共感性や心を必要とするような仕事に重点が置かれるようになるのかもしれない。人間が「機械的な」仕事から開放され、自ら主体性をもって仕事に取り組むことができるようになるかもしれない。技術決定論的見方をするよりは、日本人的な機械との共生を意識するものがよいだろう。
（４）シンギュラリティについて
「シンギュラリティ」が起きるかどうかについては、議論が分かれた。真に自己設計できる機械を（例えば今後１０年で）作れる見込みはないとする立場と、真に自己設計できるかどうかは関係なく、だれも理解できない、だれも制御できないスーパーインテリジェンスの出現こそが脅威であるという立場などがある。スタンフォードのAI100のように100年という期間でみれば、シンギュラリティが起きる可能性があることは、共通の認識であった。短期の議論と長期の議論、あるいは期待値的な見通しと悲観的な見通しは分けるべきとする意見があった。