第１回 人工知能学会 倫理委員会

議事次第

１．開催趣旨説明
２．委員の自己紹介および議論
３．今後について

議論まとめ

（１）正しい現状理解の必要性
機械と人間が入り混じる社会になってきている。この傾向はますます進んでおり、それによって以前、可能であったものを大幅に超える知的処理を人間ができるようになっていることも事実である。この意味で、変化はもうとっくに起こっているとも言える。そして、人間社会はそれに適応している。一方で、シンギュラリティで議論されているような「真に自己を設計できる人工知能」の実現は遠く、現在のところその糸口もつかめていない。
（２）我々の役割の明確化
とはいえ、人工知能の可能性を過小評価してはいけない。専門家は自らの技術を過小評価しがちである。人工知能は社会のインフラになることは確実であり、さまざまな諸問題が起こらないうちに、余力のあるうちに議論を尽くすことは重要である。専門家として、予見できるものは予見しておくべきであり、そこに何らかの線を引くべきかどうか（例えば遺伝子工学における人間のクローンは禁止するなど。人工知能を兵器に用いてよいかなど）を議論すること、あり得る最悪のシナリオとその対応を列挙すること、あるいは技術の方向性を指し示すことは重要な役割である。
（３）考え方の指針
倫理観は研究者自身ではなく、社会が作っていくものである。万人のための人工知能を目指すべきである。その際に、人工知能が「人間の尊厳」を犯さないというのは重要な観点であろう。また、人工知能が倫理観に沿って正しく使われるためには、オープンであること（透明性）、説明可能であること、また制御権を複数の人間（市民）に分散することなども重要な観点であろう。いずれにしても、ここで議論すべきは、「人工知能の倫理」ではなく、「人工知能を使う人間の倫理」「人工知能を開発する人間の倫理」である。
（４）職業の問題
職業の喪失可能性に代表される、人工知能の普及が短期にもたらす社会的あるいは個人への顕著な影響については配慮すべきであろう。生産性の向上による富の再分配をいかにするかという問題とも関連する。また、大きな教育投資をした人が報われないということでもあり、技術革新全般からみるとやむを得ないことではあるものの、技術革新のスピードが早すぎれば、社会的な配慮が必要な場合もあるかもしれない。
（５）人工知能の「心」の問題
心は生命と同等あるいはそれ以上に人間の本質を占め，我々の心が相互依存であることを鑑みれば，心をもつ人工知能を作ってもよいかどうかというのは大きな論点である．普通の人には区別がつかないので、一見すると心をもつようにみえる人工知能も含む。）人工知能に恋愛感情を抱いてしまう、人工知能プログラムを壊してよいかなど、人間の心にもまつわるさまざまな問題を誘発する可能性がある。