人工知能学会としての大規模生成モデルに対してのメッセージ

2023年4月25日
一般社団法人 人工知能学会
会長 津本周作/倫理委員会

ChatGPTをはじめとする大規模生成モデル(Foundation Model:生成AIの基盤となる技術)は、将来において実現されるであろう高い自律性と汎用性を持つ、より完成された「人工的な知能」としてのAIに近づく大きな技術的進歩であり、可能性は極めて大きいと考えます。

一方、本学会倫理委員会にて2017年2月に公開した「人工知能学会倫理指針」においては、高度に自律的なAIにはその第9条で「人類の平和、安全、福祉、公共の利益に貢献し、基本的人権と尊厳を守り、文化の多様性を尊重し、誠実に振る舞うことの遵守」を求めており、大規模生成モデルにおいてもこの点を踏まえた発展を求めます。

そして、大規模生成モデルの問題や限界を社会に伝えることも人工知能学会の重要な社会的役割であり、社会に向けて、教育の場に向けて、そして研究コミュニティに向けて以下のメッセージを表明します。

社会に向けて

大規模生成モデルは、文章の生成や相談事、検索的用途など、実に多彩な使い方ができ、それによるアイデアの創造や効率化などの点で極めて有用性の高いAIですが、まだ発展途上の技術であり、社会規範や倫理にそぐわないものを生成する可能性があるなど解決すべき課題もいろいろ指摘されています。そのような技術であることを理解した上での正しい活用が必要です。大規模生成モデルが出力したものを鵜呑みにするといった無条件な受け入れ方をせず、大規模生成モデルの簡単な仕組みや、その長所・短所を理解した上で利用することが大切です。

教育の場に対して

一律な利用の禁止は何も生み出しません。積極的に利用する前提で、どのように教育に活用するかを検討すべきと考えます。学ぶことへの好奇心や意欲がある場合には積極的に利用すべきですが、自分で考えることなしに答えのみを教えてもらう用途には利用すべきではないなど、積極的に活用する場面、禁止すべき場面を皆で考えることが重要だと考えます。

研究コミュニティに対して

AIを創る側としての自覚を持ち、野心を持ちつつも節度ある研究開発をすることを希望します。論文執筆においては、大規模生成モデルを利用するしないに関わらず、論文のコアとなる部分が研究者による創造的作業に基づくものであることは当然のことであると考えます。研究者の創造的活動を支援するための大規模生成モデルの積極的な利用は推奨すべきであると考えます。

—–
※本件のお問い合わせは 人工知能学会事務局までお願いします.