2021年6月8日、オンラインで2021年度人工知能学会全国大会「社会が望むAIのかたち - サステナブルなAI社会を目指して -」を一般公開企画として開催しました。
1. はじめに
深層学習等のAI研究の発展によって人工知能（AI）の社会適用の可能性は大きく広がりました。当初は未知な技術としてシンギュラリティといった脅威の面が強調されることもありましたが、現在は技術の価値と限界もより正確に認識され、社会適用もより現実的な方向性が見えてきています。この時点で、再び、社会の中でAIをどう使うかに関する可能性・期待・限界について多様な視点から議論し、これからのAIと社会の関係性を議論しました。
趣旨説明として最初に武田英明（人工知能学会 倫理委員長/国立情報学研究所）が、10年後の社会がどのようになるか、どのようにしていきたいかの事例の一つとして科学技術振興機構の「『来るだろう未来』から『つくりたい未来へ』」レポートを紹介しました。本レポートは未来像を、「来るだろう未来」（このまま進めば否応なく訪れる未来）と「つくりたい未来」（意思を持ってつくっていく未来）の２つに分け、さらに、「個人」「社会」「地球」の３つの視点で整理しています。今回の話題提供者の皆さんは、AIがもたらすかもしれない避けたい未来と、こうあってほしいという未来のギャップを埋めようとしている方々であり、それぞれの試みと同時に、「つくりたい未来」の相違も議論をしていきたいと話しました。
福島俊一氏（科学技術振興機構研究開発戦略センターフェロー）の所属する研究開発戦略センター(CRDS)では、深層学習をはじめとするAIがもたらす様々な期待や懸念に対して、どのように対応すれば「信頼されるAI」を構築できるか調査研究を行い、報告書や提言を発行しています。AIをめぐる課題に関してはブラックボックス化の問題や差別の問題、脆弱性の問題やフェイク動画が簡単に作れるようになっているなどの問題が指摘されています。これの問題に対して説明可能AIや公平性配慮AIなど、技術の研究開発を進めていくことが信頼されるAIのアプローチの一つです。しかし、技術だけでは問題は解決されず、技術のできることと法律や人と機械の関係性や、社会的な共通認識やリテラシー、スキルと照らし合わせながら信頼されるAIを構築していかなければなりません。
続いて安田クリスティーナ氏（MyData Global理事/マイクロソフトコーポレーションアイデンティティ規格アーキテクト）は、マイクロソフト社のセキュリティ対策におけるユースケースを提供されました。私たちはデジタルサービスにログインしてアクセス認可を得ています。マイクソソフト社の提供するサービスは現在、毎日10億人がログインのために利用していますが、不正ログインを防ぐために人間だけでは対応が追い付かず、機械学習を使っています。パスワードを盗むなどアカウントを乗っ取る方法は様々あり、機械学習を導入するまではハッカーといたちごっこが続いていました。機械学習によってハッカーを捕まえるための対策をどんどん堅牢にしていくことも可能ですが、ユーザビリティとのバランスを大事にしながらチューニングしています。また、どの認証が間違っているかを把握し、機械学習モデルのトレーニングに必要なデータのラベリングには、人間のドメインナレッジが欠かせなく、データサイエンティストの育成・確保も課題となっています。
須賀千鶴氏（世界経済フォーラム第四次産業革命日本センター長）の所属する第四次産業革命日本センターは、官民連携プラットフォームとして、AIを含めたデータガバナンスのアジェンダを整理し、各国政府とも協力してグローバルなルールづくりと実証を推進しています。データを利活用する未来ビジョンを説明するために、ユースケースを紹介する白書を公開したり、個人や企業の権利の尊重を大前提としながらデータを「共通目的（Common Purpose）」を結節点としてマッチングする方法を提言したりしています。現在はデータ取引市場の実証実験に向けた検討も行っており、国内外の産学官民の専門家を交えて議論が行われています。また、第四次産業革命を背景とする社会構造の変化や急速な技術発展のスピードに対応し、「つくりたい未来」を目指す中で、規制が新しい技術実装の足かせとならないよう、技術だけではなく政策やルールもアップデートしていくという「アジャイル・ガバナンス」の考え方を基に、デジタル法制局の設置なども提案しています。
最後に平野晋氏（中央大学国際情報学部学部長）がAIをめぐる法規制を紹介されました。日本では人々の自由を規制する公法・行政規制を少なくすることで、技術発展を阻害しないほうが良いと考えられています。一方で、注意を怠って損害を与えてしまった人は損害賠償を払う（過失なければ責任なし）という大原則のもと、秩序を保っています。AIに関しては、強制力のある法律（ハードロー）ではなく、規範やガイドライン（ソフトロー）としてガバナンスする方向で国際的な議論が積み重ねられてきました。しかし、近年ハイリスクAIに関しては技術的な不透明性や因果関係の複雑さから、公法的な観点から規制を行い、違反をしたら罰金を科すAI法案や、厳格責任による民事賠償制度の案等を欧州が打ち出したため、今後の国際的な法規制やガバナンスの在り方が注目されています。
3．パネルディスカッション
パネルディスカッションでは、司会の武田が目指すべき社会はどのくらい美しい社会だと考えているかをパネリストに投げかけました。これに対し須賀氏はこれから来るデジタルな世の中においては、ある種の「インターオペラビリティ（相互運用性）」を構築する必要があると指摘しました。また、人間中心という考え方があるが、中心に置くべき人間とは何か、人間として譲れないことは何なのかを考え、再定義するという知的な作業を私たちは現在行っているのではないかと述べられました。福島氏が目指すべき社会とは、人間に寄り添いつつも人間の可能性や能力を広げてくれるAIのある社会、人間にフレンドリーなAIというイメージが重要ではないかと指摘されました。安田氏は信頼性のある世界がキーワードであると指摘しました。デジタルな世界では信頼性を技術だけで示すことが難しく、法規制やユーザビリティと組み合わせることが重要になると述べられました。平野氏は法律家の役目としてリスクを指摘していくことで、欠点を克服していくことが美しい世界を目指すということにつながるのではないか、と述べられました。
次に武田氏は誰のため、何のためにガバナンスが必要なのかを問いかけました。平野氏は、根本的には最大多数の最大幸福がガバナンスの基本ではないかとしたうえで、包摂性があり、誰も取り残さないという視点を考慮に入れて政策を作っていくべきだとコメントされました。安田氏は、誰のためというのであれば人間のためというのが最終的な答えではないかと述べられました。しかし、実際にプロダクトが開発・利用されるためには、ユーザーの要望だけでは社会が動かないことも多く、企業をいかに技術ドリブンではなくユーザーの要望に寄り添う動機を与えるかが重要であると指摘されました。福島氏は、個人に寄り添うようなAIを作る時に大切なのは多様性の保証であるとしつつも、社会の分断が起きることを避けるためにも、共通の信頼を担保するガバナンスが必要であるとコメントされました。須賀氏は、ガバナンスの目的を考える上では、今まで人間社会が蓄積してきた法の保護法益や、それらの比較衡量の具体的な事例をふまえて考えていくことがデジタル時代においても重要であると指摘されました。一方、法規制がイノベーションを容れるためには技術仕様を細かく設定せず性能規定、ゴールベースの規定に移行すべきというのがアジャイルガバナンスの分野における共通理解だが、性能規定が過度に抽象化すると個人や組織が無限の結果責任を負うことになりかねないところ、そうではなく社会全体として取るべき責任やリスクを考え、どこまで免責するかの範囲を確定し合意していくことが最先端のイシューではないかと指摘されました。
二つの質問に対する返答を受け、武田はローレンス・レッシグの議論を参照して、技術（アーキテクチャ）を考えるだけではなく、法制度や習慣、市場といった社会制度との組み合わせが重要になってくる中、どのような組み合わせが重要かを投げかけました。平野氏は、サイバー世界と物理世界ではできることが違うため、サイバースペース上での法律を新たに考えることの重要性を指摘されました。福島氏は技術者として技術的に可能な対策を最大限追求したいが、技術だけでは限界があることに対して、マルチステークホルダー間の議論や透明性を確保する基盤の提供が重要と指摘されました。安田氏はAIと人との関係性はユースケースによってグラデーションがあるため、事例に応じてAIと人との付き合い方のモデルや、ビジネス的な付加価値を考えていくことが重要であるとコメントされました。須賀氏は、現在社会はデジタルとフィジカルのハイブリッドの移行期であるが、最終的には全員がサイバー空間にアクセスできることが基本的人権として保証されるべきだと考えているとコメントされました。その中で、人類はこれから機械とのかかわり方を精査して、何をAIに委譲し手放すか、あるいは最後まで委譲しないと粘るのかの境界画定をしていくことになるのだろうと指摘されました。
パネルの議論からは、AIの社会適用においては、技術と社会制度は螺旋のように組み合わさって発展していく様子が様々な視点から提供されました。様々な分野にAIが応用されていくなか、改めてどのような社会に私たちは住みたいのか、人とAIの関係性はどのようにあるべきかを考えていくことの重要性を再認識した1時間半の議論でした。
写真：パネルディスカッションの様子
（上段左から福島氏、武田氏、安田氏、下段左から須賀氏、平野氏）
（文責：江間）
