Profile
大島 葉子
日本マイクロソフト株式会社 執行役員
政策渉外・法務本部長 弁護士(日本・ニューヨーク州)一橋大学法学部卒業。東京大学大学院法学政治学研究科及びハーバード・ロースクール(LL.M)修了。1999年4月入所のアンダーソン・毛利(当時)法律事務所、2003年入所のCleary Gottlieb Steen & Hamilton LLP(NY州)を経て15年前に企業内弁護士に。現職の前はGEジャパン株式会社執行役員ゼネラル・カウンセルとGEデジタル・アジアのゼネラル・カウンセルを兼任。
Sessionのポイント
AIの技術革新はめざましく、さまざまなビジネスで実装が進んでいます。その一方、AIの実装に際しては、人権侵害などの倫理的な問題に十分留意する必要があります。
本Sessionでは、日本マイクロソフトの法務本部を統括する大島氏に、
- AIが直面する倫理的な問題の事例
- 日本マイクロソフトのAI倫理に対する取組み
- ゼネラル・カウンセルと法務部門の役割・付加価値
といった内容をお話いただきました。
AIが直面する倫理的な問題
一般的に、法務部門は「事業や企業戦略の合法性の検討」「取引案件の法的サポート(契約交渉含む)」「コーポレートガバナンスの整備と維持」「コンプライアンスの基盤づくりと対応」「政策対応」などの、重大な業務を担っています。またデジタル化の進展により社会は刻々と変化し、そのスピードも増すばかりです。本日は、そんな時代に法務部門が果たすべき役割についてお話しします。
AIの進化は、他のテクノロジーと比べても急速です。AIの活用にあたっては、人間の能力に接近している・社会的影響力が大きいなどの観点から、他のテクノロジーとは異なる考慮が必要です。
近年のAIは、画像認識から始まり、人間の会話の認識、文章の読解、翻訳などの技術が指数関数的に向上しました。ビジネスのさまざまな場面でAIの活躍が期待される一方、AIの判断に関する倫理的な問題への懸念が高まっています。
実際、フランスのITコンサルティング会社Capgeminiが行った調査によると、全世界で90%近くのエグゼクティブ層が「AIの利用により、倫理的な問題に遭遇したことがある」と回答しています。
AIに学習させるデータは人の手でつくられるため、人がもつ先入観や偏見が入る場合があります。それらのバイアスを、日々修正しているのが現実です。しかし、倫理的な問題の発生が危険だからといって開発をやめるという判断にはなりません。AIの技術により恩恵を受ける世界も多々あるので、リスクや課題をクリアしながら技術開発を進めていくことが重要です。
マイクロソフトの「責任あるAI」の原則
AIの活用について、個別の開発ごとに厳密なルールを定めるのは現実的ではありません。そこでマイクロソフトでは2019年末より「責任あるAI(RAI:Responsible AI)」の原則を試験的に導入し、AIが人々の信頼に値する方法で、責任をもって開発されるように取り組んでいます。
「責任あるAI」の原則は以下の6つで構成されています。
- 公平性
- 信頼性と安全性
- プライバシーセキュリティ
- 多様性
- 透明性
- アカウンタビリティ
(出典:日本マイクロソフト株式会社)
上記の6原則を実践するために、ガイドライン、チェックリスト、データシートなどのツールを整備しています。AIだからといって特別な枠組みをつくっているのではなく、従来のIT関連の行動規範と同様に、「ツールを使って理解する」→「保護する」→「統制する」の3段階で「責任あるAI」を実践しています。
また「責任あるAI」を統制するため、「チーフRAIオフィサー」「RAIオフィス」「RAI委員会」などの機関を設けています。ここでは、AI特有の統制として、「RAIオフィス」が行っている「微妙な利用」を紹介します。
「微妙な利用」とは、センシティブ・ユースに該当するすべての案件について、社内のレビュー手続を整備したものです。具体的には「被害をもたらすサービスの否定」→「危害のリスクの判定」→「人権侵害が起きるリスクの判定」の順でレビューします。この際、法務部門だけでなく技術、営業などさまざまな部門のメンバーが知見を持ち寄り、連携して判断するのがポイントです。
「微妙な利用」のレビューにより、AIの活用を拒否した例を1つ紹介します。2019年に、カリフォルニア州の警察当局から、「マイクロソフトの顔認識技術を警察官のボディーカメラやパトカーの車載カメラに導入し、呼び止めた人の顔をスキャンしたい」との引き合いがありました。しかし「微妙な利用」のレビューの結果、マイクロソフトはこれを拒否しました。なぜなら、顔認識の精度が高まっているとはいえ、誤差により無実の方の人権が侵されることがあってはならないと判断したからです。
ゼネラル・カウンセルと法務部門の役割・付加価値
ゼネラル・カウンセルと法務部門が果たすべき役割や付加価値について、考えてみます。私見で以下3点になります。
- 法がどうあるべきかを考え、法に先立って社内に業務指針とツールを提供する。また、単に管轄当局の考え方を先読みするのではなく、自社の製品・サービスが世の中に役立つものと言えるかを倫理的な面から考える(迷うときは、自分の家族や大事な人に誇りをもって話せる仕事かを判断基準にする)。
- 責任あるAI含め法に先立って考えるべき問題、社内だけでは対応できない場合も多いので、他の企業、学術機関、国際機関などと協力し、さまざまな知見を結集し解決を目指していく。
- 管轄当局に対しては、受け身で対応するのではなく、対話ができる関係づくりを目指す。そのためには、自社の考えや、当局が求める情報を適切に提供する必要がある。
総括すると、法規制が追いついていない分野において、問題意識を自ら提起し、社内外と連携して原則をつくり上げていくことが法務部門のできる貢献だと考えています。
自社に確固たる価値観や信念を築くことができれば、当局、取引先、顧客の信頼を得られるだけでなく、社員自身も誇りをもって働けます。その結果、社員のアウトプットが最大化され業績向上にもつながるのではないでしょうか。
マイクロソフトでは、President(社長)のブラッド・スミスが最高法務責任者(CLO)を務めており、彼がそういった法務部門の役割を牽引しています。むすびに彼の言葉を紹介します。
“The more powerful the tool, the greater the benefit or damage it can cause…Technology innovation is not going to slow down. The work to manage it needs to speed up.” 訳:ツールが強力であるほど、その恩恵や被害も甚大である。技術革新が歩みを緩めることはないだろう。その統制はスピード・アップしなければならない。 |
加速する技術革新の恩恵を最大化するために、法務部門が指針・ツールなどの枠組みをつくりましょう。これは会社だけではなく、一国の社会や国をまたいだ世界でも同じ考え方ができるものと思っています。
▼「LegalForce Conference 2021」の様子は、YouTube上でも配信しています。ぜひご覧ください。