信頼できるAIを実現するには？（１） / Trustworthy AI (1)

著者：Jeannette M. Wing

acmで掲載されたJeannette M. Wingによる「Trustworthy AI」というレヴュー記事のまとめ連載（１）

ソース：https://dl.acm.org/doi/abs/10.1145/3448248

概要

今やAIは実世界の様々な場面やタスクにおいて、非常に優れた性能を発揮することができる。物体の検知技術は自動運転技術の基盤になっているし、音声認識技術はSiriやアレクサとしておうちの生活を便利にしている。今後、医療の現場でもその診断精度の向上の助けになるかもしれないし、法定においては判決をより一貫性のあるものにできるかもしれない。

一方で入力データに意図的にノイズを加えることによって、わざと皮膚病検知AIを騙して深刻な病気だと診断させることもできる。リスク算定ツールによる検証によると、（米国の）法定AIにわざと黒人に不利な判決を出すバイアスをかけたり、ビジネスではHR採用ツールに女性に不利なバイアスがかけられるリスクが含まれていることを示した。

どうすればAIの技術を最大限活用享受しつつ、このようなシナリオを回避できるだろうか？
どうすれば、信頼できるAIを実現することができるだろうか？

重要な視点 / key insights

• 信頼できるAIシステムには従来の信頼性のあるコンピュータシステムの要件であるreliability(一定期間故障することなく使用される確率)、security(セキュリティ)、privacy(プライバシー)、usability(使いやすさ)に加えて、probabilistic accuracy under uncertainty(不確実な状況における判定の正当確率)、fairness(フェアであること)、robustness(堅牢性)、accountabilisy(権限事項における説明責任とその主体)、expalainability(説明可能性)を実現できるか？
• セキュリティにおける形式的な手法を適用することができるか？