【最新技術紹介】AIと倫理　顔認証など

こんにちは。草場です。

エクスポネンシャルテクノロジーの一つ、AIに関しては、倫理面での懸念に関する議論が、昨年から続いています。特に顔認証です。ダイヤモンド・オンラインの以下の記事がわかりやすいです

「IBMが「顔認識AI」撤退、アマゾン・マイクロソフトも悩むその危険性」

取り上げられている事例が衝撃的というか、どこの企業にも起こりえることです。例えば、

アマゾンはAIを用いた人材採用ツールの開発を進めていたが、当該AIが“女性嫌い”であることが判明し、開発は中止されたという。AIによる履歴書の自動審査システムを構築すべく、アマゾンは過去10年間に同社が受け取った履歴書をAIにインプットして学習させたが、これが誤りだった。

また、

18年、米マサチューセッツ工科大学（MIT）が米IBMや米マイクロソフトなどの顔認識ソフトウエアの精度を調査した。その結果、「明るい肌の男性」よりも、「暗い肌の女性」の方がはるかに誤認識されやすいことが発覚し、物議を醸した。
米国内外での批判の高まりを受け、20年6月にはIBMが顔認識AI事業からの撤退を表明。同社のアービンド・クリシュナCEO（最高経営責任者）は、「IBMは他社の顔認識技術も含めたあらゆるテクノロジーが、大衆監視や人種によるプロファイリング、基本的人権や自由の侵害に使われることに強く反対し、容認しない」との声明を発表した。

我々はどういう戦略を取ればよいのでしょうか？