AIに関する誤解　20100130　AIに任せておけば善いという誤解

Googleは2018年6月11日付けで下記の宣言をしています。

https://japan.googleblog.com/2018/06/ai-principles.html
Google と AI : 私たちの基本理念

この中で、「AI利用における基本方針」として下記をあげています。

1．社会にとって有益である
2. 不公平なバイアスの発生、助長を防ぐ
3. 安全性確保を念頭においた開発と試験
4. 人々への説明責任
5. プライバシー・デザイン原則の適用
6. 科学的卓越性の探求
7. これらの基本理念に沿った利用への技術提供

この中で「2. 不公平なバイアスの発生、助長を防ぐ」では以下の記載になっています。

AI のアルゴリズムやデータセットは、不公平なバイアスを反映したり、強化したり、反対にそれらを緩和することもできます。あるバイアスが公平か、不公平かを判断することは必ずしも容易ではなく、文化や社会的背景によってその判断が分かれます。しかしながら、特に人種、民族、性別、国籍、所得、性的指向、能力、政治的または宗教的信念などといった繊細なトピックにおいて AI が不当な影響を与えることがないよう努めます。

こうした記述は、AIにすべてを任せるのではなく、人間をサポートする仕組みとしての役割だと認識し、機会と人をつなぐ「なにか」という枠組みを理解しているからでしょう。

昨年、内定辞退率のサービスをしたことが問題になりましたが、個人情報保護という立場ではなく、倫理観でいえば、「本人が承知していないにもかかわらず、勝手に自分への評価バイアスがかかる情報が提供され、それに対し異議を唱えることも修整させる手段も与えられない」という倫理的な問題の方が重要かもしれません。

結局のところ、AIは様々な事柄を高速処理することで、未来の可能性を示しだけであろうと云うことをしっかり認識しないと、AIがやってくれることを無条件に受け入れてしまうことになりかねない。

前回のAIは何でもやってくれるという誤解もこのへんに起因するかもしれない。