「AIの偏見をなくす」 IBMの新たなアプローチ

自社のプラットフォームにAI（人工知能）を組み込もうとする企業はますます増え、AIは日常生活に浸透し始めている。

しかし、まだ初期段階にあるこの技術は、開発プロセスがオープンとは言えない。また、既存のステレオタイプを増幅させる人種偏見が存在しているとの批判も受けている。AI技術にまつわる最大の争点ともいわれるこの問題において、IBMは透明性と公平性をもたらそうと努力している。

人々が知るべき詳細とは

AIの中に人種偏見はさまざまな形で持ち込まれるが、主に、AIのトレーニングに使われるデータのアルゴリズムが多様性に欠けるということに反映されている。そこでIBMの研究者たちは、AIの機械学習システムのトレーニングに使用するデータセットのバイアスを改善しようとしている。

もしAIのデータが原因で、求職者が不採用になったり、ローンの申し込みを断わられたり、刑務所に送られるかどうかが決まったりすることになったら、人種偏見は大きな問題になる。

IBMでは現在、AIプラットフォームの相対的な公平性をランク付けし、意思決定がどう行われているかを説明する評価システムを開発している。また、AI開発者たちが特性的に同質だという現状を打破する手段として、オープンソース・コミュニティーが容易にアクセスできる新しいツールキット「AI Fairness 360」を提供する予定だ。

IBMは声明の中で、以下のように述べている。…