AI・機械学習

AIと機械学習のデータに紛れ込む偏向を防ぐ--解決の鍵は業界の多様化

人工知能(AI)や機械学習を活用したテクノロジが日々の生活に浸透しつつあるが、AIの意思決定プロセスや使用されるデータに偏向が生じることも少なくない。偏向をなくすことの重要性とその方法を考える。

 人工知能(AI)が人々の生活に浸透し、家庭や職場、さらには外出先での体験を支えるようになるにつれて、自分が利用するマシンの挙動の仕組みとその理由について考えなければならなくなっている。ほとんどのAIは「ブラックボックス」の中で動作するため、その意思決定プロセスを窺い知ることはできないが(たとえば、GPSはなぜルートを変更したのか)、AIの透明性はシステムに対する信頼を築く上で不可欠だ。

 だが、求められているのは透明性だけではない。AIの能力を全面的に信頼するためには、AIの意思決定に偏向がないようにする必要もある。

 テクノロジ業界の偏向の問題は周知の事実だ。特に、女性従業員の割合の低さや賃金格差はよく知られている。しかし、偏向は機械学習が訓練に使用するデータそのものにも紛れ込み、機械学習の予測に影響を及ぼすこともある。

 ルイビル大学でサイバーセキュリティ研究所のディレクターを務めるRoman Yampolskiy氏は次のように述べる。「人間の意思決定のデータセットには、必ず偏りが含まれている。採用者の決定、学生のレポートの採点、医療診断、オブジェクト記述はすべて、文化、教育、性別、人種などに関する偏向を含んでいる」

 では、偏りのあるデータによって、アルゴリズムに具体的にどのような影響が出ているのだろうか。

編集部おすすめの関連記事

残り本文:約2604文字 ログインして続きを読んでください。

関連記事

ホワイトペーパーランキング

  1. IBM Watson が拡げるビジネスの可能性
  2. クラウドファーストと言うけれど…理由あって実現できない企業の「次の手」
  3. 人手がかかりすぎるから脱却するには?:「脅威インテリジェンスの活用と自動化」によるアプローチ
  4. 次世代 モダンBI・分析プラットフォームを正しく選ぶための選定ポイントとは
  5. これまでのやり方では不都合がたくさん。メールマーケティングの価値を最大化するためには

編集部おすすめ

ピックアップ製品

サーバ
PC・モバイル
ストレージ
ネットワーク
仮想化
クラウドサービス
OS・ミドルウェア
開発
データベース
運用
セキュリティ
新興技術
IoT
ドローン
ロボット
VR・AR
AI・機械学習
財務・経理
人事・労務
マーケ・営業
購買・調達
生産・製造
データ分析
コミュニケーション
通信・通話
文書・コンテンツ
サイト構築
PCソフト
学習

ベンダー座談会

Follow TechRepublic Japan