AI・機械学習

AIと機械学習のデータに紛れ込む偏向を防ぐ--解決の鍵は業界の多様化

人工知能(AI)や機械学習を活用したテクノロジが日々の生活に浸透しつつあるが、AIの意思決定プロセスや使用されるデータに偏向が生じることも少なくない。偏向をなくすことの重要性とその方法を考える。

 人工知能(AI)が人々の生活に浸透し、家庭や職場、さらには外出先での体験を支えるようになるにつれて、自分が利用するマシンの挙動の仕組みとその理由について考えなければならなくなっている。ほとんどのAIは「ブラックボックス」の中で動作するため、その意思決定プロセスを窺い知ることはできないが(たとえば、GPSはなぜルートを変更したのか)、AIの透明性はシステムに対する信頼を築く上で不可欠だ。

 だが、求められているのは透明性だけではない。AIの能力を全面的に信頼するためには、AIの意思決定に偏向がないようにする必要もある。

 テクノロジ業界の偏向の問題は周知の事実だ。特に、女性従業員の割合の低さや賃金格差はよく知られている。しかし、偏向は機械学習が訓練に使用するデータそのものにも紛れ込み、機械学習の予測に影響を及ぼすこともある。

 ルイビル大学でサイバーセキュリティ研究所のディレクターを務めるRoman Yampolskiy氏は次のように述べる。「人間の意思決定のデータセットには、必ず偏りが含まれている。採用者の決定、学生のレポートの採点、医療診断、オブジェクト記述はすべて、文化、教育、性別、人種などに関する偏向を含んでいる」

 では、偏りのあるデータによって、アルゴリズムに具体的にどのような影響が出ているのだろうか。

編集部おすすめの関連記事

残り本文:約2604文字 ログインして続きを読んでください。

関連記事

ホワイトペーパーランキング

  1. 実はオンプレより、クラウドの方が安全!?情シス マサシと一緒に考えるクラウドのメリット/デメリット
  2. 報告: IT部門と事業部門の「境目」が消え始めた!?世界のITリーダーが回答
  3. 日揮やグリーも活用--世界7万6千社で使われるBox事例集
  4. “収益10億円への道”を具体的に描く、世界のSaaSビジネス成功企業からの指南書
  5. ITRアナリスト浅利氏解説:組織/ビジネス強化に有効なクラウドERP--ユーザー自ら導入で迅速展開

編集部おすすめ

ピックアップ製品

サーバ
PC・モバイル
ストレージ
ネットワーク
仮想化
クラウドサービス
OS・ミドルウェア
開発
データベース
運用
セキュリティ
新興技術
IoT
ドローン
ロボット
VR・AR
AI・機械学習
財務・経理
人事・労務
マーケ・営業
購買・調達
生産・製造
データ分析
コミュニケーション
通信・通話
文書・コンテンツ
サイト構築
PCソフト
学習

ベンダー座談会

Follow TechRepublic Japan