AI・機械学習

AIと機械学習のデータに紛れ込む偏向を防ぐ--解決の鍵は業界の多様化

人工知能(AI)や機械学習を活用したテクノロジが日々の生活に浸透しつつあるが、AIの意思決定プロセスや使用されるデータに偏向が生じることも少なくない。偏向をなくすことの重要性とその方法を考える。

 人工知能(AI)が人々の生活に浸透し、家庭や職場、さらには外出先での体験を支えるようになるにつれて、自分が利用するマシンの挙動の仕組みとその理由について考えなければならなくなっている。ほとんどのAIは「ブラックボックス」の中で動作するため、その意思決定プロセスを窺い知ることはできないが(たとえば、GPSはなぜルートを変更したのか)、AIの透明性はシステムに対する信頼を築く上で不可欠だ。

 だが、求められているのは透明性だけではない。AIの能力を全面的に信頼するためには、AIの意思決定に偏向がないようにする必要もある。

 テクノロジ業界の偏向の問題は周知の事実だ。特に、女性従業員の割合の低さや賃金格差はよく知られている。しかし、偏向は機械学習が訓練に使用するデータそのものにも紛れ込み、機械学習の予測に影響を及ぼすこともある。

 ルイビル大学でサイバーセキュリティ研究所のディレクターを務めるRoman Yampolskiy氏は次のように述べる。「人間の意思決定のデータセットには、必ず偏りが含まれている。採用者の決定、学生のレポートの採点、医療診断、オブジェクト記述はすべて、文化、教育、性別、人種などに関する偏向を含んでいる」

 では、偏りのあるデータによって、アルゴリズムに具体的にどのような影響が出ているのだろうか。

編集部おすすめの関連記事

残り本文:約2604文字 ログインして続きを読んでください。

あなたにおすすめの記事

関連記事

ホワイトペーパーランキング

  1. 【事例】各業界のAI導入事例に学ぶ、陥りがちな「穴」と自社に適したAI活用の進め方
  2. 対談:「2025年の崖」とクラウドによるデータ活用の可能性
  3. 【事例】AI活用の広告サービスで顧客生涯価値(CLV)向上に成功した小売業者の軌跡を追う
  4. Office365メールも保護! クラウド型多層防御サービスの実力
  5. 成果を生むデータマネジメント戦略とは?成功企業に共通する4つの特性

編集部おすすめ

トレンドまるわかり![PR]

サーバ
PC・モバイル
ストレージ
ネットワーク
仮想化
クラウドサービス
OS・ミドルウェア
開発
データベース
運用
セキュリティ
新興技術
IoT
ドローン
ロボット
VR・AR
AI・機械学習
財務・経理
人事・労務
マーケ・営業
購買・調達
生産・製造
データ分析
コミュニケーション
通信・通話
文書・コンテンツ
サイト構築
PCソフト
学習

ベンダー座談会

Follow TechRepublic Japan

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]