AI・機械学習

AIと機械学習のデータに紛れ込む偏向を防ぐ--解決の鍵は業界の多様化

人工知能(AI)や機械学習を活用したテクノロジが日々の生活に浸透しつつあるが、AIの意思決定プロセスや使用されるデータに偏向が生じることも少なくない。偏向をなくすことの重要性とその方法を考える。

 人工知能(AI)が人々の生活に浸透し、家庭や職場、さらには外出先での体験を支えるようになるにつれて、自分が利用するマシンの挙動の仕組みとその理由について考えなければならなくなっている。ほとんどのAIは「ブラックボックス」の中で動作するため、その意思決定プロセスを窺い知ることはできないが(たとえば、GPSはなぜルートを変更したのか)、AIの透明性はシステムに対する信頼を築く上で不可欠だ。

 だが、求められているのは透明性だけではない。AIの能力を全面的に信頼するためには、AIの意思決定に偏向がないようにする必要もある。

 テクノロジ業界の偏向の問題は周知の事実だ。特に、女性従業員の割合の低さや賃金格差はよく知られている。しかし、偏向は機械学習が訓練に使用するデータそのものにも紛れ込み、機械学習の予測に影響を及ぼすこともある。

 ルイビル大学でサイバーセキュリティ研究所のディレクターを務めるRoman Yampolskiy氏は次のように述べる。「人間の意思決定のデータセットには、必ず偏りが含まれている。採用者の決定、学生のレポートの採点、医療診断、オブジェクト記述はすべて、文化、教育、性別、人種などに関する偏向を含んでいる」

 では、偏りのあるデータによって、アルゴリズムに具体的にどのような影響が出ているのだろうか。

編集部おすすめの関連記事

残り本文:約2604文字 ログインして続きを読んでください。

あなたにおすすめの記事

関連記事

ホワイトペーパーランキング

  1. Docker、Kubernetesがもたらす IT業界の一大変革
  2. 今さら聞けない? Dockerコンテナ入門
  3. 【ZDnet Japan調査】情報システム部門200名への調査から見る「攻めのIT戦略のリアル」
  4. AWSが解説!クラウド移行で失敗しないためのベストプラクティスと戦略─「6つのR」とは
  5. 【公式資料】AWS移行実践!大規模なクラウド化はこうすれば始められる

編集部おすすめ

トレンドまるわかり![PR]

サーバ
PC・モバイル
ストレージ
ネットワーク
仮想化
クラウドサービス
OS・ミドルウェア
開発
データベース
運用
セキュリティ
新興技術
IoT
ドローン
ロボット
VR・AR
AI・機械学習
財務・経理
人事・労務
マーケ・営業
購買・調達
生産・製造
データ分析
コミュニケーション
通信・通話
文書・コンテンツ
サイト構築
PCソフト
学習

ベンダー座談会

Follow TechRepublic Japan

このサイトでは、利用状況の把握や広告配信などのために、Cookieなどを使用してアクセスデータを取得・利用しています。 これ以降ページを遷移した場合、Cookieなどの設定や使用に同意したことになります。
Cookieなどの設定や使用の詳細、オプトアウトについては詳細をご覧ください。
[ 閉じる ]