Skip to Content
logologo
AI Incident Database
Open TwitterOpen RSS FeedOpen FacebookOpen LinkedInOpen GitHub
Open Menu
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる
発見する
投稿する
  • ようこそAIIDへ
  • インシデントを発見
  • 空間ビュー
  • テーブル表示
  • リスト表示
  • 組織
  • 分類法
  • インシデントレポートを投稿
  • 投稿ランキング
  • ブログ
  • AIニュースダイジェスト
  • リスクチェックリスト
  • おまかせ表示
  • サインアップ
閉じる

インシデント 312: Startup's Accent Translation AI Denounced as Reinforcing Racial Bias

概要: A startup’s use of AI voice technology to alter or remove accents for call center agents was scrutinized by critics as reaffirming bias, despite the company’s claim.

ツール

新しいレポート新しいレポート新しいレスポンス新しいレスポンス発見する発見する履歴を表示履歴を表示

組織

すべての組織を表示
推定: Sanasが開発し提供したAIシステムで、call center agents having non-Midwestern-American accent と people having non-Midwestern-American accentに影響を与えた

インシデントのステータス

インシデントID
312
レポート数
4
インシデント発生日
2021-08-15
エディタ
Khoa Lam
Applied Taxonomies
MIT

MIT 分類法のクラス

Machine-Classified
分類法の詳細

Risk Subdomain

A further 23 subdomains create an accessible and understandable classification of hazards and harms associated with AI
 

1.1. Unfair discrimination and misrepresentation

Risk Domain

The Domain Taxonomy of AI Risks classifies risks into seven AI risk domains: (1) Discrimination & toxicity, (2) Privacy & security, (3) Misinformation, (4) Malicious actors & misuse, (5) Human-computer interaction, (6) Socioeconomic & environmental harms, and (7) AI system safety, failures & limitations.
 
  1. Discrimination and Toxicity

Entity

Which, if any, entity is presented as the main cause of the risk
 

Human

Timing

The stage in the AI lifecycle at which the risk is presented as occurring
 

Post-deployment

Intent

Whether the risk is presented as occurring as an expected or unexpected outcome from pursuing a goal
 

Intentional

インシデントレポート

レポートタイムライン

Incident Occurrence+3
Buzzy Silicon Valley startup wants to make the world sound whiter
Buzzy Silicon Valley startup wants to make the world sound whiter

Buzzy Silicon Valley startup wants to make the world sound whiter

sfgate.com

Silicon Valley Startup Sparks Controversy Over What Critics Call ‘Racist Software'

Silicon Valley Startup Sparks Controversy Over What Critics Call ‘Racist Software'

nbcbayarea.com

Startup uses AI to transform call center workers' accents into "white voice"

Startup uses AI to transform call center workers' accents into "white voice"

boingboing.net

This startup will make you sound whiter and it sees nothing wrong with that

This startup will make you sound whiter and it sees nothing wrong with that

inputmag.com

Buzzy Silicon Valley startup wants to make the world sound whiter
sfgate.com · 2022

Silicon Valley startup Sanas has a lofty goal: to make call center workers sound white and American, no matter the country they're from. And that's just the beginning of their grand plan.

The voice tech company’s website features a photo of…

Silicon Valley Startup Sparks Controversy Over What Critics Call ‘Racist Software'
nbcbayarea.com · 2022

A Silicon Valley startup is sparking controversy for its, what critics call, “racist software.”

Palo Alto's Sanas uses artificial intelligence to alter or remove accents that you may hear when calling into a tech helpline. 

"And to get the …

Startup uses AI to transform call center workers' accents into "white voice"
boingboing.net · 2022

Have you seen the 2018 movie Sorry to Bother You? It's about a young black man who gets a job at a call center and has trouble making sales until he adopts a "white voice."

A new company called Sanas seems to have based its business plan on…

This startup will make you sound whiter and it sees nothing wrong with that
inputmag.com · 2022

The premise of Sanas is pretty simple: remove your accent in real-time. It’s created with businesses like call centers in mind, where callers deal with racial biases based purely on their voice profiles. But Sanas doesn’t just want to make …

バリアント

「バリアント」は既存のAIインシデントと同じ原因要素を共有し、同様な被害を引き起こし、同じ知的システムを含んだインシデントです。バリアントは完全に独立したインシデントとしてインデックスするのではなく、データベースに最初に投稿された同様なインシデントの元にインシデントのバリエーションとして一覧します。インシデントデータベースの他の投稿タイプとは違い、バリアントではインシデントデータベース以外の根拠のレポートは要求されません。詳細についてはこの研究論文を参照してください

よく似たインシデント

Selected by our editors
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 レポート
前のインシデント次のインシデント

よく似たインシデント

Selected by our editors
Deepfake Obama Introduction of Deepfakes

Fake Obama created using AI tool to make phoney speeches

Jul 2017 · 29 レポート

リサーチ

  • “AIインシデント”の定義
  • “AIインシデントレスポンス”の定義
  • データベースのロードマップ
  • 関連研究
  • 全データベースのダウンロード

プロジェクトとコミュニティ

  • AIIDについて
  • コンタクトとフォロー
  • アプリと要約
  • エディタのためのガイド

インシデント

  • 全インシデントの一覧
  • フラグの立ったインシデント
  • 登録待ち一覧
  • クラスごとの表示
  • 分類法

2023 - AI Incident Database

  • 利用規約
  • プライバシーポリシー
  • Open twitterOpen githubOpen rssOpen facebookOpen linkedin
  • 30ebe76