じこぼう
@kinkuma0327
我々の社会に性差別がある以上、その社会から学習をする人工知能もまた、性差別的な社会を内面化していくという、当たり前の帰結なのかもしれない。
社会から学ぶ人間がそうなのだから、人工知能も当然そうなる。人工知能は、それを不可視化する。 technologyreview.jp/nl/amazon-ditc…
21:00 - 2018年10月10日
「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に

人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
https://twitter.com/kinkuma0327/status/1050234535613353985?p=v


Amazon ditched AI recruitment software because it was biased against women
「女子大卒は減点」アマゾンのAI採用、男性優遇判明で廃止に
https://www.technologyreview.jp/nl/amazon-ditched-ai-recruitment-software-because-it-was-biased-against-women/
人工知能（AI）アルゴリズムの訓練に使われたデータが、男性の就職希望者を優遇する傾向を生んだ。
ロイター通信の報道によると、2014年、アマゾンは就職希望者に対して1つ星から5つ星でランク付けをする自動システムの開発に着手した。しかし、このシステムが技術職において男性志願者を優遇していることが分かり、2017年に廃止した。
このAIツールは、アマゾンがそれまで10年間に渡って受け取ってきた履歴書のデータを元に訓練された。
テクノロジー産業は男性優位分野であるため、履歴書の大部分は男性から送られてきたものだった。
システムは意図せずして、男性志願者を女性志願者よりも優先して選ぶように訓練されていた。
報道によれば、「女性の」という言葉や、特定の女子大学の名前を含む履歴書を減点するようになっていた。
アマゾンは、システムがこれらの条件を中立なものとして判断するように変更を加えたものの、プログラムが他のあらゆる分野において本当に性別に対する偏りがないか、自信を持てなくなったという。


フェミニストたちの主張を裏付けるような話。
https://twitter.com/5chan_nel (5ch newer account)