顯示廣告
隱藏 ✕
※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2018-10-11 10:12:26
看板 Gossiping
作者 paericsson (pa)
標題
 [新聞] 亞馬遜廢除招聘分析系統 因為AI會歧視女

時間 Wed Oct 10 13:12:50 2018


1.媒體來源:
※ 例如蘋果日報、奇摩新聞

自由

2.完整新聞標題:
※ 標題沒有寫出來 ---> 依照板規刪除文章

亞馬遜廢除招聘分析系統 因為AI會歧視女性...

3.完整新聞內文:
※ 社論特稿都不能貼! 違者刪除(政治類水桶3個月),貼廣告也會被刪除喔!

〔即時新聞/綜合報導〕全球電商龍頭亞馬遜公司,原本有一套秘密的招聘分析引擎,近
來亞馬遜卻決定廢除該系統,因為專家們發現負責分析履歷的AI「歧視」女性


據《路透》報導,知情人士透露,亞馬遜秘密團隊自2014年以來,一直在建立招聘程序,
藉此自動化審查求職者的履歷並尋找頂尖人才,該招聘工具分析完求職者後,會給出1到5
星的評分。


知情人士表示,團隊給招聘系統100個履歷,它就會排出前5名,亞馬遜便雇用那些人。但
到了2015年,團隊意識到分析系統並未以性別中立的方式進行評定。


原來,亞馬遜這套招聘工具的AI在進行分析訓練時,觀察了過去10年內提交給亞馬遜的履
歷,其中顯示出了科技行業中男性的主導地位。因此,亞馬遜招聘AI「認為」男性求職者
更可取,對女性求職者進行「處罰」,例如兩間美國女子大學的畢業生都會被降低評級

不願具名的消息人士指出,亞馬遜最後在去年年初解散了該AI團隊,因為高層對這個項目

失去了希望。亞馬遜拒絕評論此事,僅強調公司致力於工作場所的多樣性和平等。


4.完整新聞連結 (或短網址):
※ 當新聞連結過長時,需提供短網址方便網友點擊

http://news.ltn.com.tw/news/world/breakingnews/2576506
亞馬遜廢除招聘分析系統 因為AI會歧視女性... - 國際 - 自由時報電子報
[圖]
全球電商龍頭亞馬遜公司,原本有一套秘密的招聘分析引擎,近來亞馬遜卻決定廢除該系統,因為專家們發現負責分析履歷的AI「歧視」女性。據《路透》報導,知情人士透露,亞馬遜秘密團隊自2014年以來,一直在建立招聘程序,藉此自動化審查求職者的履歷並尋找頂尖人才,該招聘工具分析完求職者後,會給出1到5星的評分。 ...

 

5.備註:
※ 一個人一天只能張貼一則新聞,被刪或自刪也算額度內超貼者水桶,請注意


--
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.216.26.1
※ 文章代碼(AID): #1RlOfKFI (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1539148372.A.3D2.html
tasogare: AI認證1F 27.247.44.218 台灣 10/10 13:13
asd01248967: 越來越像人類了2F 39.9.69.161 台灣 10/10 13:13
kingrichman: #越分析越不對勁3F 111.250.83.96 台灣 10/10 13:13
arumi416: 搞政治正確?4F 218.216.78.145 日本 10/10 13:13
silverstris: AI都能仇女  代表?5F 223.136.113.140 台灣 10/10 13:14
YCL13: 搞笑,不是應該公司先訂下要什麼人才,然後6F 140.112.94.32 台灣 10/10 13:14
Ilat: AI系統也是人寫的 所以會歧視的不是AI 是人7F 118.160.130.44 台灣 10/10 13:14
YCL13: 研發團隊進行系統研發,難不成,該團隊是自8F 140.112.94.32 台灣 10/10 13:15
no4: 偽娘和變性人不知道怎麼評分9F 114.42.70.14 台灣 10/10 13:15
YCL13: 已隨便玩的嗎?10F 140.112.94.32 台灣 10/10 13:15
iovoecu: 先定義性別中立11F 115.82.51.184 台灣 10/10 13:15
BlackBass: 教主寫的程式12F 223.140.118.228 台灣 10/10 13:16
tanby: Ai是透過資料學習的  所有資料就是這樣13F 27.246.200.218 台灣 10/10 13:16
erain: 搞不好是考慮了請假跟離職率14F 114.34.178.62 台灣 10/10 13:17
darkbrigher: 笑死 就公司需求人才適合男性15F 111.242.9.211 台灣 10/10 13:17
storyo11413: 先控告AI團隊再告亞馬遜 賺死了16F 1.175.75.146 台灣 10/10 13:17
qazwsx741: Ai越來越聰明了17F 123.195.193.44 台灣 10/10 13:18
Arad: 阿就根據資料得出的結果 剛好女性比較慘而已18F 114.46.228.152 台灣 10/10 13:19
bathhouse: 這又提出一個問題了。是否相信AI的解答19F 36.233.171.112 台灣 10/10 13:20
cawba: 由過去雇傭的女性所得到的成果來分析 證明20F 114.24.151.32 台灣 10/10 13:21
cawba: 女生的工作成果較差 故給予女性較差的分數
joygo: 就資料學習而已,資料怎樣大數據怎樣,自然22F 101.13.41.5 台灣 10/10 13:22
Tchachavsky: 應該會出bug吧 AI:請假要同酬??23F 140.117.221.5 台灣 10/10 13:22
joygo: 就怎樣24F 101.13.41.5 台灣 10/10 13:22
cawba: 這AI真的很公正客觀 XD25F 114.24.151.32 台灣 10/10 13:22
pzyc79: AI:資料顯示女性就是廢26F 180.218.24.144 台灣 10/10 13:22
qilar: 所以input資料應該取消性別27F 180.217.133.15 台灣 10/10 13:22
cawba: 可惜被假掰的人給關閉了 怕被罰錢吧28F 114.24.151.32 台灣 10/10 13:22
Tchachavsky: AI:你數據給我就是女性假太多29F 140.117.221.5 台灣 10/10 13:22
kronioel: 用什麼資料分析 當然拿什麼預測結果30F 101.15.180.52 台灣 10/10 13:22
DarkerDuck: 女性的戰鬥力指數就是低啊31F 36.237.83.50 台灣 10/10 13:23
hkcdc: AI也懂32F 61.230.195.35 台灣 10/10 13:23
djyunjie: 女性職員的成本高 本來就事實33F 36.235.37.252 台灣 10/10 13:23
jjlee: 基於這個結果, 我信AI惹...34F 118.169.80.153 台灣 10/10 13:23
touurtn: 一定是八卦肥宅帶壞的35F 1.34.159.198 台灣 10/10 13:23
BlueBird5566 
BlueBird5566: 代表這AI是成功的  居然不用 真傻36F 1.171.123.54 台灣 10/10 13:23
AustinRivers: 是否加班 是否能外勤37F 223.137.228.151 台灣 10/10 13:23
CTHsieh: AI也是由以前的經驗學習的。表示以前...38F 123.195.4.94 台灣 10/10 13:23
mimikillua: 意思就是 從統計上來看 女人較遜39F 223.139.72.107 台灣 10/10 13:24
atpx: 三小, 對一個非人為操作的說他不客觀40F 59.115.120.2 台灣 10/10 13:24
Ilat: AI也只是反映數據運算的結果 歧視什麼的政治41F 118.160.130.44 台灣 10/10 13:24
Tchachavsky: 真的無話可說 XD ai仇女有原因阿42F 140.117.221.5 台灣 10/10 13:24
Ilat: 化考量沒有量化 沒有數據可參考43F 118.160.130.44 台灣 10/10 13:24
bee12: AI應該是學習過程中發現女性評分要給低一點44F 140.114.47.194 台灣 10/10 13:25
LaplaceDemon: 做AI跟做人一樣 不能太誠實45F 110.26.141.222 台灣 10/10 13:26
LaplaceDemon: 會招來殺身之禍
darkbrigher: 遇到板上說的那樣無縫產假2年 想不低47F 111.242.9.211 台灣 10/10 13:27
darkbrigher: 也難啊
waijr: AI因為公正不懂的做人49F 114.32.30.88 台灣 10/10 13:27
s860134: HAHAHAHAHAHA50F 123.192.25.174 台灣 10/10 13:30
s860134: 超酸的
fgkor123: 因為ai會公正評斷 性別就是有差...52F 36.226.231.3 台灣 10/10 13:30
awenracious: Ai其實很客觀,就是依據統計,這個工53F 223.137.20.120 台灣 10/10 13:30
awenracious: 作男性比女性適合而已,為了平等把工
awenracious: 作給不擅長的人根本本末倒置
sdbb: ai不懂政治正確56F 123.204.129.40 台灣 10/10 13:31
mimikillua: 學店評級自然就低 干女校屁事57F 223.139.72.107 台灣 10/10 13:31
fgkor123: 現況是這樣,要弄入職後的資料再去搞58F 36.226.231.3 台灣 10/10 13:31
clover1211: 假如反過來 AI歧視男性呢? 敢打賭絕59F 60.198.188.218 台灣 10/10 13:32
s860134: 其實現有資料就是男大於女,高階女性主60F 123.192.25.174 台灣 10/10 13:32
clover1211: 對不會廢除還拿來大吹大擂61F 60.198.188.218 台灣 10/10 13:33
awenracious: AI一定覺得人類智障,為了一個奇怪62F 223.137.20.120 台灣 10/10 13:33
s860134: 管比男性少的懸殊,用這樣資料餵出來的AI63F 123.192.25.174 台灣 10/10 13:33
awenracious: 的理由,把不適合的人硬放上位置的64F 223.137.20.120 台灣 10/10 13:33
s860134: 可以得到性別是顯著相關的結論也很合理ㄚ65F 123.192.25.174 台灣 10/10 13:33
maaaaa: 天擇變成ai擇,以後搞不好都變成機器人66F 42.74.198.30 台灣 10/10 13:34
devidevi: AI是聰明的...67F 203.77.48.233 台灣 10/10 13:34
devidevi: AI最大的敵人,女性....
pantient: 證明女權最愛的社會科學不是科學的鐵證69F 59.115.179.127 台灣 10/10 13:35
hogu134: 這算是科學證實嗎?70F 42.77.174.221 台灣 10/10 13:36
hw1: AI:幹資料給我就是這樣啊71F 36.233.41.236 台灣 10/10 13:37
skyprayer: 得看ai怎麼學習 用哪些數據學習72F 220.136.17.88 台灣 10/10 13:37
winiS: 告訴我們AI再強還是要聽高層的,自動駕駛73F 223.139.206.203 台灣 10/10 13:39
winiS: 解救不了酒駕
pantient: 分析系統裡沒有性別加權的AI是壞AI,懂75F 59.115.179.127 台灣 10/10 13:41
pantient: ?
apocalypses: 取消性別更慘 因為本來就是男性比較77F 123.194.159.22 台灣 10/10 13:43
apocalypses: 適合 有性別還可以幫女性加權一下
Lorazin: AI忘記加入政治正確選項79F 114.137.62.147 台灣 10/10 13:46
nadleeh: 假平等80F 39.9.30.9 台灣 10/10 13:46
Wilkie: 可憐的AI. 說實話被廢81F 223.138.117.53 台灣 10/10 13:46
dfast: AI要加入metoo功能82F 180.176.108.164 台灣 10/10 13:47
dimw: 沒標準答案的東西就別去期待AI了83F 61.228.36.145 台灣 10/10 13:48
reppoc: 肝的奉獻度:男>>>女84F 42.73.71.217 台灣 10/10 13:48
s540421: 招募男女比例不到各半就是不中立吧 哈85F 223.137.141.13 台灣 10/10 13:48
s81048112: AI: 我不想被女生說越想越不對勁86F 27.52.68.192 台灣 10/10 13:50
sean90330: 抓到了 AI仇女87F 49.217.99.118 台灣 10/10 13:54
beasked8096: Ai不會考慮人性 懷孕生小孩對公司是88F 101.15.182.242 台灣 10/10 13:55
hjgx: 一定是被女電腦欺負過89F 114.32.121.27 台灣 10/10 13:55
beasked8096: 負面 但是對社會是正面90F 101.15.182.242 台灣 10/10 13:55
thomas0229: 女拳:這AI想要強姦我91F 123.110.21.110 台灣 10/10 13:55
guardian93: AI不懂平權92F 111.253.29.9 台灣 10/10 13:56
Ken99523: ai太誠實啦93F 111.249.105.38 台灣 10/10 13:56
fatetwister: 7樓文組逆 ai的判斷能用於市場上94F 39.9.0.202 台灣 10/10 13:57
fatetwister: 都是自己學習到一定成績的
fatetwister: 基本上跟編碼者的邏輯沒什麼關係
demitri 
demitri: 因為網路上歧視女性的言論很多97F 104.32.187.152 美國 10/10 13:58
stussy: 甚麼歧視 陳述事實吧98F 36.226.33.226 台灣 10/10 13:58
Xceberus: 女拳:這AI想要強姦我99F 42.77.77.104 台灣 10/10 14:00
fuhu66: 垃圾進垃圾出的概念100F 140.114.235.19 台灣 10/10 14:00
chunfo: 不要把ai當成發垃圾問卷畢業的大學生101F 220.129.99.16 台灣 10/10 14:00
mimikillua: 女拳:這AI想要強姦我102F 223.139.72.107 台灣 10/10 14:01
eterbless: AI是對的103F 118.166.178.98 台灣 10/10 14:02
tym7482: 不分析看看為什麼女性會被降等嗎104F 36.224.250.110 台灣 10/10 14:02
eterbless: 這還需要分析嗎 就產出/投資不如男性105F 118.166.178.98 台灣 10/10 14:04
vi000246: 這不就拿過去十年資料分析出來的106F 175.182.109.21 台灣 10/10 14:05
baddad: 乾 ,照實評錯了嗎 ?幫qq107F 49.218.50.103 台灣 10/10 14:05
wang2346581: ai認證108F 114.136.163.46 台灣 10/10 14:06
aprendes: 這AI一定常上ptt八卦板109F 223.140.147.214 台灣 10/10 14:07
deer8dog9: 就餵的資料本身就有偏誤 訓練出來的結110F 36.228.159.164 台灣 10/10 14:09
darkMood: 不敢承認一個真相,男>女111F 49.217.6.73 台灣 10/10 14:09
deer8dog9: 果當然也有偏誤啊 餵了80%都是男性的資112F 36.228.159.164 台灣 10/10 14:10
deer8dog9: 料 類神經網路訓練出來的結果會這樣不
deer8dog9: 意外吧 一堆演算法外行不要丟臉了= =
ya870323: 事實上,AI是依據過去的data進行學習...115F 140.114.212.103 台灣 10/10 14:15
Iluvatar: 要內建政治正確的traning了116F 220.133.27.126 台灣 10/10 14:16
mimikillua: 女權:這AI有沙文主義 一定是男的117F 223.139.72.107 台灣 10/10 14:16
apple1235566: AI = 統計 = 客觀事實118F 111.248.24.210 台灣 10/10 14:17
Hotaruinori: 就算是AI也不能政治不正確119F 223.140.226.129 台灣 10/10 14:19
scott0002: 笑死120F 180.217.181.42 台灣 10/10 14:19
deer8dog9: 你今天問AI甚麼食物最好吃 但是訓練過121F 36.228.159.164 台灣 10/10 14:20
deer8dog9: 成你塞給AI的資料都是Pizza 你覺得那叫
seemoon2000: 一間公司沒女性其實是很慘的 認真說123F 114.136.77.147 台灣 10/10 14:21
deer8dog9: 客觀? 今天訓練資料的Data來自於歷史資124F 36.228.159.164 台灣 10/10 14:21
wind7065: ai:智者無法回答愚者的問題125F 223.141.37.180 台灣 10/10 14:22
seemoon2000: AI如果都選男的 真的是滿麻煩126F 114.136.77.147 台灣 10/10 14:22
deer8dog9: 料 而歷史資料本身就是男性多於女性 這127F 36.228.159.164 台灣 10/10 14:22
deer8dog9: 當然會影響到訓練的結果好嗎...
deer8dog9: 連這個板上都一堆理盲 那難怪廢核或
deer8dog9: 葉克摩風向帶得起來了
deer8dog9: 一堆噁心的傢伙只看立場不問是非的 明
deer8dog9: 明要討論的是ai訓練資料的問題還可以扯
deer8dog9: 女權543的 今天反過來你塞了一堆女性的
deer8dog9: 資料去以想訓練結果也是一樣噁心 重點
snapdragon: 這東西不可能只歧視女性 八成連尼哥阿135F 148.75.198.188 美國 10/10 14:27
snapdragon: 咪狗一起歧視惹
deer8dog9: 是在於訓練資料本身就有偏誤了好嗎137F 36.228.159.164 台灣 10/10 14:27
babyMclaren: 反過來塞一堆女性的就歧視男生138F 223.137.168.210 台灣 10/10 14:28
NSYSUEE: 這個ai根本就是人類139F 42.72.214.236 台灣 10/10 14:28
koster: 你把AI送回300年前 他也會告訴你黑人天生140F 73.222.152.65 美國 10/10 14:28
koster: 就是奴隸
deer8dog9: 4 所以重點是在該怎麼確保訓練資料不會142F 36.228.159.164 台灣 10/10 14:28
deer8dog9: 被性別或甚麼其他因素影響能力判別
justwhite: 表示真憑履歷的話 女生極大部分會輸吧144F 101.136.139.132 台灣 10/10 14:30
graywater: 這跟上篇律師的說人工閱卷比較主觀,AI145F 59.102.163.237 台灣 10/10 14:32
graywater: 也是(ry)
Domonxx: AI才真的沒被外貌等影響判斷,人的話就會147F 118.167.131.196 台灣 10/10 14:34
deer8dog9: 內文也講了因為科技業歷史資料中男性僱148F 223.137.40.190 台灣 10/10 14:34
deer8dog9: 員資料壓倒性多數啊 所以你訓練演算法
deer8dog9: 的結果 性別自然被當成一個評比的標準
deer8dog9: 了
GABA: 發現新人都沒有妹紙 往回查後...152F 59.115.165.235 台灣 10/10 14:35
deer8dog9: 就像我要建立一個分析美食的AI 結果我153F 223.137.40.190 台灣 10/10 14:36
king22649: 白癡 餵啥數據有啥結果 不就這樣= =154F 118.163.8.60 台灣 10/10 14:36
deer8dog9: 訓練資料都塞pizza進去 訓練出來的結果155F 223.137.40.190 台灣 10/10 14:36
deer8dog9:  pizza一定最高分啊= =
vencil: 這表示績效天生就是...wow157F 61.70.252.114 台灣 10/10 14:36
king22649: 本來能力就有差異 這哪算歧視 歐美真心158F 118.163.8.60 台灣 10/10 14:37
king22649: 智障
dreamnook: waht160F 36.228.151.192 台灣 10/10 14:37
deer8dog9: 真的是被一堆理盲氣到發抖欸幹 八卦版161F 223.137.40.190 台灣 10/10 14:37
deer8dog9: 欸 連這裡基本資訊素養都這麼低 搞屁啊
lucyhebe: 這年頭不能說實話163F 111.83.15.124 台灣 10/10 14:38
king22649: 真的這麼在意比例 很簡單啊 保障女性50164F 118.163.8.60 台灣 10/10 14:39
king22649: % 不就好了
ab4daa: 誠實w166F 36.234.58.80 台灣 10/10 14:40
Youmukon: AI沒考慮到政治正確 #越統計越不對勁167F 42.73.182.24 台灣 10/10 14:40
justice0926: 這公司又不是只有男性 應該檢討為何168F 180.177.32.203 台灣 10/10 14:44
justice0926: 會分析女性會比較差吧
deer8dog9: 因為訓練資料中男性壓倒性多數啊  演算170F 223.137.40.190 台灣 10/10 14:46
deer8dog9: 法當然會往這個多數去偏向 那不是性別
deer8dog9: 優劣的問題 而是更之前的階段 樣本就已
deer8dog9: 經有偏誤了
ldeathkiller: 實話不能講出來 因為政治不正確174F 42.72.91.117 台灣 10/10 14:47
deer8dog9: 一堆理盲在那邊講屁話 實話你媽175F 223.137.40.190 台灣 10/10 14:49
dimw: 我記得米國履歷不是沒性別的嗎176F 61.228.36.145 台灣 10/10 14:50
JBLs: AI太聰明  學習人類學全套  直接74177F 61.227.81.207 台灣 10/10 14:50
dimw: 還是沒照片什麼的178F 61.228.36.145 台灣 10/10 14:50
plumbers007: 笑死,有人在崩潰,卻沒人要理179F 61.71.0.148 台灣 10/10 14:50
deer8dog9: 但不保證歷史資料沒有性別啊 不然是要180F 223.137.40.190 台灣 10/10 14:51
deer8dog9: 怎麼發現女性會被扣分
tokyoto: AI也是要人教的 當初進去的資料 或是整個182F 36.225.9.40 台灣 10/10 14:52
lhsieh: 歷史資料建立模型的問題,所以亞馬遜長期招183F 195.206.104.106 美國 10/10 14:52
lhsieh: 募有歧視女性XD
tokyoto: 業界就是有這種偏差 學到的自然也有偏差185F 36.225.9.40 台灣 10/10 14:52
deer8dog9: 我是真的很崩潰 如果連八卦這種網路使186F 223.137.40.190 台灣 10/10 14:53
deer8dog9: 用者多數的地方 對於ai都沒有相關的資
deer8dog9: 訊素養 那可以想像整個台灣相關資訊素
deer8dog9: 養的程度是怎樣了
dimw: 也許只是耗電又沒什麼額外效益的關係190F 61.228.36.145 台灣 10/10 14:53
vinsh: 推樓上  樣本總數有差191F 42.74.218.212 台灣 10/10 14:54
deer8dog9: 難怪殺小葉克膜強摘的風向能帶的起來192F 223.137.40.190 台灣 10/10 14:55
deer8dog9: 一堆對於運作機制不了解 但是很樂於馬
deer8dog9: 上套用自己的立場去評論的理盲
vinsh: 是D大195F 42.74.218.212 台灣 10/10 14:55
wate5566: 被咪兔害慘 哈哈196F 114.25.127.163 台灣 10/10 14:55
deer8dog9: 你今天反過來塞一堆女性的資料去訓練197F 223.137.40.190 台灣 10/10 14:57
deer8dog9: 讓ai最後訓練成女性加分男性扣分那也是
deer8dog9: 一樣的問題啊 就是樣本本身的偏誤影響
deer8dog9: 到演算法了 在那邊扯啥小政治正確
sggs: 你給AI的歷史data是那樣,當然回一樣的結果201F 60.248.16.132 台灣 10/10 14:58
dimw: 尤其是如果花一堆功夫又堅持結果非五五不可202F 61.228.36.145 台灣 10/10 14:58
dimw: 阿不如就不用分析了 一開始定五五就好了
vinsh: 建議D大回文好了204F 42.74.218.212 台灣 10/10 14:59
JDraxler: 推d大,八卦就這個水準啊205F 140.112.217.208 台灣 10/10 15:00
kiddking: 一定沒輸入顏值。206F 180.217.201.16 台灣 10/10 15:00
JDraxler: 而且ai會歧視大概半年前就有新聞了吧www207F 140.112.217.208 台灣 10/10 15:00
pantient: 好了啦擁女主義者208F 123.192.97.175 台灣 10/10 15:00
deer8dog9: 問題不在要五五 而是ai的設計上性別不209F 223.137.40.190 台灣 10/10 15:01
deer8dog9: 該影響到能力評估 但是依報導內容來看
deer8dog9: 應該是判別演算法後發現評分會「懲罰」
deer8dog9: 女性 這應該可以解讀成性別變成評比的
deer8dog9: 指標了
deer8dog9: 這到底跟女權有什麼關係...你做研究不
deer8dog9: 用確保資料沒有偏誤嗎
pfannkuchen: 推deer大!216F 42.74.150.63 台灣 10/10 15:05
deer8dog9: 講白了這就跟喜憨島那些吸獨仔一樣 立217F 223.137.40.190 台灣 10/10 15:06
deer8dog9: 場可以凌駕於科學事實 因為中國罪該萬
deer8dog9: 死 所以教中國用葉克膜一定跟強摘有關
deer8dog9: ;因為女權正夯 所以這ai一定是被政治
deer8dog9: 正確打壓
sdriver: AI:我中立學習得來的結論被人類的偏見黑222F 123.193.191.4 台灣 10/10 15:08
sdriver: 了
fengchierh: 我還滿好奇d是該系統的設計者嗎?不然224F 223.141.28.5 台灣 10/10 15:09
fengchierh: 怎麼確定是因為資料量的差異造成這個
fengchierh: 結果?七成資料都是男性所以偏袒男性
fengchierh: 是怎麼推論出來的?假設資料是七成小
fengchierh: 學生三成大學生,系統也是會偏袒小學
fengchierh: 生嗎?
deer8dog9: 好好的假日要被一堆白癡理盲氣到發抖欸230F 223.137.40.190 台灣 10/10 15:09
deer8dog9: 幹 我前面都說了你今天反過來餵一堆女
deer8dog9: 性的資料導致ai變成「懲罰」男性 那也
deer8dog9: 一樣是歷史資料的結構影響到演算法 到
deer8dog9: 底跟政治正確有三小關係
ho2002: d大講得很正確阿  為啥要扯到設計者...235F 203.121.240.166 台灣 10/10 15:11
ho2002: d大別生氣 PTT素質越來越低落 我已看淡惹Q
deer8dog9: fengchierh 答案是會 我自己是有參與一237F 223.137.40.190 台灣 10/10 15:14
deer8dog9: 些語意分析的經驗 所謂訓練結果其實不
deer8dog9: 代表真的優劣 那只是演算法解讀資料的
deer8dog9: 「傾向」
dimw: 這篇新聞也沒講太多細節 因為公司拒絕評論241F 61.228.36.145 台灣 10/10 15:14
dimw: 如果樣本有問題那就是打亞馬遜自己的臉
dimw: 這家公司過去不可能被注意這點 但還是被電腦
deer8dog9: 也是啦 但是內文提到歷史資料的部分 至244F 223.137.40.190 台灣 10/10 15:20
deer8dog9: 少以現行多數的演算法來說 確實會有你
dimw: 有特定傾向246F 61.228.36.145 台灣 10/10 15:20
deer8dog9: 餵了什麼資料使ai出現什麼樣的傾向 像247F 223.137.40.190 台灣 10/10 15:20
deer8dog9: 之前不就有個鄉民機器人 就是你把鄉民
deer8dog9: 留言塞給ai訓練 最後他聊天的口味就跟
deer8dog9: 鄉民一樣
vencil: 那像你講的,調整比例就好幹嘛要廢除系統251F 61.70.252.114 台灣 10/10 15:21
deer8dog9: Ai團隊的解散我認為不一定跟這件事有關252F 223.137.40.190 台灣 10/10 15:25
deer8dog9:  你其實留意近期ai的發展 連deepmind的
deer8dog9: 專案都慢了下來
Shauter: 這就跟之前微軟的AI被染黃講賭色等等一樣255F 36.234.213.56 台灣 10/10 15:27
Shauter: 因為網路上往往分身跟強勢就是肥宅
Shauter: 靠著帳號數跟推留言強勢 會完全失真
windangellin: AI用歷史分析,歷史就已經人為偏頗258F 219.68.197.59 台灣 10/10 15:28
windangellin: ,所以問題還是人類啊
Shauter: 現在PTT就一堆學店生 所以才選出同樣260F 36.234.213.56 台灣 10/10 15:29
Shauter: 水準的人當版主
windangellin: 就是以前都歧視女性辣262F 219.68.197.59 台灣 10/10 15:30
kerry0496x: Ai其實不會把性別當作直接判斷的依據263F 114.42.194.108 台灣 10/10 15:30
tiuseensii: 內建XXX保障名額啊264F 123.194.215.46 台灣 10/10 15:31
kerry0496x: 這代表Ai是透過分析其他資料後,最終265F 114.42.194.108 台灣 10/10 15:31
kerry0496x: 的數據現實男性更符合Ai的篩選。
deer8dog9: Ai不知道那個叫「性別」啊 他只是從資267F 223.137.40.190 台灣 10/10 15:32
deer8dog9: 料裡推斷出有這種傾向
deer8dog9: 那當你資料裡男性居多 最後判斷當然就
deer8dog9: 會出現這種「傾向」
Tawara: 不能不要放性別資料進去就好了嗎271F 36.231.155.1 台灣 10/10 15:34
Tawara: 剛沒看到上幾樓都解說
xeme1996: 招募量 男>>女 =歧視,我猜是這樣273F 42.76.185.82 台灣 10/10 15:37
lewisk: AI其實是八掛肥宅ㄅ274F 76.80.178.3 美國 10/10 15:39
lovelive123: 這AI真的不錯275F 220.141.31.72 台灣 10/10 15:42
BIGNOSER: 我的女主管都說 她不想用女生 麻煩一堆276F 114.36.83.173 台灣 10/10 15:43
BIGNOSER: 不是所有工作都是男女一樣好用 平權 呵
sunshinecan: "顯示出了科技行業中男性的主導地位"278F 111.241.97.210 台灣 10/10 15:44
sunshinecan: 單憑這句無法判定是人數還是表現差異
stu25936: 抓到了 AI仇女280F 49.215.178.237 台灣 10/10 15:45
qbaow: 這ai太誠實了?281F 1.200.197.129 台灣 10/10 15:46
enstai: AI依照過去的資料給建議 如果沒有修改的282F 61.228.166.150 台灣 10/10 15:47
enstai: 話就會這樣
qaz223gy: 哇靠AI會歧視?284F 223.138.56.116 台灣 10/10 15:49
gametv: AI太誠實了285F 42.76.226.66 台灣 10/10 15:50
jack9731: 你資料給我什麼 你不修改加權當然就會變286F 111.82.251.98 台灣 10/10 15:53
jack9731: 成這樣 啊如果真的修改加權是不是也可以
jack9731: 說你為了公司立場圖利單一性別
jack9731: 我覺得這裡面最雖小的就是被解散的那個
jack9731: 團隊 如果他們真的沒有修改過原始資料的
jack9731: 話
cmchiu: 把性別參數拿掉不就好了...292F 114.27.6.49 台灣 10/10 15:58
SodaMan: 某D是團隊的人?怎麼知道資料有誤?腦補嗎293F 180.176.101.85 台灣 10/10 16:04
Godmyfriend: 輸入現況是歧視的數據進去 當然得到294F 114.36.67.159 台灣 10/10 16:06
Godmyfriend: 歧視的結果
kabadada: 政治不正確296F 42.77.146.203 台灣 10/10 16:07
deer8dog9: 資料偏誤不叫作有誤好嗎 我前面也舉了297F 223.137.40.190 台灣 10/10 16:07
deer8dog9: 鄉民聊天機器人當例子了 你塞給ai的訓
deer8dog9: 練資料都是鄉民留言 最後ai對話的模式
deer8dog9: 就是鄉民風格
imaxpayne: 某D不是設計者自己腦補訓練資料有bias301F 1.171.103.145 台灣 10/10 16:08
imaxpayne: ,你當那些ai 科學家都智障不曉得要把b
imaxpayne: ias降到最低?
deer8dog9: 你先行業界就是男性居多 那資料判讀自304F 223.137.40.190 台灣 10/10 16:09
deer8dog9: 然會出現這樣的傾向 一堆人真的把ai當
deer8dog9: 人類 但是ai不是真人好嗎 根本不會知道
deer8dog9: 性別是什麼
imaxpayne: 某D自己只有拿現成model訓練的水準也以308F 1.171.103.145 台灣 10/10 16:10
imaxpayne: 為其他科學家也是,資料都不會經過處理
imaxpayne: 去除人為bias
shawncarter: 仇女AI311F 1.34.50.200 台灣 10/10 16:11
deer8dog9: imaxpayne 那總比把一切怪罪到政治不正312F 223.137.40.190 台灣 10/10 16:12
deer8dog9: 確好吧 我從頭到尾都是在嘴那些不願意
deer8dog9: 接受資料會影響到演算法的人好嗎 馬的
deer8dog9: 一堆理盲
dimw: 如果資料有誤就是亞馬遜自己就政治不正確了316F 61.228.36.145 台灣 10/10 16:15
dimw: 而且還是不自覺的 畢竟這家公司過去不可能
imaxpayne: 堂堂亞馬遜ai科學家被某d講成不會處理318F 1.171.103.145 台灣 10/10 16:15
dimw: 沒有注意這方面的問題319F 61.228.36.145 台灣 10/10 16:15
imaxpayne: 訓練資料才是讓我氣到發抖320F 1.171.103.145 台灣 10/10 16:15
wahdee: 死不接受Al客觀分析的結果就跳針歧視 女權321F 42.200.159.237 香港 10/10 16:17
wahdee: 不意外
joker7788996: Ai太接近人類了323F 39.9.165.97 台灣 10/10 16:17
winken2004: ai會給長得漂亮的人高分嗎XD324F 218.161.71.119 台灣 10/10 16:18
deer8dog9: 我前面就講了 那些咖水準就跟喜憨島的325F 223.137.40.190 台灣 10/10 16:18
deer8dog9: 吸獨仔沒什麼兩樣 立場凌駕於知識 就算
deer8dog9: 不知道葉克膜怎麼運作,幫助中國人就是
deer8dog9: 罪該萬死;就算不知道訓練資料可能會影
deer8dog9: 響到ai,能嘴政治正確就是雙爽 一堆廢
deer8dog9: 物理盲 還在那邊腦補我是女權人士 這到
deer8dog9: 底幹女權屁事
tcancer: 連無機物都認證了332F 118.163.215.121 台灣 10/10 16:20
imaxpayne: 某D息怒,八卦就是這樣,你我真的要認333F 1.171.103.145 台灣 10/10 16:21
imaxpayne: 真討論ai不會在八卦版
deer8dog9: imaxpayne 我可沒批評亞馬遜好嗎 我批335F 223.137.40.190 台灣 10/10 16:21
deer8dog9: 判的是那些留智障發言的理盲
teren: 仔細看一下 不就這AI學以前人的判定337F 220.141.29.27 台灣 10/10 16:22
teren: 以前的人就是有歧視
BrownRhined: 招聘 程序 招募 流程339F 59.127.193.80 台灣 10/10 16:25
wiston1419: Training data有偏誤train出來當然有340F 110.50.150.52 台灣 10/10 16:36
wiston1419: 偏誤啊
Zoro80298: 女性能力沒有比較差 但是懷孕結婚生理342F 223.139.14.110 台灣 10/10 16:42
Zoro80298: 問題 穩定性無法改善
imaxpayne: 又來,又一個訓練資料偏誤,媽的台灣ai344F 1.171.103.145 台灣 10/10 16:42
imaxpayne: 人水準堪慮
litre: 從以前基測就看的出來了,同樣學校為求男346F 61.230.138.102 台灣 10/10 16:51
litre: 女各半,男生pr硬是比女生高一點,就說明
litre: 事實了
herbert0620: 越來越像人類了XD349F 114.136.142.187 台灣 10/10 16:52
as80110680: 如果只因為「性別」這項參數影響結果350F 111.249.178.145 台灣 10/10 16:54
as80110680: 那根本沒必要小題大作解散團隊
x0003: 樓下是AI的ptt帳號,正在逛八卦版學習人性352F 114.136.28.148 台灣 10/10 16:55
justiceyes: XDDDD353F 118.167.132.96 台灣 10/10 16:58
SE4NLN415: AI認證XD354F 98.148.216.219 美國 10/10 16:58
AngelMAyCry: 應該是合理數據分析出來的結果355F 61.231.83.129 台灣 10/10 17:02
bomda 
bomda: 笑死 人一腦殘 做事都低能356F 114.26.90.232 台灣 10/10 17:03
JHEWEI: 再出一隻ai專門吃女權資料就抗衡了357F 150.117.35.131 台灣 10/10 17:05
logus: 解散團隊的原因很簡單啊 因為這個結果是ai358F 111.252.137.126 台灣 10/10 17:05
logus: 團隊束手無策的 ai團隊就是用來做ai的又不
logus: 是拿來解決社會現象的
logus: 重點是蒐集來的數據本身帶有那些傾向 無解
jily: 餵給ai的數據就是這樣啊..362F 36.225.49.213 台灣 10/10 17:13
PhySeraph: 這AI很人類363F 175.97.2.18 台灣 10/10 17:14
teise: 邏輯正確VS政治正確364F 118.160.130.44 台灣 10/10 17:15
tostcamp: 花了10年,才發現自家AI的偏差思想365F 101.137.206.103 台灣 10/10 17:16
tostcamp: 也不想想人生是有幾年?
tending: 選奶大的367F 223.137.33.219 台灣 10/10 17:18
DevilEnvy: 殺豬ai368F 223.140.16.175 台灣 10/10 17:24
KaryuuIssen: 把性別參數拿掉就好了阿  話說履歷369F 140.112.30.51 台灣 10/10 17:32
KaryuuIssen: 本身資訊就不正確了  AI是能分析出啥
yz5006: AI最後還是為了女性被滅掉了,所以還是女371F 223.141.17.182 台灣 10/10 17:35
deugene05: ai吃的數據有性別嗎372F 42.73.108.1 台灣 10/10 17:35
demonOoO: 不能說的秘密:人類歷史的改變確實男性多373F 111.251.72.89 台灣 10/10 17:36
demonOoO: 女性站上歷史舞台本來大多在近百年而已
demonOoO: 過去千年來女性在歷史的危害 東西方一致
demonOoO: 而科技(硬體)、藝術(軟性)男性確實改變
demonOoO: 這沒什磨好爭的 AI的數據庫一定有此資料
ETTom: 垃圾進垃圾出 你給他的資料是跟人類學的378F 111.246.152.167 台灣 10/10 17:50
ETTom: 自然出來就是模仿人類的判斷
I95D: 連AI都忍不住......380F 180.217.139.99 台灣 10/10 17:54
iansrc: AI訓練資料都人類餵的啊 一堆87推文381F 150.116.241.117 台灣 10/10 17:56
appleball200: XD382F 101.15.69.18 台灣 10/10 17:59
a1119151: 抓到了,電腦有歧視383F 60.249.249.252 台灣 10/10 18:19
ldeathkiller: 好啦 那位某dog我只是想當個鄉民講384F 42.72.91.117 台灣 10/10 18:33
ldeathkiller: 幹話 不過你那句實話你媽我就不爽了
ldeathkiller:  我自己也做過深度學習 資料前處理
ldeathkiller:  模型建立 訓練資料等我也是略懂 這
ldeathkiller: 很顯然是資料選取有問題所造成的偏
ldeathkiller: 差 不是你懂就要氣成這樣
THEWORLDS: 女的真的不適合來資訊業..破腦又愛情緒390F 218.161.79.215 台灣 10/10 18:44
shomin5566: 還不都是從人類的劣根性學來的391F 223.136.22.60 台灣 10/10 18:50
wirecut: 囧…騙大家不會寫程式嗎………392F 39.12.163.232 台灣 10/10 19:04
stw0975: 抓了393F 114.40.182.118 台灣 10/10 19:08
ryankkk: 中肯阿394F 106.105.28.127 台灣 10/10 19:09
acecup: 給錯誤資料訓練出錯誤判斷,正常反應395F 61.62.95.133 台灣 10/10 19:10
ohmylove347: 把性別這項資料拿掉不就好了…396F 101.10.21.198 台灣 10/10 19:10
jerrylin: 我們以後改面試  只選正妹397F 125.230.97.78 台灣 10/10 19:15
tony70017: 去當老闆就知道 女的鳥毛一堆 動不動就398F 114.47.122.159 台灣 10/10 19:19
tony70017: 請一堆假 簡單來講對女性工作只是要個
tony70017: 頭銜 賺的錢也是拿來化妝和出國去玩
USD5566: AI也知道母豬誤國的道理401F 180.204.149.105 台灣 10/10 19:22
bightv19018: 現實上女人很多問題,應該要把生殖功402F 115.82.35.221 台灣 10/10 19:30
bightv19018: 能評估加入,年輕女性加權,超過生殖
bightv19018: 年齡老女人扣分
fragmentwing: 就不要在履歷上打出性別和性別資訊405F 223.139.241.70 台灣 10/10 19:30
fragmentwing: 啊
sai2100sai: 哇 現在AI已經發展成這樣了喔407F 1.169.226.40 台灣 10/10 19:48
cloud0829 
cloud0829: 沉默於ptt的ai408F 123.192.84.83 台灣 10/10 19:51
cloud0829: 沉迷於ptt的ai
h07880201: 事實上 現在理組就是男大於女 女生要加410F 180.217.206.129 台灣 10/10 19:54
h07880201: 權才是歧視吧 ai就事實分析才是公正
h07880201: 幾個強女人不能概括其他能力低弱的女人
a8662875: 女權真棒,但也不是全部女生都很差413F 223.139.202.234 台灣 10/10 19:58
pilipilix: Ai 是學人的,所以不用Ai還是歧視啊414F 27.247.102.247 台灣 10/10 20:25
ssccg: 一開始輸入值不要有性別不就好了..415F 118.150.32.135 台灣 10/10 20:25
allinchaos: 大家自己在職場上的觀察不用多說了吧416F 119.14.57.26 台灣 10/10 20:26
ssccg: 輸入一個不可以當條件的參數是在做什麼..417F 118.150.32.135 台灣 10/10 20:26
kusami: 廢話 以前data都是男性 你全部丟進去這418F 36.226.123.111 台灣 10/10 20:32
kusami: 汙染大了
kusami: 是團隊把性別當參數才是XX吧
jennya: 一堆性別歧視又不懂機器學習的男廢物在推421F 219.70.168.217 台灣 10/10 20:34
jennya: 文不懂裝懂,還在說什麼「AI就是理性 誠實
jennya: 」,天啊,慘不忍睹的推文
kusami: Garbage in     Garbage out424F 36.226.123.111 台灣 10/10 20:34
bbc0217: 確定這不是事實嗎425F 61.223.122.204 台灣 10/10 21:01
RLH: 事實應該是AI就履歷給的是中立的評分 但女性426F 118.167.6.235 台灣 10/10 21:06
RLH: 就是不如男性 廢掉AI本身才是真正的歧視
ohsho62: 連沒有主觀意識的AI都在告訴你真理428F 61.227.252.11 台灣 10/10 21:55
x81236900: 你為什麼資料給ai 他就長什麼樣子給你429F 114.27.168.159 台灣 10/10 22:09
x81236900:    餵
tsming: 太誠實了XDDD431F 49.217.149.44 台灣 10/10 23:45
ron0803: 這ai是丟資料訓練的,不是人設計的...432F 123.193.115.98 台灣 10/10 23:49
ritatin: 依據資料真實反應而已433F 220.136.111.141 台灣 10/11 00:08

--
※ 看板: Gossiping 文章推薦值: 1 目前人氣: 0 累積人氣: 1388 
※ 本文也出現在看板: K_hot
( ̄︶ ̄)b a0987789369 說讚!
1樓 時間: 2018-10-10 14:43:44 (台灣)
  10-10 14:43 TW
程式是八掛仇女肥宅寫的
2樓 時間: 2018-10-10 14:46:11 (台灣)
+1 10-10 14:46 TW
問題不是在 AI,而是餵了什麼資料給 AI
3樓 時間: 2018-10-10 14:49:32 (台灣)
  10-10 14:49 TW
明明就是歧視,說那麼好聽,跟國民黨很像
4樓 時間: 2018-10-10 21:41:30 (台灣)
  10-10 21:41 TW
也就是餵給AI的程式資料中添加過多人為主觀的歧視
r)回覆 e)編輯 d)刪除 M)不收藏 ^x)轉錄 同主題: =)首篇 [)上篇 ])下篇