Categories
程式開發

AI介入招聘:消除性別、年齡等歧視


AI 技術不僅可以用於面試,還可以將招聘廣告推薦給可能的候選人,並預測意向人是否會從原公司離職。復工在即,免不了有些程序員希望尋找新的工作機會。然而,在招聘中,性別、年齡、學歷甚至地域都可能成為被歧視的因素。於是,國外一群研究學者開始研究如何通過人工智能技術來替求職者自動匹配最佳崗位,以淡化人在這個過程中起到的作用。

AI“面試”求職者

根據領英的調查數據顯示,過去一年已經有67% 的招聘人員通過使用人工智能技術節省了大量時間,但也有批評者認為,這樣的系統會帶來偏差,缺乏問責制和透明度,並且不能保證其準確性。以國外一家名為 HireVue 的公司為例,該公司對外出售求職面試視頻平台,該平台可以使用人工智能係統來評估候選人,並且聲稱可以預測求職者獲得某職位的可能性。該公司表示,它會聘用心理學家以及專業人士來幫助開發定制評估算法,以反映雇主希望僱用的某類角色(例如銷售代表或計算機工程師)的理想特徵。

然後,該算法將分析候選人在視頻採訪中對問題的回答,對他們的言語反應以及某些情況下的面部動作進行評分。 HireVue 聲稱該工具已經被希爾頓、聯合利華在內的大約 100 家公司使用了,比進行相同面試的招聘經理更能準確預測工作績效。

AI介入招聘:消除性別、年齡等歧視 1

但是,目前該系統被一家非營利性組織投訴,聲稱其存在欺騙性交易行為,目前尚未給出決斷。據彭博社報導,負責就業歧視的聯邦機構平等機會就業委員會(EEOC)目前正在調查至少兩個涉及算法決定工作的案件。

AI 在面試之外的應用

其實,這類技術不僅應用在面試一個環節,整個招聘過程都可以利用這項技術,從招聘廣告投放、預測潛在候選人到與意向者聯繫,整個環節都可以通過技術進行把控。目前,已經有公司開始使用人工智能技術對候選人進行排名,這類工具非常流行。部分求職平台開始將職位和潛在人選之間的特徵進行匹配,以幫助求職者尋找滿意的工作。

此外,已有公司表示可以通過收集到的候選人數據、過往職位和從事行業來預測員工是否可能離開原來的工作崗位,從而接受新的職位。

AI介入招聘:消除性別、年齡等歧視 2

此外,AI 可以快速篩選簡歷,谷歌對招聘人員與 Hire 的互動進行了研究,並註意到招聘人員使用“Ctrl+F”功能搜索某些技能。通過人工智能,Hire 可以獨立掃描搜索字段或職位描述中的術語,並在簡歷上突出顯示它們,以及同義詞和縮略詞,也有公司通過創​​建聊天機器人與求職者進行簡單的對話溝通,從而消除招聘經理打電話的時間,或者通過出示簡單的遊戲判斷求職者的性格。

AI 就足夠公平嗎?

支持者認為,人工智能係統速度更快,可以處理招聘人員無法快速計算的信息,這些工具可幫助人力資源部門在大量應聘者中更快地審核,並最終降低招聘成本。與過度勞累的招聘人員瀏覽數百份簡歷和求職信相比,系統可能更公平,更徹底。

此類工具可以自動識別以前成功錄用的申請材料中的特徵,並在新申請人提交的材料中尋找該特徵的跡象,一些系統可以在每個應用程序中考慮16 至25 個因素,並可以計算出以“毫秒”為單位的通勤距離之類的東西。

這些系統的運作規模通常大於招募人員的規模。例如,HireVue 聲稱其視頻平台中使用的人工智能評估了“ 成千上萬的因素”。即使公司使用的相同的基於 AI 的招聘工具,他們也可能會使用針對自己招聘偏好進行優化過的系統。另外,如果不斷對新數據進行訓練,則算法可能會發生變化。

這些招聘工具的支持者還聲稱,人工智能可用於避免人為偏見,例如對某所大學畢業生的無意識偏愛,對婦女或少數民族的偏見。他們認為 AI 可以幫助剔除(或抽象化)與候選人身份有關的信息,例如其姓名、年齡、性別或學校,並更公平地考慮申請人。

關於AI 可能至少比偏見的人類做得更好的想法在今年早些時候啟發了加利福尼亞州立法者,提出了一項法案,敦促政策制定者探索使用新技術,包括“人工智能和基於算法的技術”、“減少招聘中的偏見和歧視。”

誰來負責訓練這些 AI 工具?

事實上,這些AI 系統做出的判斷是否公平與其接受訓練的數據息息相關,如果只是將公司內部過往僱用人員的簡歷拿來訓練系統,那結果往往也繼承了做出這些選擇的招聘經理的有意識和無意識的偏好,這種方法可以幫助找到出色的候選人,但並不能表示公平。

此前,路透社就曾報導過亞馬遜制定了一種招聘算法,在某些職位上無意偏向於男性申請人而不是女性,該系統接受了提交給該公司的十年簡歷數據的培訓,而這些簡歷大多來自男性。隨後,亞馬遜的發言人表示,該系統從未使用過,被廢棄的原因有很多,其中包括算法是原始的,並且這些模型隨機返回了不合格的候選人。

反對者表示,沒有定期、廣泛的審核,就無法使用這些系統進行招聘。這是因為,即使明確指示機器學習工具不要歧視女性,它也可能也會無意間學會歧視其他指向性因素,比如從女子大學畢業。

而且,如果在 Facebook 之類的在線平台上發布廣告,由於該平台算法產生的偏見,很多人甚至可能看不到任何職位。

批評家們對這些工具是否能如其所說表示懷疑,尤其是當他們對候選人的心理活動、情感和職位適合性提出廣泛要求時。斯坦福大學組織行為學教授Adina Sterling 指出,如果設計不周密,算法可能會將其偏好推向單一類型的候選人,這樣的系統可能會錯過非常規的申請者,比如一位演員未來有可能可以勝任銷售崗位,並且非常出色。

算法有利於規模經濟,但不利於細微差別。

誰來監管這些工具?

一位就業方向的律師 Mark Girouard 表示,人工智能和算法選擇系統屬於《僱員甄選程序統一準則》,該準則由聯邦機構於 1978 年制定,旨在指導公司的甄選標準和僱傭評估。這些AI 工具中有許多都說遵循五分之四的規則,但是專家指出,該規則只是一項測試,Rieke 強調通過測試並不意味著這些AI 工具會按照要求行事,只要是隨機選擇候選人的系統幾乎都可以通過測試。

在針對 HireVue 的案件中,EPIC 認為該公司未達到既定的 AI 透明性準則,HireVue 方面則表示,遵循統一準則和其他專業組織設定的準則。該公司還表示,其係統接受了多種數據集的培訓,其工具已幫助其客戶增加了員工的多樣性。

招聘是一個非常社會化的過程,現在看來想要通過 AI 技術完全掌握還需要走很長一段路。