美國印第安納州在三年內(nèi)拒絕了一百萬民眾的醫(yī)保、食品券和現(xiàn)金福利補(bǔ)助申請(qǐng)——僅僅因?yàn)樾略囉玫挠?jì)算機(jī)資格認(rèn)證系統(tǒng)將申請(qǐng)流程中出現(xiàn)的所有問題統(tǒng)統(tǒng)歸為申請(qǐng)者“未予配合”。在洛杉磯，當(dāng)?shù)卣�府引入�?jì)算幾十萬無家可歸者“弱勢指數(shù)”的算法，以在住房資源有限的情況下，對(duì)需要救助的對(duì)象進(jìn)行優(yōu)先性排列。匹茲堡的一個(gè)兒童福利機(jī)構(gòu)運(yùn)用統(tǒng)計(jì)模型來預(yù)測哪些孩童可能會(huì)在日后受到虐待或忽視。這些聽上去能高效快速解決社會(huì)問題、救助窮人的算法，經(jīng)過紐約州立大學(xué)奧爾巴尼分校政治學(xué)副教授弗吉尼亞·尤班克斯在《自動(dòng)不平等》一書的深入分析，卻呈現(xiàn)出不同的樣貌——事實(shí)上，它們?yōu)槿�美貧困和工人階層家庭帶來了巨大的風(fēng)險(xiǎn)。
　　標(biāo)榜高效的自動(dòng)化系統(tǒng)，并未實(shí)質(zhì)上改善貧困家庭的處境，恰恰相反，嵌入偏見的高科技工具使政府在做出和民眾生活息息相關(guān)的決定時(shí)，“名正言順”地?cái)[脫了道德障礙。令人更加后怕的是，尤班克斯在本書中揭露了伴隨數(shù)據(jù)分析、統(tǒng)計(jì)模型與算法的監(jiān)管網(wǎng)絡(luò)，邊緣人群正面臨著更加嚴(yán)格的數(shù)字追蹤、監(jiān)控甚至懲罰，牢牢困在這張網(wǎng)中。
　　三個(gè)故事：“數(shù)字濟(jì)貧院”中的生活
　　弗吉尼亞·尤班克斯在《自動(dòng)不平等》中，以三個(gè)深入調(diào)查訪問的案例分析，系統(tǒng)地研究了數(shù)據(jù)挖掘、政策算法和預(yù)測風(fēng)險(xiǎn)模型對(duì)美國貧困和工人階層的影響。
　　“濟(jì)貧院”這個(gè)比喻源于19世紀(jì)美國政府為減輕緩解貧困問題而建造的實(shí)體濟(jì)貧院。尤班克斯認(rèn)為“現(xiàn)在我們正在建設(shè)一所數(shù)字濟(jì)貧院”，一所無形的“鎖定窮人、管制窮人甚至懲罰窮人”的機(jī)構(gòu)，一旦他們求助政府獲取公共援助或者尋求其他公共服務(wù)，就會(huì)被這所看似中立的數(shù)字濟(jì)貧院“瞄準(zhǔn)”。
　　印第安納州試行的福利資格自動(dòng)認(rèn)證系統(tǒng)推行福利資格自動(dòng)化運(yùn)營制度，脆弱不堪的規(guī)則和設(shè)計(jì)不當(dāng)?shù)牟僮髦笜?biāo)意味著一旦發(fā)生錯(cuò)誤，往往會(huì)被解釋成是申請(qǐng)人而不是州政府或承包商的錯(cuò)誤。自動(dòng)決策工具永不出錯(cuò)，這種假設(shè)意味著計(jì)算機(jī)化的決策優(yōu)于旨在為申請(qǐng)人提供程序公正的人工程序。成百萬人的福利申請(qǐng)?jiān)獾搅司芙^。這其中包括出生時(shí)就是腦癱兒、醫(yī)療費(fèi)用寄希望于政府的小蘇菲。因?yàn)楫?dāng)?shù)丶彝ヅc社會(huì)服務(wù)管理局社工的失誤，蘇菲家被徑直歸為“未能配合”政府工作，而被拒絕給予福利的申請(qǐng)。貧困人士成了“天然的福利欺詐者”。
　　洛杉磯為無家可歸者提供服務(wù)的機(jī)構(gòu)希望高效地利用資源，更加有效地與各方合作，但是將選取受助對(duì)象的工作外包了出去。根據(jù)其設(shè)計(jì)者的說法，該市的協(xié)調(diào)入住系統(tǒng)旨在將最亟需幫助的群體與最合適的資源相匹配。然而，大批無家可歸者的個(gè)人信息被錄入無家可歸者管理信息系統(tǒng)．生成了所謂的“弱勢指數(shù)”。次貸危機(jī)中失去一切的加里·伯特萊特大叔流落街頭，因?yàn)椤叭鮿葜笖?shù)”不夠高，他只能在無盡等待中消磨掉自。己的希望。包括他在內(nèi)的無數(shù)無家可歸者的信息也成了執(zhí)法部門可以隨意獲取的數(shù)據(jù)。他們被當(dāng)成了“天然的罪犯”。
　　阿勒格尼縣的家庭篩查系統(tǒng)根據(jù)一個(gè)人以往的行為模式來推測他將來可能采取的行動(dòng)。在新的預(yù)測方式下，你不僅會(huì)受到自己行為的影響，還會(huì)受到戀人、室友、親戚和鄰居行為的影響。預(yù)測模型和算法將窮人標(biāo)記為“風(fēng)險(xiǎn)”和“問題父母”。大量社會(huì)服務(wù)、執(zhí)法活動(dòng)和社區(qū)監(jiān)督結(jié)合在一起，使他們的一舉一動(dòng)變得清晰可見，貧困成了“天然的風(fēng)險(xiǎn)指標(biāo)”。