什么是循環(huán)？本書提到三個(gè)循環(huán)：第一個(gè)循環(huán)也是最核心的循環(huán)，即世代沿襲的人類本能。人類天生具有偏見(jiàn)，而且更傾向于使用大腦的系統(tǒng)行事，在這個(gè)過(guò)程中，人類原有的偏見(jiàn)進(jìn)一步被強(qiáng)化，形成第一個(gè)循環(huán)。第二個(gè)循環(huán)是來(lái)自現(xiàn)代的力量，如消費(fèi)類技術(shù)、資本主義、營(yíng)銷和政治，它們對(duì)核心循環(huán)的人類行為進(jìn)行采樣，總結(jié)出模式，再將這些模式反作用于人類，最終引發(fā)了一系列問(wèn)題。第三個(gè)循環(huán)，即本書書名所指的循環(huán)，是來(lái)自人工智能的影響。AI對(duì)人類偏見(jiàn)進(jìn)行采樣，總結(jié)出規(guī)律，最后把這些規(guī)律反作用于人類，形成第三個(gè)循環(huán)。
人工智能將改變我們所知的世界。但真正的危險(xiǎn)不是某個(gè)機(jī)器人會(huì)奴役我們，而是我們自己的大腦。我們的大腦經(jīng)常使用捷徑、偏見(jiàn)和隱藏的過(guò)程來(lái)做決定——我們正在使用同樣的方法來(lái)創(chuàng)造技術(shù)，為我們做出選擇。作者雅各布·沃德認(rèn)為，人工智能對(duì)人類最大的威脅不在于機(jī)器人的反撲，我們的大腦才是最需要堤防的因子。在決策時(shí)，大腦會(huì)受到偏見(jiàn)、情緒等因素影響。而當(dāng)我們?cè)谶x擇要喂養(yǎng)哪些信息給智能產(chǎn)品時(shí)，往往也會(huì)把這些盲點(diǎn)和謬誤一并復(fù)制進(jìn)去。
人類的思維本來(lái)就有認(rèn)知偏誤，行為也受各種無(wú)形的外力牽引。而在當(dāng)今模式識(shí)別科技與引導(dǎo)式?jīng)Q策的相互作用之下，智能產(chǎn)品幫我們寫好了一切行為的劇本，人類選擇因此受到限縮。沃德提醒，如此一來(lái)，不僅不公不義的現(xiàn)象更加嚴(yán)重，人類創(chuàng)新的本能和思考的能力亦將大幅退化——這才是我們?cè)诿鎸?duì)智慧科技時(shí)真正應(yīng)該擔(dān)心的事情。
>>內(nèi)文選讀
這個(gè)星球上，我們占據(jù)的空間已經(jīng)遠(yuǎn)遠(yuǎn)超出了自然的范疇。而現(xiàn)在，我們?yōu)榱诵屎屠麧?rùn)，在重新設(shè)定地球、人類的模式。我們放松了對(duì)甲板上的系統(tǒng)的控制，這將會(huì)從根本上改變船上每個(gè)人的行為，這些改變將會(huì)傳給后代子孫，而他們甚至可能還沒(méi)有意識(shí)到自己做了什么。這種模式將會(huì)自我重復(fù)，并且一代又一代在行為和技術(shù)循環(huán)中持續(xù)下去。這就是本書的主題。
我為本書起名《循環(huán)》，但實(shí)際上，我想要闡述的循環(huán)有三個(gè)。讓我們想象一下，一個(gè)小循環(huán)嵌套在第二個(gè)循環(huán)中，第二個(gè)循環(huán)嵌套在第三個(gè)循環(huán)中。如果想要清楚地看到每個(gè)循環(huán)，還需要檢視其他循環(huán)。我將從最小的循環(huán)開(kāi)始，它是我們做的一切事情的核心，它已經(jīng)旋轉(zhuǎn)了數(shù)萬(wàn)年，甚至數(shù)百萬(wàn)年。
最核心的循環(huán)是我們所沿襲下來(lái)的人類的行為，是進(jìn)化賦予我們的天生的好惡傾向和依靠慣性生活的能力。這個(gè)循環(huán)無(wú)所不含，包括我們的種族偏見(jiàn)、準(zhǔn)確判斷風(fēng)險(xiǎn)能力的缺失，等等。這是本書的第一部分，因?yàn)橐斫馄渌h(huán)，還需要懂得它們是如何依賴于這個(gè)循環(huán)的。
一旦我們理解了這一點(diǎn)，我們就可以看看第二個(gè)循環(huán)。第二個(gè)循環(huán)是來(lái)自現(xiàn)代的力量，如消費(fèi)類技術(shù)、資本主義、營(yíng)銷和政治，它們對(duì)核心循環(huán)的人類行為進(jìn)行采樣，然后再將這些模式反過(guò)來(lái)用在我們身上，最終引發(fā)了一系列問(wèn)題，如煙癮、賭癮，以及房地產(chǎn)和機(jī)器學(xué)習(xí)領(lǐng)域的系統(tǒng)性種族主義等。
最外層的循環(huán)就是本書書名所指的循環(huán)。計(jì)算機(jī)會(huì)對(duì)古今人類的好惡傾向進(jìn)行研究、采樣，并將其輸入自動(dòng)模式識(shí)別系統(tǒng)，然后據(jù)此以一種細(xì)水長(zhǎng)流的形式，將內(nèi)容推送給我們，讓我們更習(xí)慣于不假思索地接受。我為即將到來(lái)的這一切感到憂心忡忡。這個(gè)循環(huán)扼殺了我們的音樂(lè)審美，取而代之的是Spotify根據(jù)我們上周的歌單給出的推薦。這個(gè)循環(huán)對(duì)我們的政治傾向、社交喜好進(jìn)行采樣，在Facebook上將我們與合拍的人放在一起，這樣我們就會(huì)形成強(qiáng)大的群體身份認(rèn)同，并全身心融入群體中，以至于對(duì)群體以外的人毫無(wú)興趣。這個(gè)循環(huán)會(huì)篩選所有可用的求職者，標(biāo)記出具備本領(lǐng)域佼佼者特征的人，那么你作為招聘人員，可能一兩天就能完成招聘，無(wú)須耗費(fèi)幾周時(shí)間，甚至你可以足不出戶。在這個(gè)循環(huán)中，人們擁有的選擇急劇減少，資本主義對(duì)效率的追求又加劇了這一趨勢(shì)，那些讓我們無(wú)意識(shí)接受信息的系統(tǒng)設(shè)定令人無(wú)法抗拒，人類主觀能動(dòng)性因此備受威脅。
這其實(shí)已經(jīng)發(fā)生了，但真正的威脅還要隨著時(shí)間的推移而顯現(xiàn)。而最大、最持久的影響至少需要一代人的時(shí)間才會(huì)顯露。不如這樣想：我們被無(wú)意識(shí)的傾向引導(dǎo)著，但幾乎不會(huì)覺(jué)察到這種傾向遭到了分析和利用。而以此為基礎(chǔ)的模式識(shí)別和決策指導(dǎo)技術(shù)則讓我們措手不及。在當(dāng)前的社會(huì)中，我們的政策和規(guī)劃缺乏長(zhǎng)期的敏銳度，無(wú)法識(shí)別和控制那些決定著人類未來(lái)的事情。這就是本書的主題。
我希望在本書中闡明，我們所開(kāi)發(fā)的那些會(huì)改變后代人類行為的技術(shù)，將給我們帶來(lái)什么挑戰(zhàn)。當(dāng)今時(shí)代，依靠這些技術(shù)，我們的行為可能會(huì)變得更有效率、回報(bào)更高、更可控。我們可能會(huì)立即獲得經(jīng)濟(jì)利益，或許在短時(shí)間內(nèi)，我們可以免于做一些困難重重，或是令人生厭的工作。對(duì)于我在這里描述的每一個(gè)危險(xiǎn)的例子，都有其復(fù)雜的益處。但是，我們能否用達(dá)爾文的眼光展望未來(lái)，看看是否存在這種可能：一代又一代人的選擇越來(lái)越少，而且情況一路惡化？我們能否以某種方式預(yù)測(cè)它，并采取行動(dòng)糾正它，即使這樣做的回報(bào)要在我們自己，以及孩子們都已經(jīng)離世之后才能顯現(xiàn)出來(lái)？如果我們做不到這一點(diǎn)，我擔(dān)心在一兩代人的時(shí)間里，我們將演變成一個(gè)完全不同的物種，對(duì)于那些代替人類決策的技術(shù)，就算做出了錯(cuò)誤選擇，我們也無(wú)法凝神反抗，只能順從無(wú)助地接受。
但我認(rèn)為我們可以對(duì)抗這個(gè)循環(huán)。我們只需后退一步，勾勒出循環(huán)的輪廓，識(shí)別出存在于我們所有人身上的使循環(huán)成為可能的古老特性，再找到如今循環(huán)侵入我們生活的路徑，然后消除它對(duì)我們未來(lái)的影響。