蓋茨想讓機(jī)器人交稅，還有公司談起它們的言論自由，這只是想多了么？

“工人工作要繳所得稅、繳社保。機(jī)器人也做同樣的工作，也應(yīng)該同樣收稅。寧愿增加稅收，也要降低自動化的速度?！?/p>

不久前，比爾·蓋茨在一次媒體采訪中說道。

蓋茨說的不是瘋話。如果不糾結(jié)像人一樣走路、說話，機(jī)器人搶走的工作已經(jīng)不少。

以機(jī)器人普及的汽車制造業(yè)來說，1955 年通用汽車雇了 57.6 萬人造車?，F(xiàn)在，通用汽車產(chǎn)量翻了一倍不止，雇員少了一半，而且當(dāng)中只有 5 萬在工廠工作。

因?yàn)榫蜆I(yè)反對生產(chǎn)力是一個跨越兩百年的運(yùn)動。1811 年，英國諾丁漢的織布工人就用大錘砸爛過織布機(jī)。

正在砸紡織機(jī)的盧德分子

但之后兩個世紀(jì)，新技術(shù)和機(jī)器替代了人類的工作這件事已經(jīng)變得平常。

30 年前，個人電腦、智能手機(jī)成了新一批提高人類效率的機(jī)器。比爾·蓋茨也是其中重要的推動者之一。

這個話題又被提起來，無非是最近幾年，機(jī)器人從能力上越來越像，甚至超越了人。

在 Siri 之后，微軟的 Cortana、微軟小冰等等已經(jīng)可以處理簡單任務(wù)，聊天對答越來越像樣。

假裝成人類棋手的人工智能，把中國最優(yōu)秀的圍棋手全都打敗了。

至今，科學(xué)家還弄不清楚人腦到底怎么運(yùn)作。什么是思維和記憶，意識是怎么產(chǎn)生的還處于假設(shè)。所以要制造出來跟人完全一樣的人工智能還是一個遙遠(yuǎn)的設(shè)想。

但在代碼和硬件表面看來，機(jī)器人是越來越像人了。它們也在做越來越多之前由人來做的事。

Uber 宣布研發(fā)自動駕駛汽車的時候，它的 CEO 直接說司機(jī)是自己最大的成本，如果全部換成人工智能開車，服務(wù)可以更便宜。而《華盛頓郵報(bào)》已經(jīng)用人工智能寫了數(shù)百篇體育新聞。

蓋茨提到的工作問題已經(jīng)顯而易見。

具體應(yīng)該怎么做，卻還沒有定論。

但即使還沒有答案，這個問題仍需要被關(guān)注和討論。于是我們摘抄了各種不同的觀點(diǎn)。機(jī)器人應(yīng)不應(yīng)該被收稅或者限制？人類工作未來會是如何？或許以下的卡片能給你帶來一些靈感。

機(jī)器人取代人討論了幾十年，但真正發(fā)生的時候這不會是一件輕松的事

喬治梅森大學(xué)的經(jīng)濟(jì)學(xué)教授泰勒·科文（Tyler Cowen）在最近一篇專欄文章里談到，“機(jī)器人取代人的工作”這件事已經(jīng)討論了幾十年，但最新的一波技術(shù)發(fā)展，可能會帶來比以往更大的社會問題，光是渡過技術(shù)發(fā)展的“過渡期”就足夠難的。

“這次為什么會不同？”當(dāng)談到機(jī)器人和自動化會取代未來的工作，這是最常聽到的回應(yīng)。這是因?yàn)槲鞣绞澜邕^去成功地把農(nóng)業(yè)用工轉(zhuǎn)入了工業(yè)用工，并且持續(xù)看到經(jīng)濟(jì)增長。

所以這次也一樣嗎，自動化和人工智能取代人類的工作之后，不也會帶來新的工作機(jī)會，惠及人們？那些被自動駕駛汽車取代了工作的卡車司機(jī)，不也能找到一份照顧老人的工作，或者給交通業(yè)做維修工作，創(chuàng)造新的工作模式嗎？

工業(yè)革命里的紡織機(jī)工人

經(jīng)濟(jì)上來說沒錯。但歷史上來說，這種觀點(diǎn)還缺了一個重要部分。雖然從農(nóng)業(yè)工作中轉(zhuǎn)成工業(yè)，最終對人類整體來說是種好事，但它也帶來過嚴(yán)重的問題……

工業(yè)革命期間的薪水變化史，就已經(jīng)足夠讓人擔(dān)心。盡管統(tǒng)計(jì)的時間不一，工業(yè)革命開始時間一般被認(rèn)為是 1760 年左右，至少在英國是這樣。從 1760 年到 1831 間，英國的人均消費(fèi)這個數(shù)字只增長了 22%。對于一個長達(dá) 71 年的時間段來說，這增長速度一點(diǎn)都不快。雖然在這 70 年間，有很多的新財(cái)富被創(chuàng)造出來，但由于經(jīng)濟(jì)變化帶來的騷動，（農(nóng)業(yè)轉(zhuǎn)工業(yè)）調(diào)整帶來的成本，還有戰(zhàn)爭，工人回報(bào)變得很低。

根據(jù)加州大學(xué)的經(jīng)濟(jì)歷史學(xué)家格雷戈里·克拉克（Gregory Clark）估計(jì)，在 1770-1810 這 40 年間，英國人的薪水一直在下降。克拉克估計(jì)，在工業(yè)革命開始之后，經(jīng)歷了 60-70 年的過渡期，然后英國的工人才看到真正意義上的收入增長。

想象一下，如果讓當(dāng)代美國也經(jīng)歷類似的收入變化？那么我們中的大部分人都可能會遇上政治動亂，估計(jì)也沒有什么人會認(rèn)為這“過渡期”很成功。但我們已經(jīng)走在這條車軌上了，美國家庭收入中位數(shù)從 1999 年開始下跌，還有人認(rèn)為 1969 年男性收入的中位數(shù)比現(xiàn)在還高。更多悲觀的統(tǒng)計(jì)引發(fā)了持續(xù)的討論，從目前事實(shí)和數(shù)據(jù)的暗淡結(jié)果來看，這過渡期的代價可能比很多經(jīng)濟(jì)學(xué)家預(yù)想的還要高。

……

工作從農(nóng)業(yè)轉(zhuǎn)出，也有對經(jīng)濟(jì)政策有害的一面。美國政府每年要花掉 200 億美元補(bǔ)貼農(nóng)民，盡管所有經(jīng)濟(jì)學(xué)家都認(rèn)為這筆支出是浪費(fèi)。歐盟的情況更糟糕。盡管歐洲有一大堆問題要解決：銀行償付能力有問題、意大利和希臘的債務(wù)問題、難民問題，但它們還是花了歐盟預(yù)算的 38% 去補(bǔ)貼農(nóng)業(yè)。農(nóng)業(yè)在整體就業(yè)率中的占比很低（大概 2%），但農(nóng)民這樣的職業(yè)不會消失，更何況，農(nóng)業(yè)的就業(yè)情況從好幾百年前就已經(jīng)開始降低了。

因?yàn)樽詣踊蜋C(jī)器人而過時的工作，也在這個邏輯里。如果我們決定在未來的幾百年都去補(bǔ)貼和保護(hù)舊有的工作，那么對于長遠(yuǎn)的經(jīng)濟(jì)增行來說是一種傷害。

關(guān)于自動化，我的觀點(diǎn)依然是“開足馬力前進(jìn)”，如果我生活在 18 世紀(jì)末期，我依然會這么說。從工業(yè)革命歷史找寬慰，不能停止我對此的擔(dān)憂。

支持蓋茨的人覺得，至少機(jī)器人稅是討論政府介入的契機(jī)

《衛(wèi)報(bào)》專欄作者本·塔爾諾夫（Ben Tarnoff）則覺得蓋茨的擔(dān)心不無道理，因?yàn)闄C(jī)器人的普及可能會讓貧富差距加劇，現(xiàn)在提機(jī)器人稅還為時未晚。

機(jī)器人帶來的真正威脅，并不是令 Elon Musk 輾轉(zhuǎn)反側(cè)的走上邪路、大開殺戒，而是它們可以把經(jīng)濟(jì)差距擴(kuò)大到一種極端的程度，極端到大多數(shù)人的生活無以為繼。對機(jī)器人征稅以避免這種情況，也可能不是有效的政策工具。但這是重要討論的良好開端。大規(guī)模的自動化提出了一個嚴(yán)肅的政治問題——迫切需要一個嚴(yán)肅的政策方案。

這一次的不同點(diǎn)在于，出現(xiàn)了一種可能性：技術(shù)將變得非常精巧純熟，以至于能把人類的工作侵占殆盡。假如 ATM 不僅能給你現(xiàn)金，還能給你提供浮動利息貸款，將是怎樣的情景？盡管當(dāng)前對于人工智能的稱頌有些夸大其詞，但過去數(shù)年中，這項(xiàng)技術(shù)確實(shí)有著顯著的進(jìn)展。更大突破的問世也并非意料之外。技術(shù)不僅僅是改進(jìn)工作，更可能的是逐漸消弭工作。與其說是使更少的勞動力創(chuàng)造更多的財(cái)富成為可能，自動化更可能在創(chuàng)造更多財(cái)富時，消除勞動力的投入。

無需勞力的財(cái)富有什么問題？這取決于財(cái)富的主人是誰。在資本主義制度下，工資是工人勞動力價值的一部分。相對于流向資本家的回報(bào)，這部分一直微乎其微。過去幾十年里，它變得越來越小：工資在國民收入中的占比持續(xù)縮水，而資本的份額卻在增長。技術(shù)提高了工人的生產(chǎn)力，但利潤是在增長而非下降。1973-2011 年間，生產(chǎn)力增長了 80.4%，但實(shí)際時薪的中位數(shù)僅僅增長了 10.7%。

境遇已經(jīng)如此糟糕的情況下， 大規(guī)模自動化可能讓它雪上加霜。如果你意識到了不平等的問題，想象一下一個有錢人僅靠自己就能變得更有錢的世界吧。從勞動中解放出資本，并不僅僅意味著勞動的結(jié)束，也意味著工資的終結(jié)。失去了工資，工人也就失去了獲取財(cái)富的唯一途徑，也失去了他們唯一的生存手段。同時，他們還失去了社會權(quán)力的原始來源。只要工人們還控制著生產(chǎn)的關(guān)鍵節(jié)點(diǎn)，就能將其關(guān)停。罷工仍然是工人所擁有的最有效的武器，即便他們很少再使用它了。在完全自動化的經(jīng)濟(jì)當(dāng)中，他們不僅會失業(yè)，也會失去權(quán)力。

與此同時，機(jī)器人資本將使得精英們完全脫離社會。從私人飛機(jī)到私人島嶼，富人們已經(jīng)投入了大量時間和金錢與他人隔絕。但是，即使是最為固若金湯的奢華地堡，也與外部世界息息相關(guān)，只要資本家需要勞動力的話，大規(guī)模的自動化使切斷最后的維系成為可能。裝備有無限供應(yīng)的、無需工人的財(cái)富，精英們可以圈出與世隔絕的樂土，無需操心失業(yè)人群的死活。

如果這種情況不夠慘淡，只需要想想，大規(guī)模自動化可能帶來的后果并不只是工人的貧困，還會導(dǎo)致他們的消失。彼得·弗瑞斯（Peter Frase）在他的著作《四種未來》（Four Futures）中推測，站在關(guān)閉的天堂大門之外的這些失業(yè)人群并不會忍耐太久。畢竟，他們會不安惶恐——那將是大量潛在的危機(jī)?！叭绻罕姵蔀橥{，但已經(jīng)不再是工人階級，因而對統(tǒng)治者毫無價值，會發(fā)生什么？”弗瑞斯寫道，“一些人最終會覺得，還是擺脫掉他們更好?！彼麨檫@種未來賦予了一個相當(dāng)駭人的名字——“滅絕主義”，一個富人對窮人發(fā)動種族滅絕的世界。

這些反烏托邦聽來可能像科幻小說，但沿著目前的發(fā)展軌跡，它們看上去完完全全合理。機(jī)器人和人工智能的技術(shù)將持續(xù)發(fā)展——但若沒有實(shí)質(zhì)性的政策改變，對大多數(shù)人來說，最好的后果將是艱難度日，更糟則可能是末日的圖景。這就是為什么最近對機(jī)器人稅的討論值得重視。這為政策響應(yīng)的提出提供了契機(jī)，趁現(xiàn)在為時未晚。

反對蓋茨的人覺得，機(jī)器人稅只是資本主義還是社會主義的老調(diào)重彈

英國的亞當(dāng)·史密斯研究院的成員提姆·沃爾斯托（Tim Worstall）說，我們不需要給機(jī)器人上稅，也不需要過度擔(dān)心機(jī)器人帶來的極端貧富差距，因?yàn)檫@就跟資本主義和社會主義的爭論一樣，競爭會解決很多問題。

不，我們不需要（機(jī)器人稅）。我們需要做的就是明白資本主義是怎樣被競爭所調(diào)和的。這里真的需要爭論的，是資本主義和社會主義的老問題，機(jī)器人稅說白了是一種掩蓋。

那些社會主義者的基本論點(diǎn)是，工人應(yīng)該擁有機(jī)器，能從機(jī)器里獲得收入。

這樣的爭論之前也有，現(xiàn)在只是換了一個偽裝。我們也知道為什么我們不需要機(jī)器人稅，因?yàn)橛懈偁幈旧怼?/p>

這些（機(jī)器人稅）的政策推薦者有一個問題，他們不理解自己的這些預(yù)言不會成真。不僅是理論層面，還是現(xiàn)實(shí)都如此。

所以，現(xiàn)在大家的分析是，機(jī)器人來了，我們的生產(chǎn)力將會大大提高。假設(shè)在所有工作崗位上，它們都比人的大腦處理得更好，它們?nèi)〈巳祟愃械墓ぷ?。那些擁有機(jī)器的人，所謂資本主義的“走狗”，最后就會獲得了所有的錢，以及所有的生產(chǎn)物資。我們，這些被機(jī)器奪走工作的人，就會沒有收入，會在街頭餓死，而富人們會在自己筑了高墻的城堡上俯視我們。

這不可能真的發(fā)生。如果我們沒有任何收入，我們不能購買這些機(jī)器人生產(chǎn)的任何東西，所以富人們也不會從我們身上賺到多少錢，他們自己也不會有錢了。當(dāng)然，富人可以消費(fèi)機(jī)器人給他們生產(chǎn)的東西，但這就不是富人的定義。

進(jìn)一步講，如果我們不能從機(jī)器人制造的產(chǎn)品里面獲得什么，我們?yōu)槭裁匆淖兾覀儸F(xiàn)在的經(jīng)濟(jì)呢？

我們對于住所、食物和娛樂的需求依然會存在，而機(jī)器人不會給我們提供任何物資，因?yàn)槲覀儾荒芙o他們錢。所以人類會自己生產(chǎn)這些物資，就像現(xiàn)在這樣。

這么說來，機(jī)器人經(jīng)濟(jì)就結(jié)束了，因?yàn)樗麄冎皇墙o自己的主子提供服務(wù)。而正常的、大眾的經(jīng)濟(jì)，還是會像現(xiàn)在這樣。

所以說以上的事情不可能成真。要么，我們能從機(jī)器人生產(chǎn)的東西里獲益跟富人一起致富，要么，我們將會活在跟我們現(xiàn)在經(jīng)濟(jì)完全不同的環(huán)境里。

“蓋茨的做法實(shí)際上是減緩創(chuàng)新，是一種保護(hù)主義”

哈佛大學(xué)教授、美國總統(tǒng)奧巴馬 2009 年到 2010 年的經(jīng)濟(jì)學(xué)顧問勞倫斯·蘇摩爾斯（Lawrence Summers）覺得，按照蓋茨的邏輯，我們應(yīng)該給所有自動化程序上稅，如果是這樣，社會的生產(chǎn)效率又怎么會提高呢？

首先，把機(jī)器人當(dāng)作是工作摧毀者沒有什么邏輯可言。按這個邏輯，那些機(jī)場可以打印登機(jī)牌的機(jī)器人呢？那些可以加速整理文檔的文字處理程序呢？可以在手機(jī)上使用銀行服務(wù)的科技產(chǎn)品呢？自動駕駛的汽車呢？那些防止人得病的疫苗，也是在摧毀醫(yī)療業(yè)的工作嗎？有很多種創(chuàng)新可以用更少的勞力輸入帶來更好的產(chǎn)品輸出。為什么專門挑機(jī)器人來說呢？蓋茨真的認(rèn)為在特朗普政府，或者他參與的科技委員會，能夠區(qū)分什么行為是“節(jié)省人工”和“增強(qiáng)工人的能力”？即使專家能夠在這兩種行為中畫一條界線，美國國家稅務(wù)局要怎么執(zhí)行，也是一個疑問。

第二，很多創(chuàng)新的行為，包括類似于機(jī)器人這樣的，會參與創(chuàng)造比原來好得多的產(chǎn)品和服務(wù)，并不只是在原有的輸入上，榨取更多的輸出而已。例如，自動駕駛汽車將會比人類駕駛安全得多；機(jī)器人已經(jīng)幫助外科醫(yī)生實(shí)施手術(shù)，比醫(yī)生自己實(shí)施的手術(shù)更好；線上預(yù)訂系統(tǒng)，比起旅行代理來說更快更方便。再者，因?yàn)楦偁幒吞蕴?，?chuàng)新者只在這些創(chuàng)新中獲取了一小塊利益。

第三，最根基的原因是，為什么用稅收來縮小一塊蛋糕，而不是來保證更大的蛋糕能被很好的分配？想象一下，如果 50 人做出來的機(jī)器人，能做 100 個人的 工作，如果給機(jī)器人收很高的稅，會阻止人們生產(chǎn)這樣的機(jī)器人。讓社會分享這額外的輸出，比起建立一個稅收體系來保護(hù)那些被取代的工人要更好。很難理解為什么要縮小這塊蛋糕？讓蛋糕越來越大，然后重新分配才是一條前進(jìn)的正確道路。

最后一個爭論點(diǎn)是，國際貿(mào)易已經(jīng)成為標(biāo)準(zhǔn)了。打開國門，讓國際貿(mào)易流通，跟讓科技進(jìn)行變革是類似的?？萍甲兏锊粫豢醋魇菈氖拢Q(mào)易也是，糟糕的是保護(hù)主義。蓋茨的機(jī)器人稅很有可能是反科技進(jìn)程的保護(hù)主義。

而且這措施不能減少工作崗位和不平等問題，只是一個幫助那些不幸運(yùn)工人的糟糕策略。另外，在公開世界里還有更深遠(yuǎn)的問題，對于科技收稅，可能會導(dǎo)致科技產(chǎn)業(yè)離岸，而不是在本地創(chuàng)造就業(yè)機(jī)會。

不過不管搶不搶工作，我們都需要機(jī)器人來代替我們工作

在《紐約時報(bào)》工作了 29 年的科技記者約翰·馬爾科夫（John Markoff）說，現(xiàn)在已經(jīng)不是考慮機(jī)器是否應(yīng)該替代工人的時候了，因?yàn)槿蚶淆g化來得更快更嚴(yán)重，勞動力人口都不夠了，機(jī)器人做了人類工作是必要的。

“我以前堅(jiān)信機(jī)器人會改變生產(chǎn)。我當(dāng)時跟 Daniel Kahneman（《思考，快與慢》的作者）說，機(jī)器人會顛覆在中國的工廠。

他說，你沒搞明白狀況，對于中國來說，機(jī)器人來得正是時候。因?yàn)槿耍绕涫枪ぷ魅丝诓粔蛄?，去年，中國的工作人口減少了 500 萬，跟計(jì)劃生育政策有關(guān)系。但這并不只是中國的問題，也是韓國、日本和美國的問題，世界正在老化（除了非洲），但沒有人明白這點(diǎn)。我們需要機(jī)器人。

我不是說技術(shù)、機(jī)器人變化不重要，但人口變化比技術(shù)變化重要得多，因?yàn)樗挠绊憗淼每斓枚?。這是其一，還有一個數(shù)據(jù)是“依賴比例”，也就是提供照料和需要照料的人的比例。去年是世界首次，65 歲以上的人口比 5 歲以下新生人口多，本世紀(jì)中葉，80 歲以上的人會翻倍，到世紀(jì)末，會增長 7 倍，所以說自動駕駛汽車，可能是世界上首批照料長者的工具……什么時候，有個能安全的給長者洗澡的機(jī)器人重要得多?！?/p>

馬爾科夫也曾經(jīng)在著作《與機(jī)器人共舞》里提到過這種照顧老人的機(jī)器人的問題，最后也是人和機(jī)器人關(guān)系的問題：

“但是，這些機(jī)器什么時候才能符合人們對他的期待呢？那些被照顧的人又應(yīng)該怎么去接受這些機(jī)器呢？這些仍舊是問題。盡管有大量數(shù)據(jù)表明，隨著語音識別和語音合成技術(shù)的不斷改善，傳感器成本的下降，如果機(jī)器人專家能研制出更加靈活的機(jī)器，我們還是會心懷感激地接受它們……機(jī)器人擔(dān)任老年護(hù)理員、服務(wù)工人、司機(jī)和士兵，這是一種必然趨勢。但是人類與這些機(jī)器人的關(guān)系目前還很難預(yù)測。魔像一類的傳說已經(jīng)把樂于服務(wù)的奴隸形象編織進(jìn)了人類的思想和神話，在傳說中，這些奴隸實(shí)現(xiàn)了人類提出的每一個愿望?！?/p>

自動決定人類生死的機(jī)器已經(jīng)被廣泛使用，沒有多少人不安

羅納德·阿金博士在喬治亞理工大學(xué)實(shí)驗(yàn)室研究了 20 多年機(jī)器人學(xué)，他說，重來一次，他可能會想想要不要做這樣的研究，因?yàn)樽约杭铀倭藨?zhàn)爭自動化速度。以下的發(fā)言，選自他 2013 年的演講“怎樣才能不造一臺‘終結(jié)者’”。

我們已經(jīng)有很多用于戰(zhàn)爭的機(jī)器人，不只是美國，上次我看到的數(shù)字是 53-76 個國家正在研發(fā)、派遣這樣的機(jī)器人，情況已經(jīng)很普遍了。

機(jī)器人已經(jīng)在地面、空中、海上、海底都有，例如，新的復(fù)仇者無人駕駛戰(zhàn)斗機(jī) Predator C 就是一個很經(jīng)典的機(jī)器。

還有一個韓國的 Comat Robot，我來念一下它的功能：自動檢測，自動安全開火，自動找到海軍工程目標(biāo)甚至人類目標(biāo)的能力，然后你還可以選擇用什么武器平臺……

我工作中得出的結(jié)論是，就是自動化致死（Lethal Autonomy）是不可避免的。

為什么這么說？因?yàn)樗嬖谟诖藭r、此地。每個人對于機(jī)器人的定義不一，但要我說，即使是反步兵地雷也算是機(jī)器人，因?yàn)樗鼈兡芨兄⑶壹せ畋ā鼈儗λ腥硕加形ｋU(xiǎn)性，不能分辨這是一個小孩，還是一個士兵。

還有一些系統(tǒng)，例如愛國者導(dǎo)彈，它是有人類的操作者的，導(dǎo)彈瞄準(zhǔn)了之后，操作者有 9 秒鐘去按按鈕關(guān)掉系統(tǒng)。只有 9 秒鐘怎么能判斷這個目標(biāo)是不是正確的呢？還是說人類被陷害了？他們只是這個殺人鏈條里的最后一步，是為錯誤判斷負(fù)責(zé)任的“替罪羊”。

作為機(jī)器學(xué)家，我們正在讓戰(zhàn)爭變得越來越快，這是我們工作的后果。這也意味著，智能化、自動化正在被推進(jìn)得越來越遠(yuǎn)，已經(jīng)到了頂尖的地步，我們讓軍方來給這些機(jī)器做決定，無論他是一個“發(fā)射不理（Fire-and-Forget）”系統(tǒng)，還是以色列的導(dǎo)彈系統(tǒng)，可以自己通過雷達(dá)的信號，找到地上的目標(biāo)然后打擊，不需要問任何人……這些東西正在改變以及挑戰(zhàn)人類參戰(zhàn)的方式。

但“自動化致死”的定義跟哲學(xué)家的不同，哲學(xué)家認(rèn)為自動化是有自由意志的道德載體。但機(jī)器人真的應(yīng)該承擔(dān)行為的責(zé)任嗎？機(jī)器人真知道自己在做什么？作為機(jī)器學(xué)家，我們對此的定義不一樣，我們要用機(jī)器去指明打擊目標(biāo)，換句話說，就是扣下扳機(jī)。

當(dāng) 1970 年代，基因工程學(xué)第一次能做克隆 DNA 的時候，生物道德委員會呼吁讓他們停止研究，他們明白了這點(diǎn)：天吶，我們的新技術(shù)讓我們可以復(fù)制人！我們應(yīng)該后退一步，讓哲學(xué)家、公眾、生物工程師、政治家一起聊聊這個話題。

而我們面對“自動化致死”卻沒有這種不安，但我們真的應(yīng)該談?wù)?，去提供這樣的討論的土壤也是社會的作用，而不是等著別人給我們做這件事。但我們現(xiàn)在就是等著，我們把自己的科技和未來委以政府和當(dāng)局了。

這是不對的，我們科學(xué)家應(yīng)該更有自主意識，我們要跟人們分享我們的觀點(diǎn)。這 20 年，我迷失在發(fā)現(xiàn)新知識的喜悅中，抬頭才看明白我自己在做的科技到底是什么。走出實(shí)驗(yàn)室，去真實(shí)的世界吧，重新思考一下要不要這么做，我希望不要等你們 20 年后才去想。

在我探索的項(xiàng)目當(dāng)中，我認(rèn)為應(yīng)該問這些問題：

我們應(yīng)該讓士兵變成機(jī)器人嗎？

我們應(yīng)該讓機(jī)器人變成士兵嗎？它們能變得更像人嗎？他們能在道德層面超越人類嗎？

機(jī)器人跟人應(yīng)該是什么關(guān)系？關(guān)鍵在于“設(shè)計(jì)師”

這是托斯丹·凡勃倫 100 年前寫的一篇文章，當(dāng)時還沒有能讓人失業(yè)的計(jì)算機(jī)和人工智能。但他說，政治力量會轉(zhuǎn)向工程師等專家崗位，工程師將會成為新經(jīng)濟(jì)的控制者。在機(jī)器越來越聰明的時代，工程師的作用就愈發(fā)明顯：

起初，在機(jī)械工業(yè)的早期發(fā)展中，尤其是在工業(yè)革命直接催生的機(jī)械工業(yè)新增長當(dāng)中，工業(yè)專家和企業(yè)經(jīng)理之間的分歧并不明顯。

這一階段在新的工業(yè)體系走上逐步專業(yè)化和復(fù)雜化的道路之前，也是在商業(yè)規(guī)模遠(yuǎn)未擴(kuò)張之前；這樣，即使是當(dāng)時并未受過技術(shù)訓(xùn)練的商人，仍然可以對全局有著智能的監(jiān)督，以及理解他們所投資和從中獲益的機(jī)械生產(chǎn)流程的需求。尋常的情況是，工業(yè)流程和設(shè)備的設(shè)計(jì)者仍然掌控著財(cái)務(wù)，同時也管理店面。

但是，早期的發(fā)展階段中，分化就開始出現(xiàn)，比如將設(shè)計(jì)和管理工業(yè)流程的人，與設(shè)計(jì)和管理商業(yè)交易和掌控財(cái)務(wù)的人分開。這亦導(dǎo)致了商業(yè)管理和技術(shù)專家之間權(quán)力的分割。

這成為了技術(shù)專家的工作：在技術(shù)上決定產(chǎn)業(yè)中什么是可行的，并找到可行的方式和方法；但商業(yè)管理層總是可以決定，出于商業(yè)原因應(yīng)該做多少工作，以及生產(chǎn)出什么樣的和什么質(zhì)量的商品和服務(wù)；而商業(yè)管理層往往是最終拍板的人，持續(xù)地設(shè)置生產(chǎn)上限。

隨著專業(yè)化的不斷發(fā)展，專家們在工業(yè)事務(wù)中的話語權(quán)理應(yīng)越來越大；但一如既往的是，他們關(guān)于生產(chǎn)中要做什么和怎么做的結(jié)論，仍有待于企業(yè)經(jīng)理依據(jù)什么有利于商業(yè)獲益再做定奪。這種商業(yè)管理和工業(yè)管理間的分裂持續(xù)加速地向前行進(jìn)，因?yàn)槿魏慰煽康母咝ЫM織和工業(yè)流程所需要的專業(yè)培訓(xùn)和經(jīng)驗(yàn)，都在不斷變得更為苛刻，這要求具備專業(yè)知識和能力的人各司其職，且對于手頭的工作有著未分割的所有權(quán)收益和全心全意的關(guān)注。

但是，這些擁有技術(shù)知識、能力、興趣和經(jīng)驗(yàn)的專家，越來越多地以這種方式參與其中——發(fā)明家、設(shè)計(jì)師、化學(xué)家、礦物學(xué)家、土壤專家、作物專家、生產(chǎn)經(jīng)理和各式各樣的工程師——繼續(xù)成為產(chǎn)業(yè)首腦的雇員，也就是為金融首腦工作，而金融首腦們的工作則一直是將工業(yè)專家的知識和能力商業(yè)化，并將其轉(zhuǎn)化為自己的利益。

機(jī)器人都會最終引發(fā)人的身份認(rèn)同危機(jī)，我們?nèi)祟惖降资鞘裁?/p>

要思考制造怎樣的機(jī)器人，怎么給機(jī)器人制定行為準(zhǔn)則，這最后也會逼迫人類工程師重新思考這個問題：我們?nèi)祟愂鞘裁矗?/p>

日本機(jī)器人學(xué)家、大阪大學(xué)教授石黑浩，研究了多年“仿生機(jī)器人”之后，石黑浩做出了一系列跟人長得很像的機(jī)器人，例如以下這個女孩子，名字叫做 Erica。

“當(dāng)我 10 歲、11 歲的時候，我的一個基本問題是：什么是人？什么是思考、什么是感覺。我沒有得到正確的答案，但我一直通過開發(fā)機(jī)器人來尋找答案?！?/p>

“如果用機(jī)器替換身體，我們將會永遠(yuǎn)活著。作為人類，我們的最終目標(biāo)是成為一個機(jī)器人，從而突破時間的限制。”

石黑浩（右邊）和自己仿生機(jī)器人（左邊）

石黑浩的觀點(diǎn)跟俄羅斯億萬富翁迪米特·伊茲科夫（Dimitry Itskov）類似，他在之前接受采訪時表示：“人的身體是硬件，人腦是軟件。”

“人的身體不能長久保存，但只要把意識提取，移到機(jī)器人身上就可以讓人一直活下去。而且這么做，對環(huán)境可能更好——因?yàn)闄C(jī)器人不需要消耗食物?！?/p>

但這還是不是人類呢？

未來不需要我們？

創(chuàng)辦了太陽計(jì)算機(jī)系統(tǒng)（Sun Microsystems）的計(jì)算機(jī)科學(xué)家比爾·喬伊在 17 年前就開始擔(dān)心技術(shù)失控的問題。在他的眼里，機(jī)器人和基因工程、納米技術(shù)，都是潘多拉魔盒，一旦這些技術(shù)快速發(fā)展，人類可能會成為瀕危物種。以下是比爾·喬伊在 2000 年發(fā)布的文章《為什么未來不需要我們》的節(jié)選：

我們 21 世紀(jì)最厲害的科技——機(jī)器人、基因工程和納米科技，正在威脅著人類，讓人類變成瀕危物種。

我還記得《星際迷航》里的一個角色“博格人”（Borg），他是個半人半機(jī)器人，有很強(qiáng)的暴力傾向。博格人這種類型的災(zāi)星，是科幻小說中常常出現(xiàn)的角色，但為什么我就沒有更早擔(dān)心機(jī)器人帶來的負(fù)面影響？為什么其他人也像我這樣，不怎么擔(dān)心這種噩夢般的場景成真呢？

一部分原因在于我們對于新事物的態(tài)度——我們更傾向于，很快熟悉一件事情，并且毫無誡心地接納它們。我們都習(xí)慣了每天都能聽到的科技新進(jìn)展，卻還沒有人明白到 21 世紀(jì)吸引人的技術(shù)：機(jī)器人、基因工程和納米技術(shù)，跟其他技術(shù)不一樣，正在成為威脅。具體來說，機(jī)器人、經(jīng)過改造的有機(jī)體、納米技術(shù)都具有同一個問題：它們能自我復(fù)制。一個炸彈只能炸一次，但一個機(jī)器人能自我復(fù)制成很多個，很快就會失去控制。

在過去 25 年中，我主要工作是計(jì)算機(jī)網(wǎng)絡(luò)研究，在網(wǎng)絡(luò)上，信息的收發(fā)，給失控的復(fù)制創(chuàng)造了機(jī)會。在計(jì)算機(jī)網(wǎng)絡(luò)上的復(fù)制讓人心煩，但最糟糕的情況也就是讓網(wǎng)絡(luò)和計(jì)算機(jī)癱瘓。而這些新科技帶來的不受控制的復(fù)制品，會造成更大危險(xiǎn)：損害到物理世界。

這些新技術(shù)還帶來了一些承諾：永生的前景，讓庫茲韋爾帶著機(jī)器夢想前景；基因工程能很快為大部分疾病提供治療方案，或者治愈方案；納米技術(shù)和納米醫(yī)療，能治愈更多病人。所有這一切將會極大提高我們的平均壽命及生活質(zhì)量。然而，對于其中任何一項(xiàng)技術(shù)，持續(xù)不斷的微小、個別的行為，將會積聚成巨大的力量，還有巨大的危險(xiǎn)。

什么東西讓 20 世紀(jì)不一樣？新技術(shù)讓產(chǎn)生大規(guī)模殺傷性武器（WMD），例如核武器、生物武器、化學(xué)武器，成為巨大的威脅。但建造核武器至少需要一段時間，還需要接觸到稀有的、高度保密的資料；研發(fā)生物武器和化學(xué)武器，也需要開展大規(guī)模的活動。

而 21 世紀(jì)的技術(shù)——基因工程、納米技術(shù)和機(jī)器人，能激發(fā)新的意外和武器濫用情況，所以威力強(qiáng)大。最危險(xiǎn)的是，個人或小型組織就能接觸和濫用這些技術(shù)，這是歷史上首次。它們不需要巨大的開發(fā)能力或稀少的原材料，只要有相關(guān)技術(shù)知識就能利用它們。

我想這么說不是夸張：我們正處在創(chuàng)造“極端邪惡”的邊緣，這一邪惡力量的傳播，將會超越國家制造的大規(guī)模殺傷性武器，成了極端個人的可怕力量。

我進(jìn)入計(jì)算機(jī)行業(yè)的時候，沒有任何人告訴我，我可能需要面對這樣的問題。