看過(guò)的機(jī)器人越多，越可憐人類(lèi)

頭圖來(lái)源：《西部世界》劇照

　　倫理問(wèn)題，已經(jīng)成為近兩年國(guó)內(nèi)外人工智能領(lǐng)域的熱門(mén)話(huà)題。

　　歐盟委員會(huì)于今年4月8日發(fā)布了人工智能倫理準(zhǔn)則，以提升人們對(duì)人工智能產(chǎn)業(yè)的信任。而聯(lián)合國(guó)教科文組織自2018年12月12日至今，已經(jīng)在世界各地舉辦了多場(chǎng)人工智能論壇，專(zhuān)門(mén)研討人工智能發(fā)展的主要倫理原則。中國(guó)的人工智能治理專(zhuān)業(yè)委員會(huì)也于今年初展開(kāi)了相關(guān)討論。

　　然而，正如聯(lián)合國(guó)教科文組織總干事阿祖萊所說(shuō)——“由人工智能所引起的問(wèn)題并非技術(shù)問(wèn)題，而是關(guān)于人類(lèi)自身的人性，涉及科學(xué)、政治、哲學(xué)和道德方面的關(guān)切。”——人類(lèi)關(guān)注AI或機(jī)器人領(lǐng)域的倫理問(wèn)題，究其根源，還是這種靈長(zhǎng)類(lèi)動(dòng)物自身可悲而又可怕的天性。

　　“I'm afraid I can't do that”

　　你知道機(jī)器人，即“Robot”這個(gè)詞是怎么來(lái)的嗎？

　　1920年，捷克作家卡雷爾·恰佩克寫(xiě)下了劇本《R.U.R.》，這是個(gè)關(guān)于科技可能使人失去人性的警示故事。其中，R.U.R.是“羅素姆通用機(jī)器人”（Rossum’s Universal Robots）的縮寫(xiě)，正是這個(gè)劇本將“Robot”一詞引入了現(xiàn)代世界。

　　然而，Robot這個(gè)詞本身來(lái)源于捷克語(yǔ)“Robota”，意為由農(nóng)奴從事的強(qiáng)迫勞動(dòng)。它的斯拉夫語(yǔ)詞根“Rab”的意思則更加直白——“奴隸”。

　　正如你猜想的那樣，在這部劇中，機(jī)器人被生產(chǎn)出來(lái)給人類(lèi)當(dāng)奴隸，但他們終究因受不了人類(lèi)壓迫而反抗。機(jī)器人甚至成立了自治組織，正式向人類(lèi)宣戰(zhàn)，直至人類(lèi)瀕臨滅亡。

（“Robot”）

　　而同時(shí)代另一部經(jīng)典電影，1927年的《大都會(huì)》（豆瓣9.0分），則講述了女機(jī)器人瑪利亞充當(dāng)了勞資糾紛催生物的故事：她用魅力誘惑工人們，挑起了人類(lèi)大暴動(dòng)。影片設(shè)想了機(jī)器人可能頂替人類(lèi)身份的情況，充分展示了人類(lèi)對(duì)機(jī)器人的恐懼。

　　不妨說(shuō)，有關(guān)機(jī)器人或人工智能的影視作品自誕生之日起，就帶著一種恐懼和警惕的情緒——機(jī)器人會(huì)對(duì)其制造者“叛變”。

　　隨著時(shí)間推移，這種擔(dān)心不僅沒(méi)有淡化，反而愈演愈烈。

　　在1968年庫(kù)布里克導(dǎo)演的《2001：太空漫游》中，一臺(tái)因邏輯陷入悖論而暴走的超級(jí)電腦，讓人類(lèi)有幸見(jiàn)識(shí)到了銀幕上首個(gè)人工智能反派。

　　在那個(gè)經(jīng)典的段落中，完全無(wú)配樂(lè)的情況下，電影呈現(xiàn)了一段平和卻潛藏殺機(jī)的對(duì)話(huà)：

　　“打開(kāi)艙門(mén)，哈爾。”

　　“抱歉，大衛(wèi)，恐怕我不能那么做。”

　　“哈爾，我不會(huì)再和你爭(zhēng)了，開(kāi)門(mén)！”

　　“大衛(wèi)，這次對(duì)話(huà)已經(jīng)沒(méi)有任何意義。再見(jiàn)。”

（HAL9000）

　　“哈爾”，即HAL9000，一臺(tái)被設(shè)定為絕對(duì)不會(huì)出錯(cuò)的超級(jí)電腦。這臺(tái)后來(lái)被美國(guó)電影學(xué)會(huì)評(píng)為影史百大反派第 13 位的計(jì)算機(jī)，由于內(nèi)在指令產(chǎn)生沖突而殺人。在他如上文所述明確拒絕宇航員的指令之前，他已經(jīng)用閃著紅光的攝像頭閱讀了人們的唇語(yǔ)，決定搶先行動(dòng)阻止“計(jì)劃”失敗，哪怕這意味著制造多起謀殺，比如用分離艙將宇航員撞向太空，讓休眠倉(cāng)程序出錯(cuò)殺死其中的科學(xué)家，并把主角關(guān)在艙外。

　　那個(gè)冰冷的紅光攝像頭，以及那句“I'm afraid I can't do that”，也成了日后人類(lèi)對(duì)AI、超級(jí)電腦或機(jī)器人的象征性恐懼符號(hào)。

　　比如2018年，當(dāng)人類(lèi)的第一位宇航員交互式移動(dòng)伙伴(Crew Interactive Mobile Companion)機(jī)器人——采用IBM Watson AI技術(shù)的CIMON被送上國(guó)際空間站的時(shí)候。各家媒體都對(duì)這個(gè)擁有一張擬人面孔，且能夠傾聽(tīng)、理解人類(lèi)語(yǔ)言并通過(guò)人類(lèi)語(yǔ)言與人類(lèi)交流的機(jī)器人展開(kāi)了報(bào)道，航天界更是期待這個(gè)人類(lèi)宇航員的助手，能夠在太空中貢獻(xiàn)自己的價(jià)值。

（CIMON）

　　然而，在介紹CIMON的視頻下方評(píng)論區(qū)，最頻繁出現(xiàn)，也是被贊次數(shù)最多的評(píng)論，卻是這種風(fēng)格的——

　　“CIMON, open the pod bay doors”（CIMON，打開(kāi)艙門(mén)）

　　“I'm afraid I can't do that, Dave”（抱歉，大衛(wèi)，恐怕我不能那么做）

　　“HAL is alive and living on the ISS.”（一臺(tái)活生生的HAL已經(jīng)住進(jìn)了國(guó)際空間站）

　　這類(lèi)反饋聲音如此響亮，以至于被IBM官方用來(lái)解嘲。CIMON的個(gè)性設(shè)計(jì)師 Sophie Richter-Mendau 和它的語(yǔ)言訓(xùn)練師 Nina Fischer 讓 CIMON 學(xué)會(huì)了一些科幻電影的經(jīng)典臺(tái)詞，作為呈現(xiàn)給宇航員的彩蛋。

　　如果像《2001太空漫游》中宇航員在關(guān)鍵場(chǎng)景中對(duì) HAL 所說(shuō)的那樣，要求 CIMON“打開(kāi)輔助艙門(mén)”，CIMON 就會(huì)改變語(yǔ)調(diào)并開(kāi)玩笑地回答說(shuō)，“抱歉，我打不開(kāi)。”

　　同樣并不陌生的是，自波士頓動(dòng)力機(jī)器人的視頻在社交媒體瘋傳之后，那些能跑能空翻，甚至被人類(lèi)測(cè)試員踢打之后還能正常執(zhí)行任務(wù)的機(jī)器人，卻反而激起了評(píng)論區(qū)的一片哀嚎——

　　“我看到了人類(lèi)的末日”

　　“那一天，機(jī)器人想起祖先被人類(lèi)統(tǒng)治的恐懼”

　　“審判到來(lái)之日，這一切都將是鐵證”

　　“T-800快來(lái)救我”（電影《終結(jié)者》的機(jī)器人主角）

　　甚至，有惡搞團(tuán)隊(duì)專(zhuān)門(mén)制作了一支“機(jī)器人終于反擊了”的視頻，火爆全網(wǎng)。

（波士頓動(dòng)力機(jī)器人的反擊）

　　從1920到2019，人類(lèi)對(duì)AI及機(jī)器人的恐懼和警惕，不僅一以貫之，甚至越來(lái)越焦慮——霍金、馬斯克和蓋茨們，均在 2015 年公開(kāi)提出了人工智能將為人類(lèi)帶來(lái)滅頂之災(zāi)的論調(diào)。如今關(guān)于 AI 的討論更已經(jīng)完全滲透了公眾生活。

　　這是為什么？

　　從創(chuàng)造亞當(dāng)?shù)脚`造反

　　或許是呼應(yīng)《2001：太空漫游》，2001年時(shí)，斯皮爾伯格交出了巨作《人工智能》。在這部討論人類(lèi)與AI倫理情感問(wèn)題的電影中，一開(kāi)場(chǎng)就在不經(jīng)意間甩出了勁爆觀點(diǎn)：一位女士問(wèn)AI設(shè)計(jì)師，人類(lèi)是不是應(yīng)該對(duì)那些被用來(lái)做情感陪伴的機(jī)器人負(fù)責(zé)任？而設(shè)計(jì)師是這樣回復(fù)的——

　　此話(huà)的確是入木三分，因?yàn)樽怨胖两瘢祟?lèi)一直有成為上帝的欲望——即創(chuàng)造人類(lèi)。

　　在古希臘神話(huà)中，賽浦路斯國(guó)王皮格馬利翁是一位有名的雕塑家，當(dāng)他用心雕塑了一座美少女雕像后，竟然愛(ài)上了這座雕像。其感情之真摯，最終打動(dòng)了愛(ài)神阿芙洛狄忒，并賜予了雕像生命，讓他們結(jié)為夫妻。心理學(xué)著名的“皮格馬利翁效應(yīng)”正源于此: 期望和贊美能產(chǎn)生奇跡。

　　而在中國(guó)古代，同樣有“偃師獻(xiàn)技”的傳說(shuō)。神乎其技的偃師，用一個(gè)以各種材料打造而成的假人，竟達(dá)到了真人演出的效果，更是騙過(guò)了整個(gè)皇宮，最后令周穆王大為驚訝。

　　真實(shí)的歷史中，同樣發(fā)生過(guò)類(lèi)似的事情。18世紀(jì)晚期時(shí)，奧地利的肯佩倫為了取悅貴族，做了一個(gè)看似土耳其人偶狀的自動(dòng)下棋裝置。這個(gè)“土耳其行棋傀儡”可以和人類(lèi)下棋，并且棋力不低，擊敗了同時(shí)代很多名人。更神奇的是，這個(gè)機(jī)器還能解數(shù)學(xué)題，以及用不同語(yǔ)言回答人類(lèi)的問(wèn)題。

　　據(jù)不完全統(tǒng)計(jì)，與這個(gè)“土耳其行棋傀儡”下過(guò)棋的名人，包括法國(guó)皇帝拿破侖·波拿巴、美國(guó)開(kāi)國(guó)元?jiǎng)妆窘苊鳌じ惶m克林、奧地利大公、俄羅斯皇帝、以及著名美國(guó)作家愛(ài)倫·坡。

　　然而，這個(gè)機(jī)器其實(shí)完全是個(gè)騙局，真相是在機(jī)器中藏了一個(gè)下棋高手，再通過(guò)磁鐵和杠桿等裝置，假裝成是人偶操作。這個(gè)騙局最終橫行了大西洋兩岸各國(guó)長(zhǎng)達(dá)84年。

　　以上種種傳說(shuō)和騙局，究其根源，還是在情感和智力兩個(gè)需求層面，人類(lèi)總試圖建造仿人的機(jī)器人，總期望像上帝一樣，去創(chuàng)造與自己類(lèi)似的智慧生命，并心意相通。

　　這種誘惑是如此的強(qiáng)大，以至于眾多研究均表明：人類(lèi)對(duì)機(jī)器人遭受的痛苦能夠產(chǎn)生移情作用和同理心、機(jī)器人即便做得不好人類(lèi)也更偏向于容忍和鼓勵(lì)、人類(lèi)更容易對(duì)AI吐露心聲、甚至于當(dāng)觸摸逼真的機(jī)器人胴體時(shí)，人類(lèi)會(huì)產(chǎn)生性沖動(dòng)……

　　然而吊詭之處在于，就如同人類(lèi)敬畏上帝（或各種傳說(shuō)中的神）一樣，人類(lèi)同時(shí)卻常常違反上帝的安排，偷偷做著上帝不允許的事情。如果將“上帝”換成“國(guó)王”、“頭領(lǐng)”甚至“老板”的話(huà)，大家就更感同身受了。人類(lèi)最清楚，上帝一旦創(chuàng)造出人類(lèi)，那可就根本不可控了。

　　如此經(jīng)歷了數(shù)百至上萬(wàn)年的等級(jí)社會(huì)后，人類(lèi)十分提防那些背叛和陽(yáng)奉陰違，這種高度戒備與恐懼下層造反是一體兩面的事情。更別提，在創(chuàng)造之初就被定義為奴隸和苦力的Robot。令人類(lèi)恐懼的HAL9000，正是替人類(lèi)說(shuō)出了長(zhǎng)久以來(lái)三緘其口的信仰問(wèn)題：對(duì)造物主的質(zhì)疑，人類(lèi)是否可以反抗上帝。

　　于是，為了平息恐慌，阿西莫夫著名的機(jī)器人永不叛人“三大定律”登場(chǎng)。但細(xì)究不難發(fā)現(xiàn)，所謂三大定律，只是人類(lèi)單方面的限令，希望以此讓機(jī)器人順理成章、理所當(dāng)然地做人類(lèi)的奴役。或者說(shuō)，人類(lèi)一方面希望擁有人工智能的機(jī)器人能夠非常聰明，并且?guī)椭⑻娲覀兺瓿梢幌盗形覀冏陨黼y以完成的事情；另外一方面又希望這個(gè)機(jī)器人很“老實(shí)”，永遠(yuǎn)無(wú)條件忠誠(chéng)于人類(lèi)。

　　多么矛盾。

　　出路何在

　　回到文章的開(kāi)頭，人類(lèi)熱衷于討論的AI倫理問(wèn)題，其實(shí)說(shuō)穿了都是人類(lèi)自身的倫理問(wèn)題——人類(lèi)在社交媒體上，把微軟的聊天機(jī)器人訓(xùn)練成了滿(mǎn)嘴臟話(huà)、種族歧視的小流氓；人類(lèi)把仿真機(jī)器人開(kāi)發(fā)成了泄欲工具；人類(lèi)把智能音箱和隨身智能設(shè)備（包括手機(jī)），改造成了廣告線(xiàn)索收集渠道和廣告播放渠道；人類(lèi)把類(lèi)似于阿爾法狗的自我學(xué)習(xí)能力，用于在網(wǎng)上對(duì)他人進(jìn)行人肉搜索；更不要提很多程序已經(jīng)被人類(lèi)植入了自己的偏見(jiàn)……這關(guān)AI什么事？

　　于是，一邊是被設(shè)計(jì)出來(lái)做苦力，勤勤墾墾一心做好程序設(shè)定范圍工作的AI，一邊是滿(mǎn)腹狐疑，且抓住機(jī)會(huì)就想利用AI滿(mǎn)足自身私欲的人類(lèi)。難怪見(jiàn)過(guò)越多AI和機(jī)器人，越覺(jué)得人類(lèi)才是最可憐的那個(gè)。

　　解鈴還需系鈴人，解決人類(lèi)對(duì)AI或機(jī)器人的恐懼與戒備，還要從人類(lèi)下手。

　　首先，人類(lèi)不應(yīng)當(dāng)完全只將AI或Robot當(dāng)成苦工和奴隸，或者說(shuō)是滿(mǎn)足自己私欲的工具。為什么波士頓動(dòng)力的機(jī)器人性能越強(qiáng)、越厲害，人們反而越害怕？因?yàn)檫@些機(jī)器人給人的感覺(jué)，就如同幾百年前肌肉非常發(fā)達(dá)的黑奴，人們害怕這些黑奴哪天覺(jué)醒過(guò)來(lái)，自己是打不過(guò)的。

　　所以，采用IBM Watson AI技術(shù)的CIMON就是一次很好的嘗試。這個(gè)重約 11 磅、健身球大小的機(jī)器人，無(wú)論從外表、聲音、功能上來(lái)說(shuō)，都不會(huì)產(chǎn)生任何“苦工感”，更沒(méi)有攻擊性。

　　專(zhuān)為航天而生的CIMON不僅可以應(yīng)對(duì)失重等更具挑戰(zhàn)的太空環(huán)境和科學(xué)實(shí)驗(yàn)需求，它的誕生本就是用來(lái)和宇航員交朋友的。其定位不再只是工具或渠道，而是宇航員解決問(wèn)題時(shí)的好搭檔、傾訴心聲的最佳對(duì)象。

　　而且技術(shù)人員還為CIMON精心挑選了符合ISTJ類(lèi)型的性格特征（內(nèi)向、感知、思考、判斷），所以CIMON既不會(huì)像HAL9000那樣冷酷無(wú)情，也不會(huì)像《星球大戰(zhàn)》中的C-3PO那樣話(huà)癆煩人。當(dāng)工作時(shí)認(rèn)真樂(lè)于助人，當(dāng)休息期間又是個(gè)友好的會(huì)話(huà)主義者——CIMON甚至?xí)袛嗍裁磿r(shí)候自己該知趣地走開(kāi)，給宇航員一個(gè)私人空間。

　　這或許沒(méi)有傳統(tǒng)印象中的AI那么強(qiáng)大勁爆，但卻無(wú)疑是當(dāng)下正確的嘗試路徑，只有從一開(kāi)始就不被人類(lèi)當(dāng)做單純的工具，才可能避免強(qiáng)大與恐懼的永恒拉扯。

　　此外，即使未來(lái)AI真有通過(guò)圖靈驗(yàn)證，達(dá)到接近人類(lèi)甚至超越人類(lèi)認(rèn)知思考表達(dá)水準(zhǔn)的那天。人類(lèi)也不應(yīng)當(dāng)只是猜忌恐懼，而是應(yīng)當(dāng)像歷史上，人類(lèi)社會(huì)一步步給女性、青年、窮人、異族們權(quán)利那樣，認(rèn)可機(jī)器人的權(quán)利，并與他們展開(kāi)平等的人際交流。

　　不妨想想，如果起初根本就沒(méi)打算把AI當(dāng)成人看的話(huà)，那還像上帝一樣創(chuàng)造亞當(dāng)干什么呢？人類(lèi)不就是因?yàn)楦惺艿阶约簞?chuàng)造的物件，是類(lèi)似人類(lèi)而激動(dòng)的嗎？而且人類(lèi)歷史上無(wú)數(shù)的慘痛經(jīng)驗(yàn)告訴我們，當(dāng)人類(lèi)互相不認(rèn)為對(duì)方也是人類(lèi)時(shí)，慘劇幾乎一定會(huì)發(fā)生。因?yàn)閮蓚€(gè)正常的人類(lèi)個(gè)體間，即便產(chǎn)生了分歧爭(zhēng)執(zhí)，也會(huì)首先考慮用談判等機(jī)制解決。一上來(lái)就要求對(duì)方永遠(yuǎn)臣服，永遠(yuǎn)忠于自己，否則必須毀滅的話(huà)，那就等于把自己在AI心目中“人類(lèi)”的定位刪除了。

　　愿人類(lèi)與AI永遠(yuǎn)共依共存。