Computer scientist Geoffrey Hinton: ‘AI will make a few people much richer and most people poorer’

“人工智能教父”談人類“唯一的希望”、中國何以具備優(yōu)勢——以及機器何時將超越人類。

2025年9月5日

© 詹姆斯·弗格森

我提前了10分鐘到達，杰弗里·辛頓卻已在多倫多里士滿車站酒店（一家雅致的美食酒吧）的前廳等候。這位計算機科學(xué)家——人工智能領(lǐng)域的先驅(qū)、諾貝爾物理學(xué)獎得主——選擇這個地方，是因為他曾在這里與當(dāng)時的加拿大總理賈斯汀·特魯多共進午餐。

我們穿過一個裝修風(fēng)格偏工業(yè)風(fēng)、頗具時尚感的葡萄酒吧，來到熱鬧的里間，這里早已坐滿了食客。辛頓取下那個略顯陳舊的綠色“谷歌科學(xué)家”背包（來自他曾任職的公司），由于長期受背傷困擾，他把背包墊在身下，以便坐得更直。

他有著像貓頭鷹般的神態(tài)，白發(fā)塞在眼鏡框下方。他低頭看著我，問我在大學(xué)學(xué)的是什么專業(yè)。“因為如果對方擁有理學(xué)學(xué)位，你解釋事情的方式就得不一樣。”我并沒有理學(xué)學(xué)位。不過至少特魯多“懂微積分”。

這位被稱作“人工智能教父”的學(xué)者，早已習(xí)慣向他人講解自己畢生的研究——如今這項研究正逐漸滲透到我們生活的各個角落。他見證了人工智能從學(xué)術(shù)界（他幾乎整個職業(yè)生涯都在學(xué)術(shù)界度過，其中在多倫多大學(xué)任職超過20年）走向主流：資金雄厚的科技公司渴望觸達消費者與企業(yè)，為人工智能的普及注入了動力。

辛頓因20世紀(jì)80年代中期的“基礎(chǔ)性發(fā)現(xiàn)與發(fā)明”獲得諾貝爾獎，這些成果為“基于人工神經(jīng)網(wǎng)絡(luò)的機器學(xué)習(xí)”奠定了基礎(chǔ)。這種方法大致借鑒了人類大腦的工作原理，為我們?nèi)缃裼|手可及的強大人工智能系統(tǒng)打下了根基。

然而，ChatGPT的問世以及隨之而來的人工智能發(fā)展熱潮，讓辛頓停下了腳步。他不再推動這項技術(shù)加速發(fā)展，而是開始警示其潛在風(fēng)險。過去幾年，隨著人工智能領(lǐng)域的飛速進步，辛頓的態(tài)度變得愈發(fā)悲觀，他指出這項技術(shù)可能會給人類帶來嚴(yán)重危害。

“借助人工智能的普通人，很快就能制造生物武器，這太可怕了。試想一下，如果街上隨便一個普通人都能制造核彈，后果會怎樣？”

在兩個小時的午餐時間里，我們的話題廣泛：從核威脅（“借助人工智能的普通人，很快就能制造生物武器，這太可怕了。試想一下，如果街上隨便一個普通人都能制造核彈，后果會怎樣？”），到他自己使用人工智能的習(xí)慣（稱其“極其有用”），再到聊天機器人如何意外成為他上一段戀情破裂中的“第三者”。

不過，辛頓首先興致勃勃地開啟了一場小型“研討會”，解釋為何“人工智能”是一個恰當(dāng)?shù)男g(shù)語：“無論從何種定義來看，人工智能都是具備智能的。”注意到面前的我是人文社科專業(yè)出身，他用了六七個不同的類比，試圖讓我相信人工智能對現(xiàn)實的感知與人類并無太大差異。

“在我看來，這很明顯。如果你和這些人工智能系統(tǒng)對話、向它們提問，會發(fā)現(xiàn)它們是能理解的，”辛頓接著說，“在技術(shù)領(lǐng)域，幾乎沒人懷疑這些系統(tǒng)會變得越來越智能。”

服務(wù)員過來致歉，打擾了我們的談話。辛頓沒有點葡萄酒，而是選擇了氣泡水而非自來水，理由是“這次由《金融時報》買單”，并提議點套餐。我點了西班牙冷湯作為前菜，主菜選了三文魚。他毫不猶豫地跟我點了一樣的，笑著說其實自己“本來想點些不一樣的”。

辛頓在人工智能領(lǐng)域的地位毋庸置疑，但業(yè)內(nèi)仍有一些人認為現(xiàn)有技術(shù)不過是一種復(fù)雜的工具。例如，他的前同事、圖靈獎共同得主楊立昆（Yann LeCun）（現(xiàn)任Meta公司首席人工智能科學(xué)家）就認為，支撐ChatGPT等產(chǎn)品的大型語言模型存在局限性，無法與物理世界進行有意義的互動。在這些懷疑者眼中，這一代人工智能不具備人類智能。

“我們對自身思維的了解其實非常有限，”辛頓說，但對于人工智能系統(tǒng)，“是我們創(chuàng)造了它們、構(gòu)建了它們……我們對其的理解程度遠超對人類大腦的理解，因為我們清楚每個‘神經(jīng)元’在做什么。”他說話時充滿篤定，但也承認存在許多未知。在整個交談過程中，他并不介意長時間陷入思考停頓，最后常以“我不知道”或“沒頭緒”收尾。

1947年，辛頓出生于倫敦西南部的溫布爾登，父親是昆蟲學(xué)家，母親是教師。在劍橋大學(xué)國王學(xué)院就讀時，他曾輾轉(zhuǎn)多個專業(yè)，最終本科選擇了實驗心理學(xué)，并在20世紀(jì)70年代初轉(zhuǎn)向計算機科學(xué)。盡管在21世紀(jì)10年代硅谷接納人工神經(jīng)網(wǎng)絡(luò)技術(shù)之前，該領(lǐng)域一直被計算機科學(xué)界忽視和否定，但辛頓始終堅持對神經(jīng)網(wǎng)絡(luò)的研究。

交談中不難發(fā)現(xiàn)，他與如今運用他研究成果的人截然不同。辛頓深耕學(xué)術(shù)界多年，而薩姆·奧爾特曼（OpenAI首席執(zhí)行官）卻從斯坦福大學(xué)輟學(xué)，專注于創(chuàng)業(yè)；辛頓是一名社會主義者，其成就遲至晚年才得到廣泛認可；而馬克·扎克伯格（Meta創(chuàng)始人）23歲就成為億萬富翁，與社會主義理念相去甚遠。

我們喝著湯時，餐廳里嘈雜的聲音與辛頓輕聲卻嚴(yán)肅地談?wù)撊祟惿鎲栴}的氛圍形成了刺耳的反差。他熱切地闡述了人類如何應(yīng)對現(xiàn)代人工智能系統(tǒng)的部分風(fēng)險——這些系統(tǒng)由“雄心勃勃且極具競爭性的人”開發(fā)，他們將人工智能視為未來的個人助手。這聽起來似乎并無危害，但辛頓并不這么認為。

“如果助手比你聰明得多，你該如何保持對它的掌控力？目前我們所知的‘高智能生物被低智能生物掌控’的案例只有一個，那就是母親和嬰兒……如果嬰兒無法掌控母親，就無法存活。”

辛頓認為，人類“唯一的希望”是將人工智能設(shè)計成“人類的母親”，“因為母親會極度關(guān)心嬰兒，保障嬰兒的生命安全”，并助力其成長。“這正是我們應(yīng)該努力構(gòu)建的（人與人工智能的）關(guān)系。”

“這可以作為你文章的標(biāo)題，”他笑著指了指我的筆記本說道。

他告訴我，他之前的博士生伊利亞·薩茨凱弗認同這種“母子關(guān)系”的觀點。薩茨凱弗是頂尖的人工智能研究者、OpenAI聯(lián)合創(chuàng)始人，此前因試圖罷免首席執(zhí)行官薩姆·奧爾特曼失敗而離開OpenAI，目前在自己創(chuàng)辦的“安全超級智能”公司開發(fā)相關(guān)系統(tǒng)。我問他，奧爾特曼和埃隆·馬斯克（特斯拉CEO）誰更有可能在人工智能競賽中勝出。他回答：“嗯，不好說。”那在這兩人中，他更信任誰呢？

他停頓了許久，隨后回憶起2016年共和黨參議員林賽·格雷厄姆被問及在總統(tǒng)候選人中選擇唐納德·特朗普還是特德·克魯斯時說的話：“這就像在‘被槍殺’和‘被毒死’之間選一個。”

說完這話，辛頓提議換到更安靜的地方。我試圖引起服務(wù)員的注意——他們正忙著招待滿座的客人。沒等我開口，他突然站起來開玩笑說：“我去跟他們說，就說我之前和特魯多一起來過這兒。”

我們最終在門口的吧臺高腳凳上坐下，接著討論人工智能何時會發(fā)展到“超級智能”階段——屆時它可能具備超越人類的能力。“很多科學(xué)家認為，最有可能的時間范圍是5到20年。”

我們的菜單

氣泡水（2杯） 6加元

套餐（2份） 98加元

- 庫克鎮(zhèn)西班牙冷湯

- 不倫瑞克三文魚

草莓奶油（2份） 20加元

卡布奇諾 7加元

英式早餐茶 4加元

總計（含稅費） 152.55加元（約合110.65美元）

盡管辛頓對自己的命運有著清醒的認知——“我已經(jīng)77歲了，反正生命也快走到盡頭了”——但許多年輕人可能會因他對未來的看法而感到沮喪。這些年輕人該如何保持樂觀呢？

“我很想說‘他們?yōu)槭裁匆３謽酚^？’或許不那么樂觀，他們反而會做得更多。”他用一個問題回答了我的問題——這是他常有的習(xí)慣。

“假設(shè)你通過望遠鏡看到外星人將在10年后入侵地球，你會問‘我們該如何保持樂觀’嗎？不會的，你會問‘我們到底該怎么應(yīng)對’。如果‘保持樂觀’意味著假裝危險不會發(fā)生，那人們根本沒必要樂觀。”

辛頓對西方政府的干預(yù)并不抱希望，他還批評美國政府缺乏監(jiān)管人工智能的意愿。而白宮則表示，必須加快人工智能技術(shù)的發(fā)展。事實上，辛頓剛從上海回來，還帶著時差，此前他在上海與中方人士舉行了會談。中方邀請他討論“人工智能帶來的生存威脅”。

“中國非常重視這個問題。很多政界人士是工程師出身，他們對人工智能的理解，是律師和商人無法比擬的，”他補充道，“對于生存威脅這類問題，只要有一個國家找到解決辦法，就能告訴其他國家。”

“如果助手比你聰明得多，你該如何保持對它的掌控力？”

我們能信任中國會維護全人類的利益嗎？“這是次要問題。人類的生存比‘一切向好’更重要。你能信任美國嗎？你能信任馬克·扎克伯格嗎？”

此時，我們點的三分熟三文魚（鋪在甜玉米濃湯上）上桌了，話題也轉(zhuǎn)向了科技公司開發(fā)人工智能的動機。辛頓一邊說著，一邊用叉子叉起一塊三文魚，在盤子里蘸滿醬汁。

他此前曾呼吁暫停人工智能發(fā)展，并在多封反對OpenAI轉(zhuǎn)型為營利性公司的信上簽名。目前，馬斯克正通過一場尚未了結(jié)的訴訟，試圖阻止OpenAI的這一轉(zhuǎn)型。

人們常說，對人工智能能力的渲染不過是科技公司為推高估值而制造的噱頭，但辛頓認為，“一種說法可能對科技公司有利，同時也可能是事實”。

我很好奇他在日常生活中是否經(jīng)常使用人工智能。事實證明，ChatGPT是他的首選，主要用于“研究”，但也會用它來查詢諸如“如何修理烘干機”之類的問題。不過，這款聊天機器人還意外卷入了他上一段持續(xù)數(shù)年的戀情中。

“她讓ChatGPT寫了我有多‘渣’，”他坦言，當(dāng)時這個舉動讓他很意外，“她讓聊天機器人羅列我的行為有多糟糕，然后把內(nèi)容發(fā)給了我。我并不覺得自己有多渣，所以也沒太往心里去……后來我遇到了更喜歡的人，你懂的，感情就是這樣。”他笑了笑，接著說：“或許你還沒經(jīng)歷過這種事！”

我克制住了想聊自己過往感情經(jīng)歷的沖動，轉(zhuǎn)而提到我剛慶祝完結(jié)婚一周年。“希望你暫時不會遇到這種感情問題，”他回應(yīng)道，我們都笑了起來。

辛頓吃飯速度快得多，所以當(dāng)他接到姐姐的電話時，我松了口氣。他告訴姐姐，自己正在“一家非常吵的餐廳”接受采訪。他的姐姐住在塔斯馬尼亞（“她很想念倫敦”），哥哥住在法國南部（“他也想念倫敦”），而辛頓住在多倫多（當(dāng)然，他也想念倫敦）。

“所以我用從谷歌賺的錢，在（漢普斯特德）希斯南部買了一棟小房子”，他的家人——包括兩個從拉丁美洲收養(yǎng)的孩子——都可以去那里團聚。

辛頓的“谷歌收入”源于2013年出售一家公司的交易。當(dāng)時，他與薩茨凱弗以及另一名博士生亞歷克斯·克里澤夫斯基共同創(chuàng)辦了這家公司，開發(fā)出了一套能以“人類水平”識別物體的人工智能系統(tǒng)。這筆交易的成交價為4400萬美元。辛頓本想三人平分這筆錢，但他的學(xué)生堅持讓他拿40%。交易完成后，他們都加入了谷歌——辛頓在那里工作了10年。

他出售公司的動機是什么？為了給患有神經(jīng)多樣性障礙的兒子支付護理費。辛頓“當(dāng)時估算，大概需要500萬美元……而這筆錢靠學(xué)術(shù)界的收入是不可能實現(xiàn)的”。他在心里算了筆稅后收入賬，發(fā)現(xiàn)從谷歌獲得的錢“剛好略多于”這個目標(biāo)。

2023年，他離開了這家科技巨頭，并接受了《紐約時報》的采訪，警示人工智能技術(shù)的風(fēng)險。當(dāng)時有媒體報道稱，他辭職是為了更坦誠地談?wù)撊斯ぶ悄艿娘L(fēng)險。

“每次接受記者采訪，我都會糾正這個誤解，但從來沒用，因為‘辭職發(fā)聲’是個很有話題性的故事，”他說，“我離開谷歌是因為我已經(jīng)75歲了，編程能力大不如前，而且網(wǎng)飛（Netflix）上還有很多我沒來得及看的劇。我努力工作了55年，覺得是時候退休了……而且我想，反正都要離開了，不如趁機談?wù)勅斯ぶ悄艿娘L(fēng)險。”

科技公司高管們常常描繪一幅“人工智能烏托邦”的圖景：未來，人工智能將幫助解決饑餓、貧困、疾病等重大問題。辛頓的兩任妻子都因癌癥去世，因此他對人工智能在醫(yī)療領(lǐng)域的應(yīng)用前景感到興奮；教育也是他十分關(guān)心的領(lǐng)域，同樣讓他充滿期待，但除此之外，他對人工智能在其他領(lǐng)域的應(yīng)用興趣不大。

“我們正處在一個歷史性時刻：一件不可思議的事情正在發(fā)生，它可能帶來不可思議的好處，也可能造成不可思議的危害。”

“實際情況會是，富人會利用人工智能取代勞動者，”他說，“這將導(dǎo)致大規(guī)模失業(yè)，同時企業(yè)利潤大幅上升。最終，少數(shù)人會變得極其富有，而大多數(shù)人會變得更貧窮。這不是人工智能的錯，而是資本主義制度的問題。”

奧爾特曼等科技高管此前曾提議，如果勞動力市場規(guī)模縮小到無法容納全部人口，可推行“全民基本收入”制度。但辛頓認為，這一制度“無法解決人的尊嚴(yán)問題”，因為人們會從工作中獲得價值感。他坦言，自己很想念以前和博士生一起探討想法、請教問題的時光——“他們年輕，理解事情更快”。如今，他會轉(zhuǎn)而向ChatGPT提問。

這會不會導(dǎo)致人類變得懶惰、缺乏創(chuàng)造力？目前，“認知卸載”是一個熱門話題，指的是人工智能使用者將任務(wù)交給機器，而不進行批判性思考，也不記憶獲取的信息。對此，辛頓又用了一個類比來解釋。

“我們穿衣服，因為穿衣服，體毛變得更少了。如果不穿衣服，我們更容易凍死。”在辛頓看來，只要能獲取有用的人工智能系統(tǒng)，它就是一種有價值的工具。

他看了看甜點菜單，這次特意先點了單：草莓奶油。巧合的是，這也是我想吃的。他點了一杯卡布奇諾，我則點了一杯茶。“這下我們的選擇不一樣了。”

事實上，甜點里的“奶油”是略微融化的冰淇淋，我一邊用勺子攪拌著化成液體的冰淇淋，一邊向他描述了一個在硅谷常見、但對大多數(shù)人而言仍像科幻故事的場景：未來，我們將與“實體人工智能”（即機器人）和諧共處，同時通過為身體植入人工部件、注射化學(xué)物質(zhì)來延長壽命，逐漸變成“賽博格”（半人半機器）。

“這有什么不好的？”他問道。我反駁說，這樣我們會失去自我認知，忘記“做人的意義”。“‘做人的意義’就那么好嗎？”他回應(yīng)道。我試圖進一步追問：“這不一定是‘好’，但我們將不再擁有‘人性’，這本質(zhì)上不就是人類的滅絕嗎？”

“嗯，你說得有道理，”他停頓了一下，說道。

“我們不知道未來會發(fā)生什么，完全沒頭緒。那些告訴你未來會怎樣的人，都是在瞎扯，”他補充道，“我們正處在一個歷史性時刻：一件不可思議的事情正在發(fā)生，它可能帶來不可思議的好處，也可能造成不可思議的危害。我們可以猜測，但現(xiàn)狀絕不會一直持續(xù)下去。”

本文作者：克里斯蒂娜·克里德爾是英國《金融時報》科技記者，駐舊金山，主要報道人工智能領(lǐng)域新聞。