·“隨著氣候的變化，很容易推薦你應該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應該做什么。”

(資料圖片僅供參考)

·“生物智能”在信息傳遞方面“非常低效”，相比之下，數字智能有一個巨大的優勢：在多個副本之間共享信息很容易， “當它們中的一個學到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。”

被稱為“AI教父”之一的科學家杰弗里·辛頓（Geoffrey Hinton）近日頻繁接受媒體采訪，對人工智能可能存在的威脅發出警報。他稱AI可能對人類構成比氣候變化“更緊迫”的威脅，并闡述了AI有可能超越人類的理由：數字智能在共享信息上比人腦高效得多。

被稱為“AI教父”之一的杰弗里·辛頓。“我不想貶低氣候變化的價值。我不想說，‘你不應該擔心氣候變化’。那也是一個巨大的風險。”當地時間5月5日，辛頓在接受路透社采訪時表示，“但我認為這（AI）最終可能會變得更加緊迫。”

他補充說：“隨著氣候的變化，很容易推薦你應該做什么：你只要停止燃燒碳。如果你這樣做，最終一切都會好起來的。但對于這個（AI），你根本不清楚應該做什么。”

最近，辛頓宣布離開已工作十年的谷歌，希望能對AI的風險大聲發出警報，同時撇開與前雇主的關系。1986年，辛頓與他人合著開創性論文《通過反向傳播算法的學習表征》，這是關于支撐AI技術的神經網絡的里程碑著作。2018年，他與另外兩名AI大牛約書亞·本希奧（Yoshua Bengio）和楊立昆（Yann LeCun）一同被授予圖靈獎。現在，辛頓和越來越多的科技領袖一樣，公開表達了對人工智能威脅的擔憂。

4月，推特首席執行官埃隆·馬斯克與數千人一起簽署了一封公開信，呼吁暫停開發比GPT-4更強大的系統六個月。但辛頓不同意暫停研究。

“這完全不現實。”他說， “我處于‘這是一個生存風險’的陣營，已經足夠接近了，我們現在應該非常努力地工作，并投入大量資源來弄清楚我們能做些什么。”

“過去50年里，我一直在嘗試制造可以像大腦一樣學習的計算機模型，以便更好地理解大腦是如何學習事物的。”辛頓在接受英國《衛報》采訪時說，“在嘗試思考大腦如何實施所有這些模型背后的算法時，我得出結論它也許不能——也許這些大模型實際上比大腦好得多。”

辛頓說，像人類這樣的“生物智能”具有一定優勢：以低功率運行，“只有30瓦，即使你在思考”，而且“每個人的大腦都有點不同”，這意味著人通過模仿他人來學習。但這種方法在信息傳遞方面“非常低效”。相比之下，數字智能有一個巨大的優勢：在多個副本之間共享信息很容易， “在能量方面付出了巨大的代價，但當它們中的一個學到了一些東西時，它們就都知道了，可以輕松地存儲更多副本。所以好消息是，我們已經發現了永生的秘密。壞消息是，它不適合我們。”

一旦接受了數字智能有可能超越人類，就會得出令人震驚的結論。 “我曾認為它最終會發生，但我們有足夠的時間：30到50年。（現在）我不這么認為了。而且我不知道任何更聰明的東西被不那么聰明的東西控制的例子——至少，自從拜登當選以來沒有。”他說，“你需要想象一些比我們更聰明的東西，就像我們比青蛙更聰明一樣。它會從網絡上學習，它會閱讀每一本關于如何操縱人的書，并在實踐中看到它。”

辛頓認為，關鍵時刻將在未來5到20年內到來。“但我不排除一兩年的可能性。而且我仍然不排除100年的可能性——認識到生物智能和數字智能有很大不同，而數字智能可能更好，已經動搖了我對‘不會很快到來’的信心。 ”

在某種程度上，仍有希望證明人工智能的潛力被夸大了。辛頓告訴《衛報》： “我目前有很大的不確定感。大型語言模型可能已經消耗了網絡上的所有文檔，除非它們能夠訪問我們所有的私人數據，否則它們將無法走得更遠。我不想排除這樣的可能性——我認為對這種情況充滿信心的人都是瘋子。”

辛頓認為，這種發展是資本主義下技術不可避免的結果。“并不是說谷歌一直很糟糕。事實上，谷歌是這項研究的領導者，支撐這一波浪潮的核心技術突破來自谷歌，谷歌決定不直接向公眾發布。谷歌擔心我們擔心的所有事情，它享有良好的聲譽，不想把事情搞砸。我認為這是一個公平、負責任的決定。但問題是，在資本主義制度下，如果你的競爭對手那樣做，你也只能做同樣的事情。”

“我不是政策專家。我只是一個突然意識到有可能發生非常糟糕的事情的人。我希望所有了解AI的最優秀的大腦——不僅是哲學家、政治家和政策專家，還有真正了解正在發生的事情細節的人——認真思考這些問題。”他說。

目前，歐盟的一個立法委員會已經對上述公開信作出回應，呼吁美國總統拜登與歐盟委員會主席馮德萊恩就AI的未來方向召開全球峰會。上周，歐盟通過了針對生成式人工智能的具有里程碑意義的提案，將迫使OpenAI等公司披露用于訓練其模型的版權材料。

當地時間5月4日，包括Alphabet首席執行官桑德爾·皮查伊（Sundar Pichai ）、OpenAI首席執行官山姆·奧特曼（Sam Altman）和微軟首席執行官薩蒂亞·納德拉（Satya Nadella）在內的多家人工智能公司領導人在白宮與副總統卡馬拉·哈里斯舉行了會談。“你們正在做的事情具有巨大的潛力和巨大的危險。”拜登在會議上露面時說。

5月4日，多位頂尖人工智能企業的首席執行官參加白宮會議。白宮新聞秘書卡琳·讓-皮埃爾（Karine Jean-Pierre）在簡報會上說：“總統已經廣泛了解了 ChatGPT，并且知道它是如何運作的。”辛頓說，自從他在5月1日首次就AI的危險發表講話以來，一直在拒絕全球媒體的采訪請求。 “目前有3個人想和我談談——伯尼·桑德斯（Bernie Sanders，美國參議員）、查克·舒默（Chuck Schumer，美國參議院多數黨領袖）和埃隆·馬斯克。哦，還有白宮。”

(本文來自澎湃新聞，更多原創資訊請下載“澎湃新聞”APP)