文｜周周

6月11日，OpenAI首席執(zhí)行官Sam Altman在他的個(gè)人博客上發(fā)表了一篇文章，題為《溫柔的奇點(diǎn)（The Gentle Singularity）》，他認(rèn)為超級(jí)智能（superintelligence）即將到來(lái)，奇點(diǎn)已經(jīng)開始，但這一過(guò)程是漸進(jìn)的而非災(zāi)難性的。

在他眼中，奇點(diǎn)的進(jìn)程是這樣的：“我們很快從驚嘆AI能生成精美段落，到好奇它何時(shí)能寫出整本精彩小說(shuō)；從驚訝它能做出救命診斷，到期待它何時(shí)能開發(fā)出治愈方案；從驚訝它能創(chuàng)建小程序，到期待它何時(shí)能創(chuàng)建整個(gè)公司。這就是奇點(diǎn)的進(jìn)程：奇跡變成常態(tài)，然后成為基本條件。”

Altman甚至給出了明確的時(shí)間表：

2025年，我們已經(jīng)看到能真正思考和工作的AI代理（Agent）；

2026年，可能出現(xiàn)能提出“原創(chuàng)見解”的AI系統(tǒng)；

2027年，可能出現(xiàn)能在現(xiàn)實(shí)世界執(zhí)行任務(wù)的機(jī)器人；

2030年，智能（想法）和能源（將想法變?yōu)楝F(xiàn)實(shí)的能力）將變得極其豐富，這兩樣?xùn)|西一直是限制人類進(jìn)步的主要因素，如果有了大量的智能和能源（再加上好的管理），我們能擁有一切。

傳統(tǒng)上，“奇點(diǎn)”（Singularity）一詞在技術(shù)語(yǔ)境中有著特定含義。正如已故科幻作家Vernor Vinge在1993年的論文中所定義的，技術(shù)奇點(diǎn)指的是“人類失去對(duì)人工智能的控制，導(dǎo)致文明被AI完全主宰的理論時(shí)刻”。Vinge將奇點(diǎn)描述為人類的災(zāi)難性事件，可能導(dǎo)致人類的物理滅絕。

Altman將“奇點(diǎn)”重新定義為技術(shù)進(jìn)步的自然延續(xù)，而非人類被取代的轉(zhuǎn)折點(diǎn)。他在博客里寫道：“從相對(duì)論的角度看，奇點(diǎn)是一點(diǎn)一點(diǎn)發(fā)生的，合并也是緩慢進(jìn)行的。我們正在攀登技術(shù)進(jìn)步的指數(shù)曲線：向前看總是垂直的，向后看起來(lái)總是平坦的，但它是一條平滑的曲線。”

不過(guò)，Altman也承認(rèn)存在嚴(yán)峻挑戰(zhàn)，并提出了兩步走的解決方案：首先，解決AI安全和對(duì)齊問(wèn)題；然后，專注于讓超級(jí)智能變得便宜、廣泛可用，避免過(guò)度集中在任何個(gè)人、公司或國(guó)家手中。

有意思的是，他還首次公開了ChatGPT用了多少電：一次普通查詢只用約0.34瓦時(shí)的電，這相當(dāng)于烤箱開一秒多，或者節(jié)能燈泡亮幾分鐘的電量，或者相當(dāng)于使用約0.000085加侖水，差不多是1/15茶匙。他認(rèn)為，“未來(lái)AI的成本最終會(huì)接近于純電力成本。”

值得一提的是，《華盛頓郵報(bào)》去年與研究人員合作發(fā)現(xiàn)，用GPT-4生成一封100字的郵件大約需要“略多于1瓶水”的資源。研究還發(fā)現(xiàn)，耗水量可能會(huì)因數(shù)據(jù)中心所在位置不同而變化很大。

《溫柔的奇點(diǎn)》原文如下（經(jīng)編輯）：

我們已經(jīng)跨過(guò)了一個(gè)重要的門檻，AI的大規(guī)模發(fā)展已經(jīng)啟動(dòng)。人類正在創(chuàng)造超級(jí)智能，但令人驚訝的是，這一切發(fā)生得比我們想象中更平常、更自然。

看看周圍——機(jī)器人還沒(méi)有遍布街頭，大多數(shù)人也沒(méi)有整天和AI聊天，人們?nèi)匀粫?huì)生病死亡，我們還不能輕松地去太空旅行，宇宙中仍有大量謎團(tuán)等待解答。

但我們現(xiàn)在的AI系統(tǒng)，在某些方面已經(jīng)超過(guò)了人類智能，并且能大大提高人們的工作效率。最難的技術(shù)突破已經(jīng)實(shí)現(xiàn)了——雖然開發(fā)GPT-4和o3這樣的系統(tǒng)付出了巨大努力，但這些突破將帶我們走得更遠(yuǎn)。

AI將在很多領(lǐng)域改變世界，最大的好處是它能加速科學(xué)研究和提高生產(chǎn)力，這將極大改善我們的生活質(zhì)量，未來(lái)可能比現(xiàn)在好很多倍。科學(xué)進(jìn)步是人類發(fā)展的最大推動(dòng)力，想想我們能獲得多少新發(fā)現(xiàn)，這真的很令人興奮！

從某種角度看，ChatGPT已經(jīng)比歷史上任何人都“強(qiáng)大”。每天有數(shù)億人依賴它完成越來(lái)越重要的工作，它的一個(gè)小功能更新就能產(chǎn)生巨大的積極影響，但如果有一個(gè)小缺陷，乘以數(shù)億用戶，也會(huì)造成巨大的問(wèn)題。

2025年，我們已經(jīng)看到能真正思考和工作的AI代理出現(xiàn)。到2026年，可能會(huì)出現(xiàn)能提出原創(chuàng)見解的系統(tǒng)。到2027年，或許會(huì)有能在現(xiàn)實(shí)世界執(zhí)行任務(wù)的機(jī)器人。

更多人將能創(chuàng)作軟件和藝術(shù)作品。雖然專業(yè)人士只要愿意使用這些新工具，仍會(huì)比新手做得更好，但這些工具會(huì)大大縮小差距。簡(jiǎn)單說(shuō)，一個(gè)人在2030年能完成的工作量可能是2020年的好幾倍，這將是一個(gè)驚人的變化，很多人會(huì)找到方法從中受益。

人類生活的核心部分在2030年代可能不會(huì)有太大變化。人們?nèi)詴?huì)愛家人，表達(dá)創(chuàng)造力，玩游戲，在湖里游泳。

但在許多重要方面，2030年代可能會(huì)與以往完全不同。我們不知道人工智能會(huì)超越人類智能水平多少，但我們很快就會(huì)知道答案。

在2030年代，智能和能源——也就是想法和實(shí)現(xiàn)想法的能力——將變得極其豐富。這兩樣?xùn)|西一直是限制人類進(jìn)步的主要因素，如果有了大量的智能和能源（再加上好的管理），理論上我們能擁有任何其他東西。

我們已經(jīng)生活在令人驚嘆的數(shù)字智能時(shí)代，經(jīng)過(guò)最初的震驚后，大多數(shù)人已經(jīng)習(xí)慣了。我們很快就從驚訝AI能寫出漂亮段落，變成好奇它何時(shí)能寫出整本精彩小說(shuō)；從驚訝它能做出救命診斷，到期待它何時(shí)能研發(fā)治療方法；從驚訝它能寫簡(jiǎn)單程序，到期待它何時(shí)能創(chuàng)建整個(gè)公司。這就是技術(shù)變革的過(guò)程：奇跡很快變成常態(tài)，然后成為基本條件。

科學(xué)家們告訴我們，使用AI后，他們的工作效率提高了2-3倍。高級(jí)AI有許多令人興奮的用途，但最重要的可能是，我們可以用它來(lái)加速AI研究本身。我們可能會(huì)發(fā)現(xiàn)新的計(jì)算方法、更好的算法，以及許多意想不到的東西。如果我們能在一個(gè)月或一年內(nèi)完成原本需要十年的研究，進(jìn)步速度顯然會(huì)大不相同。

從現(xiàn)在開始，我們已經(jīng)開發(fā)的工具將幫助我們獲得更多科學(xué)發(fā)現(xiàn)，并幫助我們創(chuàng)造更好的AI系統(tǒng)。雖然這還不是AI完全自主更新自己的代碼，但這已經(jīng)是自我改進(jìn)的早期形態(tài)。

還有其他正在形成的良性循環(huán)。AI創(chuàng)造的經(jīng)濟(jì)價(jià)值已經(jīng)啟動(dòng)了一個(gè)良性循環(huán)，推動(dòng)更多基礎(chǔ)設(shè)施建設(shè)來(lái)支持這些越來(lái)越強(qiáng)大的AI系統(tǒng)。能制造其他機(jī)器人的機(jī)器人（從某種意義上說(shuō)，也包括能建造其他數(shù)據(jù)中心的數(shù)據(jù)中心）已經(jīng)不遠(yuǎn)了。

假設(shè)我們需要用傳統(tǒng)方式制造第一批百萬(wàn)個(gè)人形機(jī)器人，但之后這些機(jī)器人就能運(yùn)營(yíng)整個(gè)供應(yīng)鏈——挖掘和提煉礦物、駕駛卡車、管理工廠等——來(lái)制造更多機(jī)器人，進(jìn)而建造更多芯片工廠和數(shù)據(jù)中心，那么發(fā)展速度顯然會(huì)大不相同。

隨著數(shù)據(jù)中心生產(chǎn)自動(dòng)化，智能的成本最終可能接近電力成本。（人們常好奇ChatGPT查詢耗能多少：平均一次查詢用電約0.34瓦時(shí)，相當(dāng)于烤箱運(yùn)行一秒多，或高效燈泡亮幾分鐘的電量?；蛘呦喈?dāng)于使用約0.000085加侖水，差不多是1/15茶匙。）

技術(shù)進(jìn)步會(huì)繼續(xù)加速，而人類幾乎能適應(yīng)任何變化。會(huì)有一些艱難的挑戰(zhàn)，比如整類工作崗位消失，但另一方面，世界將變得如此富有，以至于我們能認(rèn)真考慮以前不敢想的新政策。我們可能不會(huì)一下子改變整個(gè)社會(huì)制度，但幾十年后回頭看，這些漸進(jìn)變化將積累成巨大轉(zhuǎn)變。

歷史告訴我們，人類總能找到新的事情做和新的需求，并迅速適應(yīng)新工具（工業(yè)革命后的工作變化就是個(gè)好例子）。人們的期望會(huì)提高，但我們的能力也會(huì)同步提高，大家都能獲得更好的產(chǎn)品和服務(wù)。我們將為彼此創(chuàng)造越來(lái)越美好的事物。人類比AI有一個(gè)長(zhǎng)期且獨(dú)特的優(yōu)勢(shì)：我們天生關(guān)心其他人及他們的想法和行為，而我們對(duì)機(jī)器并不那么在意。

一千年前的自給自足農(nóng)民看到許多人所做的事情，可能會(huì)說(shuō)我們都在做“假工作”，只是在玩游戲娛樂(lè)自己，因?yàn)槲覀冇谐渥闶澄锖碗y以想象的奢侈品。我希望一千年后的人看我們那時(shí)的工作也會(huì)覺(jué)得是“假工作”，但我相信那些工作對(duì)做它們的人來(lái)說(shuō)會(huì)感到非常重要和有滿足感。

新奇跡出現(xiàn)的速度將會(huì)非?？臁Ｎ覀兘裉旌茈y想象2035年會(huì)有什么發(fā)現(xiàn)——也許我們會(huì)從一年解決高能物理問(wèn)題，到第二年開始太空殖民；或從一年取得重大材料科學(xué)突破，到第二年實(shí)現(xiàn)真正的高帶寬腦機(jī)接口。很多人會(huì)選擇和現(xiàn)在差不多的生活方式，但至少一些人可能會(huì)選擇“接入”新技術(shù)。

展望這樣的未來(lái)聽起來(lái)難以理解，但實(shí)際經(jīng)歷這個(gè)過(guò)程可能會(huì)令人印象深刻卻又可控。從相對(duì)論角度看，技術(shù)奇點(diǎn)是一點(diǎn)一點(diǎn)發(fā)生的，融合也是慢慢進(jìn)行的。我們正在攀登技術(shù)進(jìn)步的指數(shù)曲線——向前看總像是陡峭的懸崖，向后看則很平坦，但實(shí)際上這是一條平滑的曲線。（想想2020年時(shí)，如果有人說(shuō)2025年會(huì)有接近通用人工智能的系統(tǒng)，聽起來(lái)有多瘋狂，再對(duì)比過(guò)去5年實(shí)際發(fā)生的情況。）

除了巨大的好處，我們也面臨嚴(yán)峻挑戰(zhàn)。我們確實(shí)需要解決技術(shù)和社會(huì)層面的安全問(wèn)題，但考慮到經(jīng)濟(jì)影響，讓超級(jí)智能廣泛可用同樣重要。最好的前進(jìn)路徑可能是：

首先解決AI與人類目標(biāo)一致的問(wèn)題，確保AI系統(tǒng)能學(xué)習(xí)并實(shí)現(xiàn)人類真正長(zhǎng)期想要的東西（社交媒體算法是不一致的例子——它們很擅長(zhǎng)讓你不斷刷屏并了解你的短期喜好，但它們通過(guò)利用你大腦中的機(jī)制，往往會(huì)覆蓋你的長(zhǎng)期利益）。

然后讓超級(jí)智能變得便宜、廣泛可用，避免過(guò)度集中在少數(shù)人、公司或國(guó)家手中。社會(huì)有適應(yīng)能力、創(chuàng)造力和恢復(fù)力。如果我們能利用集體智慧，即使會(huì)犯錯(cuò)誤，有些事情會(huì)出錯(cuò)，但我們能快速學(xué)習(xí)和適應(yīng)，最大化技術(shù)好處，最小化壞處。在社會(huì)共同設(shè)定的廣泛邊界內(nèi)，給用戶充分自由似乎很重要。世界越早開始討論這些邊界和如何定義集體一致性，就越好。

整個(gè)AI行業(yè)正在為世界打造一個(gè)“大腦”。它會(huì)高度個(gè)性化，人人易用；我們將只受好創(chuàng)意的限制。長(zhǎng)期以來(lái)，科技創(chuàng)業(yè)圈常嘲笑“點(diǎn)子人”——那些有想法但需要團(tuán)隊(duì)實(shí)現(xiàn)的人?，F(xiàn)在看來(lái)，他們即將迎來(lái)自己的黃金時(shí)代。

OpenAI現(xiàn)在涉足多個(gè)領(lǐng)域，但首先，我們是一家超級(jí)智能研究公司。我們面前有很多工作，但大部分路徑已經(jīng)清晰，未知區(qū)域正在迅速減少。我們非常感激能做現(xiàn)在的工作。

便宜到幾乎免費(fèi)的智能已經(jīng)觸手可及。這聽起來(lái)可能很瘋狂，但如果我們?cè)?020年告訴你我們今天的成就，那可能比我們對(duì)2030年的預(yù)測(cè)聽起來(lái)更瘋狂。

愿我們能平穩(wěn)、快速且平安地通過(guò)超級(jí)智能時(shí)代！