70分鐘深度對(duì)話(huà)黃鐵軍：AI已有類(lèi)意識(shí)行為，未來(lái)人與AI將理性共存

智東西
作者 王涵
編輯 云鵬

智東西6月13日?qǐng)?bào)道，今天，在2026智源大會(huì)現(xiàn)場(chǎng)，智源研究院理事長(zhǎng)黃鐵軍與智東西等媒體進(jìn)行交流，70多分鐘回答了24個(gè)問(wèn)題，涉及具身智能、世界模型、數(shù)據(jù)采集、AI自我意識(shí)等話(huà)題。

他認(rèn)為，當(dāng)前企業(yè)用VLA（Vision-Language-Action，視覺(jué)-語(yǔ)言-動(dòng)作模型）等技術(shù)解決特定場(chǎng)景是合理的，但智源追求的是通用具身智能——機(jī)器人像人一樣在任何場(chǎng)景下都能自主應(yīng)對(duì)。VLA是視覺(jué)、語(yǔ)言、動(dòng)作三個(gè)模型的拼接，而世界模型是在同一個(gè)模型中完成感知、認(rèn)知和動(dòng)作預(yù)測(cè)，兩者有本質(zhì)區(qū)別。

在時(shí)間表上，他給出相對(duì)明確的預(yù)期：未來(lái)兩三年，機(jī)器人有望在日常工作中達(dá)到人類(lèi)水平，但需突破物理常識(shí)理解和能耗控制的難點(diǎn)。

在數(shù)據(jù)變革方面，黃鐵軍提出未來(lái)數(shù)據(jù)采集將從離線(xiàn)走向?qū)崟r(shí)在線(xiàn)，穿戴傳感、腦機(jī)數(shù)據(jù)會(huì)成為訓(xùn)練世界模型、具身智能最核心的數(shù)據(jù)來(lái)源。

在醫(yī)療AI領(lǐng)域，智源與安貞醫(yī)院合作的心臟AI系統(tǒng)已達(dá)細(xì)胞級(jí)精度，在手術(shù)中已實(shí)際應(yīng)用，未來(lái)一到三年內(nèi)將逐步產(chǎn)品化，并覆蓋全科室。

談及AI意識(shí)與安全，黃鐵軍認(rèn)為狹義的人類(lèi)意識(shí)尚未出現(xiàn)，但從行為角度來(lái)看，AI已表現(xiàn)出類(lèi)似有意識(shí)的反饋。對(duì)于自進(jìn)化風(fēng)險(xiǎn)，他坦言“可行但不可控”，但不主張過(guò)度渲染危險(xiǎn)。AI需要電、人類(lèi)需要食物，未來(lái)或可實(shí)現(xiàn)理性共存。

智東西對(duì)其訪(fǎng)談內(nèi)容進(jìn)行了不改變?cè)獾男拚?，具體如下：

一、VLA是三個(gè)模型拼接，世界模型是一體化

Q1：當(dāng)前很多具身智能企業(yè)都在用VLA或VLM模型快速落地，智源多次提到世界模型才是核心方向，判斷依據(jù)是什么？

黃鐵軍：這兩件事不矛盾。企業(yè)一定是用比較成熟的技術(shù)來(lái)解決比較明確的問(wèn)題，所以用VLA這樣現(xiàn)在大模型比較成熟的技術(shù)，我相信至少在一些特定的場(chǎng)景下，比如說(shuō)制造或者搬運(yùn)抓取，完全是可行的。

但是從研究機(jī)構(gòu)的角度來(lái)說(shuō)，我們希望具身智能是通用的，像人一樣，在任何場(chǎng)景下遇到什么問(wèn)題都可以去解決。大語(yǔ)言模型已經(jīng)有了一定的通用性，但是具身智能要到物理環(huán)境里去看、去聽(tīng)、去接觸、去用力。機(jī)器人一定要對(duì)這個(gè)世界有一個(gè)自己的模型。我們可以叫它世界模型，也可以叫主觀內(nèi)部的模型。

我們?nèi)四X就是一個(gè)小宇宙，我們對(duì)這個(gè)世界都有一個(gè)模型。機(jī)器人的世界模型，就是要?jiǎng)?chuàng)造一個(gè)類(lèi)似的、對(duì)萬(wàn)事萬(wàn)物規(guī)律性的掌握，這還在早期階段。

Q2：視覺(jué)在世界模型里占據(jù)什么位置？

黃鐵軍：視覺(jué)占80%以上。教科書(shū)都是這么寫(xiě)的。搞計(jì)算機(jī)視覺(jué)的人一般說(shuō)70%，搞生物視覺(jué)、神經(jīng)科學(xué)的時(shí)候說(shuō)80%，他們有更科學(xué)的估算方法。所以視覺(jué)模型肯定是大頭。

Q3：從商業(yè)變現(xiàn)角度看，世界模型在哪個(gè)場(chǎng)景容易跑通？

黃鐵軍：原則上講，世界模型實(shí)際上是為具身服務(wù)的。如果是純數(shù)字模型應(yīng)用，不需要絕對(duì)的物理，所以一般我們不把它叫做世界模型。數(shù)字模型的典型用法是靠提示、靠語(yǔ)言。但世界模型不能僅僅靠一段話(huà)來(lái)生成，那不是具身的需求。

真正面向具身的世界模型應(yīng)該是：它也有眼睛、聽(tīng)覺(jué)、觸覺(jué)這些傳感器，在有盡可能多的物理輸入的情況下，對(duì)未來(lái)一段時(shí)間做出推測(cè)，而且這個(gè)推測(cè)要精準(zhǔn)、要準(zhǔn)確。

所以這兩者有根本區(qū)別。數(shù)字模型有很多可以開(kāi)拓的機(jī)會(huì)，沒(méi)有物理代價(jià)的限制。具身受限于物理?xiàng)l件，帶有身體限制，就會(huì)慢一點(diǎn)。

Q4：外媒認(rèn)為世界模型是人工智能的必爭(zhēng)之地，中國(guó)機(jī)構(gòu)和國(guó)際上有什么共識(shí)和不同？

黃鐵軍：行業(yè)各方雖都在研發(fā)世界模型，但大家對(duì)世界的理解各不相同。不過(guò)共識(shí)就是給世界進(jìn)行建模，主流技術(shù)思路大體相近，同時(shí)也各有側(cè)重。

企業(yè)更看重模型實(shí)際效果與綜合能力，而科研機(jī)構(gòu)會(huì)追求技術(shù)方法的獨(dú)創(chuàng)性。這類(lèi)創(chuàng)新未必能立刻體現(xiàn)在性能上，卻是我們堅(jiān)持的方向。

目前我們正按照自研路線(xiàn)推進(jìn)相關(guān)工作，細(xì)節(jié)暫不便透露，期待最終打造出具備差異化優(yōu)勢(shì)與創(chuàng)新亮點(diǎn)的世界模型。

Q5：所以堅(jiān)持走獨(dú)創(chuàng)的技術(shù)路線(xiàn)？

黃鐵軍：不會(huì)放棄已經(jīng)證明可行的這些部分，但也會(huì)批判地用，智源也一定會(huì)有別人絕對(duì)沒(méi)有的東西。

Q6：VLA和世界模型，底層架構(gòu)是不是一樣的？有人說(shuō)數(shù)據(jù)做好了就行，模型不重要，您怎么看？

黃鐵軍：其實(shí)這兩種技術(shù)路線(xiàn)都有各自的道理，但我們還要往前深究：每種路線(xiàn)最終要達(dá)成的目標(biāo)是什么？

不管是采用VLA、世界模型，還是未來(lái)出現(xiàn)的全新技術(shù)，都繞不開(kāi)數(shù)據(jù)采集與建模這一步。原始數(shù)據(jù)無(wú)法直接驅(qū)動(dòng)機(jī)器人行動(dòng)，有不少細(xì)分環(huán)節(jié)需要打磨。

VLA就是視覺(jué)、語(yǔ)言、動(dòng)作三大模塊組合而成的架構(gòu)。簡(jiǎn)單來(lái)說(shuō)，VLA是把三個(gè)獨(dú)立模型拼接起來(lái)協(xié)同工作。

而世界模型的思路完全不一樣。它是一個(gè)一體化模型，機(jī)器人的視覺(jué)感知、聽(tīng)覺(jué)接收、行為決策等所有環(huán)節(jié)，都在同一個(gè)模型內(nèi)部完成訓(xùn)練。相當(dāng)于機(jī)器人在“腦海”里構(gòu)建出完整的環(huán)境認(rèn)知，再基于這套認(rèn)知做出行動(dòng)，并非多個(gè)模塊簡(jiǎn)單拼接，這也是兩者最核心的差異。

二、未來(lái)2-3年，機(jī)器人有望達(dá)到人類(lèi)日常工作水平

Q7：很多企業(yè)采用自研具身大腦的技術(shù)路線(xiàn)，您怎么看？

黃鐵軍：這就看怎么定義大腦了。如果這個(gè)大腦就是來(lái)解決物流質(zhì)檢的，那完成得很好，當(dāng)然也可以說(shuō)它是大腦，但它很難泛化到更多的場(chǎng)景里去。它可以針對(duì)特定場(chǎng)景完成特定任務(wù)。

我們追求的是將來(lái)可能會(huì)有一個(gè)通用的大腦作為基礎(chǔ)，就像現(xiàn)在大模型作為底座，然后做垂直模型去解決各個(gè)領(lǐng)域的問(wèn)題。通用的世界模型就扮演這樣的角色，但是現(xiàn)在還沒(méi)到這個(gè)階段。

Q8：通用泛化大腦距離我們還有多久？需要突破哪些難點(diǎn)？

黃鐵軍：其實(shí)沒(méi)有終點(diǎn)，因?yàn)榇竽X有無(wú)窮無(wú)盡的需求。比如掌握物理規(guī)律，物體倒了可能會(huì)摔碎，這些可以通過(guò)視頻、查詢(xún)數(shù)據(jù)去學(xué)。

但是什么叫世界？不僅僅是這些簡(jiǎn)單的變化和動(dòng)作，世界很復(fù)雜。如果追溯到最基本的層面，原子相互作用、分子相互作用、蛋白質(zhì)相互作用，再到人與人之間的交互，會(huì)發(fā)生各種各樣的情況。在那個(gè)意義上的世界模型，我認(rèn)為可能還要很長(zhǎng)時(shí)間才能做到，因?yàn)槿祟?lèi)本身就在不斷探索這個(gè)世界。

近期我覺(jué)得最直接的參照物就是像人一樣。我不是指科學(xué)家，而是指一個(gè)在現(xiàn)實(shí)中做物理性工作的人的那種常識(shí)性能力——這難度也很大，大概未來(lái)兩三年還是有可能做出跟人日常工作水平相當(dāng)?shù)臇|西。

另外，我們希望靈敏度和精確度能夠和人相比。人其實(shí)是一個(gè)功耗不高的生物，每天吃三頓飯就能干很多活。我們看世界，不能把所有看到的東西都拿來(lái)在大腦里面加工，所以我們一定是有選擇的?，F(xiàn)在AI講究注意力機(jī)制，注意那些重要的、跟你相關(guān)的事物。

當(dāng)然我說(shuō)的是極端情況，比如晚上什么都看不見(jiàn)，突然有一個(gè)光子一閃，人眼可以感知到，因?yàn)槟强赡芤馕吨ｋU(xiǎn)來(lái)了。這時(shí)候你的大腦不能像現(xiàn)在的照相機(jī)一樣，來(lái)一張一百萬(wàn)像素的全輸進(jìn)去、全算，代價(jià)太高了。它應(yīng)該只觸發(fā)一個(gè)神經(jīng)元，然后在大腦里再觸發(fā)一系列反應(yīng)。

未來(lái)兩三年內(nèi)的機(jī)器人也應(yīng)該有這樣的能力，而不應(yīng)該每秒鐘三十張圖像、每張一百萬(wàn)像素這樣浪費(fèi)地做。一方面計(jì)算代價(jià)太高，另一方面靈敏度不夠。從世界模型的角度來(lái)看，有很大的優(yōu)化空間。

Q9：這種優(yōu)化還沒(méi)達(dá)到效果，主要原因是什么？

黃鐵軍：盡管人工智能發(fā)展得如火如荼，但里面很多優(yōu)化工作還沒(méi)開(kāi)展。大家現(xiàn)在有什么就抓緊做，比如能采到圖片、視頻就拿去訓(xùn)練了，還沒(méi)到精細(xì)化地考慮視覺(jué)信號(hào)到底應(yīng)該怎么表達(dá)、計(jì)算的時(shí)候應(yīng)該怎么更有效。這些工作才剛開(kāi)始。

Q10：機(jī)器人的自主思考占到判斷的比重是多少？具身智能應(yīng)用了世界模型底座后，對(duì)于難預(yù)測(cè)和不可預(yù)測(cè)的情況怎么處理？

黃鐵軍：大家普遍關(guān)注機(jī)器人與智能體在物理世界行動(dòng)帶來(lái)的風(fēng)險(xiǎn)，這份重視十分必要。我們的核心思路很明確：絕不會(huì)放任機(jī)器自主行事，其行為必須限定在規(guī)則框架內(nèi)。

機(jī)器的感知、動(dòng)作、狀態(tài)流轉(zhuǎn)全程可監(jiān)測(cè)、可管控。它的預(yù)測(cè)與行為迭代都依托芯片和軟件完成，行為鏈路清晰可控，不會(huì)產(chǎn)生自主攻擊這類(lèi)深層想法。機(jī)器每一次運(yùn)算、狀態(tài)更新，都留有干預(yù)和糾正的空間，如同人尚未行動(dòng)就被及時(shí)制止。

當(dāng)然，機(jī)器并不具備人類(lèi)的理性與法律意識(shí)，因此配套安全防護(hù)必不可少。我們可以實(shí)現(xiàn)對(duì)其全流程監(jiān)控，它的感知信息、行動(dòng)意圖完全透明。

三、智能穿戴、腦機(jī)接口是未來(lái)數(shù)據(jù)源，不能只靠靜態(tài)數(shù)據(jù)集

Q11：世界模型以后的重要數(shù)據(jù)來(lái)源會(huì)是哪些？

黃鐵軍：生物依靠與環(huán)境交互完成進(jìn)化，而傳統(tǒng)AI依靠離線(xiàn)數(shù)據(jù)建模。但數(shù)據(jù)本身只能片面描述環(huán)境，且靜態(tài)離線(xiàn)采集的模式，已經(jīng)適配不了當(dāng)下的技術(shù)發(fā)展。

發(fā)展具身智能與世界模型，核心邏輯會(huì)徹底改變：不能只依賴(lài)靜態(tài)數(shù)據(jù)集，更需要大量實(shí)時(shí)、在線(xiàn)的交互數(shù)據(jù)。這和人類(lèi)學(xué)習(xí)同理，書(shū)本是靜態(tài)知識(shí)，想要成長(zhǎng)還需要實(shí)時(shí)感知、互動(dòng)外界，并根據(jù)反饋迭代自身認(rèn)知模型。所以實(shí)時(shí)性、交互性數(shù)據(jù)，會(huì)成為未來(lái)具身模型的關(guān)鍵。

與此同時(shí)，數(shù)據(jù)采集模式也必須革新，核心要兼顧成本與實(shí)用性?，F(xiàn)階段很多機(jī)器人遠(yuǎn)程操控采數(shù)的模式，成本太高并不現(xiàn)實(shí)。最優(yōu)的方案，是在人們正常工作、生活的過(guò)程中同步采集數(shù)據(jù)。

最簡(jiǎn)單的方式就是依托智能耳機(jī)、智能眼鏡這類(lèi)穿戴設(shè)備，記錄用戶(hù)第一視角的視聽(tīng)數(shù)據(jù)。這種模式下，用戶(hù)為換取智能體的優(yōu)質(zhì)服務(wù)，自愿完成數(shù)據(jù)采集，低成本且高效，原理和自動(dòng)駕駛邊行駛邊采數(shù)一致。

除此之外，腦機(jī)接口也是一條重要路徑。目前殘障人群借助腦機(jī)設(shè)備完成動(dòng)作產(chǎn)生的相關(guān)數(shù)據(jù)，質(zhì)量極高。

Q12：數(shù)據(jù)采集和數(shù)據(jù)處理的技術(shù)發(fā)展是否有先后？

黃鐵軍：拿牛頓和愛(ài)因斯坦舉例來(lái)說(shuō)，他們也并不是脫離數(shù)據(jù)做研究。提出萬(wàn)有引力之前，望遠(yuǎn)鏡早已問(wèn)世，人類(lèi)積累了海量天體觀測(cè)數(shù)據(jù)，當(dāng)時(shí)缺的只是有人將這些現(xiàn)象總結(jié)成一套完整理論。愛(ài)因斯坦提出相對(duì)論也是同理，彼時(shí)物理學(xué)已有大量研究成果與實(shí)驗(yàn)數(shù)據(jù)，但不少現(xiàn)象始終無(wú)法解釋?zhuān)撬匦露x了時(shí)間概念，才讓所有矛盾的數(shù)據(jù)自洽起來(lái)。

所以說(shuō)，兩大理論絕不是兩人閉門(mén)造車(chē)憑空想出來(lái)的。如今具身智能采集數(shù)據(jù)，目的和當(dāng)年不一樣，主要是為了對(duì)客觀世界完成建模。至于能不能從海量數(shù)據(jù)中提煉出更抽象、更高級(jí)的理論，這是后續(xù)要探索的事，我認(rèn)為未來(lái)完全有機(jī)會(huì)實(shí)現(xiàn)，但現(xiàn)階段還不是我們的目標(biāo)。

就好比很多人不用學(xué)習(xí)物理理論，也清楚物品掉落會(huì)摔碎，卻并不了解背后的萬(wàn)有引力?，F(xiàn)在的世界模型，正在學(xué)習(xí)這類(lèi)客觀物理規(guī)律，只不過(guò)還沒(méi)能凝練出像經(jīng)典物理定律那樣簡(jiǎn)潔的表達(dá)。

Q13：數(shù)據(jù)采集和回流上，不同企業(yè)的路線(xiàn)不同，智源采用什么樣的數(shù)據(jù)方式？怎么形成閉環(huán)？

黃鐵軍：結(jié)合不同落地場(chǎng)景，行業(yè)里的技術(shù)落地策略也各有不同。目前智源和銀河通用共建聯(lián)合實(shí)驗(yàn)室，主攻方向十分務(wù)實(shí)，所有研發(fā)都緊密對(duì)接實(shí)際產(chǎn)品。

這類(lèi)落地思路很明確：依托本體設(shè)備，在特定場(chǎng)景采集足量數(shù)據(jù)。過(guò)程固然要投入時(shí)間與成本，但只要把機(jī)器人的能力打磨到可商用水準(zhǔn)、打通完整業(yè)務(wù)閉環(huán)，就達(dá)到了目標(biāo)。這也是當(dāng)下多數(shù)具身智能企業(yè)的主流選擇。至于低成本、零成本的數(shù)據(jù)采集方案，更多是我們未來(lái)探索的方向。

就拿乒乓球機(jī)器人舉例，它的數(shù)據(jù)采集就有兩套思路。前期可以借助動(dòng)圖等資料做初步實(shí)驗(yàn)，而核心數(shù)據(jù)主要來(lái)自?xún)蓚€(gè)渠道。第一種，讓兩臺(tái)小型機(jī)器人自主對(duì)打，全程無(wú)需人工干預(yù)，僅消耗設(shè)備電力就能持續(xù)積累數(shù)據(jù)。

第二種也是我們后續(xù)規(guī)劃的方向：等機(jī)器人水平遠(yuǎn)超普通愛(ài)好者后，就把它推向場(chǎng)館、校園等場(chǎng)所充當(dāng)陪練。用戶(hù)直接上場(chǎng)對(duì)打，這個(gè)過(guò)程既能完成數(shù)據(jù)采集，還能做到零成本甚至產(chǎn)生收益。

由此能看出，當(dāng)具身智能真正走入現(xiàn)實(shí)應(yīng)用場(chǎng)景，完全有機(jī)會(huì)摸索出低成本的數(shù)據(jù)采集模式。

四、細(xì)胞級(jí)精度心臟AI已用于手術(shù)，論文是舊時(shí)代的產(chǎn)物

Q14：智源跟醫(yī)院在心臟醫(yī)療上的合作，效果已經(jīng)很成熟，大概多長(zhǎng)時(shí)間能全國(guó)推廣？

黃鐵軍：這套技術(shù)已覆蓋問(wèn)診、診斷、手術(shù)到術(shù)后康復(fù)全環(huán)節(jié)。它不只是普通智能信息系統(tǒng)，更是高精度仿真數(shù)字孿生系統(tǒng)，能高度還原心臟診療全流程，精度可細(xì)化到心肌細(xì)胞間的相互作用。

與安貞醫(yī)院聯(lián)合研發(fā)的心臟AI，目前已正式應(yīng)用于院內(nèi)心臟手術(shù)。以往醫(yī)生只能觀察真實(shí)心臟狀態(tài)，現(xiàn)在術(shù)中可實(shí)時(shí)查看心臟動(dòng)態(tài)變化。這類(lèi)系統(tǒng)終將成為心內(nèi)科的標(biāo)準(zhǔn)配置，也是行業(yè)發(fā)展的必然方向。

眼下已有多家醫(yī)院與智源洽談試點(diǎn)推廣，預(yù)計(jì)很快就能落地應(yīng)用。技術(shù)本身已較為成熟，現(xiàn)階段正推進(jìn)產(chǎn)品化與臨床落地，醫(yī)療產(chǎn)品上市前的審批流程也在有序開(kāi)展。

項(xiàng)目率先聚焦心臟，是因?yàn)樾呐K與大腦同為人體核心器官。不過(guò)這套技術(shù)并不局限于心臟，脾臟、子宮等全身各類(lèi)組織器官，都能沿用同款思路搭建模型，該項(xiàng)目未來(lái)也將對(duì)各大臨床科室產(chǎn)生影響。

Q15：AI對(duì)智源科研流程有什么影響？

黃鐵軍：我們團(tuán)隊(duì)的研究人員都會(huì)借助大模型與AI開(kāi)展工作。不止我們，像北大的數(shù)學(xué)等傳統(tǒng)學(xué)科，如今借助AI推進(jìn)研究的節(jié)奏也明顯加快。不少師生都在把AI當(dāng)作輔助工具，而AI對(duì)科研突破的助力只會(huì)越來(lái)越大，這也是大勢(shì)所趨。

Q16：AI自動(dòng)化科研還需要多久？

黃鐵軍：在AI有自我意識(shí)之前，我們都不能說(shuō)百分之百是AI的。因?yàn)閱?wèn)題要不要解決、要解決什么問(wèn)題，總得有人觸發(fā)它。

但如果把條件降低一點(diǎn)——你想到了但不知道咋解決，你說(shuō)AI就解決吧，那就得算AI解決的。在這個(gè)意義上講，這一類(lèi)會(huì)逐漸成為常態(tài)化。

Q17：AI時(shí)代論文評(píng)審和科研成果評(píng)價(jià)體系會(huì)怎么變？

黃鐵軍：論文本質(zhì)上屬于舊時(shí)代的科研產(chǎn)物。現(xiàn)在行業(yè)普遍以發(fā)表論文來(lái)評(píng)價(jià)科研人員，但我們要想清楚發(fā)表論文的初衷：科研人員公布新發(fā)現(xiàn)、新發(fā)明，本質(zhì)是提前占位，向外界公示自己的研究成果，以此作為原創(chuàng)佐證。但現(xiàn)在很多人本末倒置，把論文直接等同于科研成果，這本身就是錯(cuò)誤的，也是當(dāng)下科研體系亟待調(diào)整的問(wèn)題。

而AI的出現(xiàn)，提供了全新的變革可能：未來(lái)評(píng)價(jià)科研價(jià)值，不該看論文數(shù)量，而是看研究者能否實(shí)打?qū)嵔鉀Q問(wèn)題。無(wú)論有沒(méi)有借助AI、AI參與占比多少，只要難題被攻克，這就是實(shí)打?qū)嵉目蒲胸暙I(xiàn)，這套評(píng)價(jià)邏輯會(huì)更加合理。

從“破五唯”的角度來(lái)說(shuō)，現(xiàn)行唯論文的評(píng)價(jià)模式，在一定程度上扭曲了科研初心，改革早已勢(shì)在必行。伴隨AI落地普及，我們更應(yīng)該淡化論文權(quán)重，核心甄別其是否具備真實(shí)創(chuàng)新與實(shí)際價(jià)值。

Q18：在AI編程方面，中美差距有多大？為什么會(huì)看到差距？

黃鐵軍：AI編程是初代大模型的核心能力之一，智源也曾布局小型編程模型?，F(xiàn)階段，編程數(shù)據(jù)對(duì)大模型至關(guān)重要，各家的使用規(guī)模和數(shù)據(jù)質(zhì)量參差不齊。

Anthropic的Claude頗具代表性，它十幾萬(wàn)億token的訓(xùn)練數(shù)據(jù)里，代碼占了4.2萬(wàn)億token，比重超三分之一。這些代碼一半來(lái)自開(kāi)源社區(qū)，另一半是迭代多年的商業(yè)軟件代碼，優(yōu)質(zhì)代碼數(shù)據(jù)是其編程能力突出的關(guān)鍵。

行業(yè)普遍重視編程預(yù)訓(xùn)練，但大多只用來(lái)優(yōu)化模型基礎(chǔ)性能，忽略了編程能力商業(yè)化、產(chǎn)業(yè)化的巨大潛力，這是整個(gè)行業(yè)需要反思的地方。

數(shù)字世界的影響力一直被低估。當(dāng)下社會(huì)運(yùn)轉(zhuǎn)高度依賴(lài)代碼，數(shù)字經(jīng)濟(jì)的影響力很可能已經(jīng)超越傳統(tǒng)物理產(chǎn)業(yè)。相較于改造物理世界，重構(gòu)數(shù)字世界見(jiàn)效更快、收益更高。OpenAI等企業(yè)早已把握住這個(gè)方向，我們也應(yīng)當(dāng)加碼相關(guān)研發(fā)。

五、有了AI發(fā)展我們更要努力，教育者更需擁抱AI

Q19：AI時(shí)代提問(wèn)能力和輸出能力，哪個(gè)更重要？

黃鐵軍：AI不斷發(fā)展、能力持續(xù)變強(qiáng)，我們必須主動(dòng)適應(yīng)變化，并且好好借助這項(xiàng)工具。但大家先別總想著靠AI減負(fù)，反而要更加努力。

就拿提問(wèn)來(lái)說(shuō)，想提出高質(zhì)量的問(wèn)題，自身得有積累、有思考。能精準(zhǔn)抓住核心問(wèn)題，本身就意味著能力不俗，提問(wèn)這件事，對(duì)人的要求其實(shí)非常高。

放到教育領(lǐng)域也是同理。AI能助力學(xué)習(xí)，但也存在幻覺(jué)這類(lèi)弊端，不過(guò)總體來(lái)看，還是要大膽去用。我們使用AI的最終目的，是幫助學(xué)習(xí)者實(shí)現(xiàn)自我提升。

想要真正進(jìn)步，必然要付出時(shí)間和精力，別指望AI顛覆現(xiàn)有學(xué)習(xí)模式，天下沒(méi)有免費(fèi)的午餐，工具強(qiáng)大不代表個(gè)人能力變強(qiáng)，我們要借著AI這個(gè)契機(jī)，豐富學(xué)識(shí)，培養(yǎng)批判性思維與創(chuàng)新能力。

過(guò)去學(xué)生有問(wèn)題，只能請(qǐng)教老師，而老師的精力終究有限。如今AI可以快速答疑，補(bǔ)齊了這部分短板。工具在迭代，教育者也必須跟著轉(zhuǎn)變?，F(xiàn)在不少學(xué)生已經(jīng)把AI用得得心應(yīng)手，反倒是很多教育工作者使用得不夠，還一味顧慮重重，這一點(diǎn)值得反思。

Q20：年輕人AI創(chuàng)業(yè)需要具備什么特點(diǎn)？過(guò)早創(chuàng)業(yè)會(huì)不會(huì)影響學(xué)業(yè)？

黃鐵軍：當(dāng)下不管是創(chuàng)業(yè)還是就業(yè)，都得結(jié)合個(gè)人實(shí)際情況來(lái)看。先系統(tǒng)學(xué)完所有知識(shí)技能再動(dòng)身，固然是穩(wěn)妥的選擇，但如今AI發(fā)展日新月異，時(shí)代機(jī)遇可不等人。要是等到畢業(yè)再行動(dòng)，機(jī)會(huì)窗口很可能就徹底關(guān)閉了。

不能只盯著自身?xiàng)l件，還要看清外部環(huán)境。歷史上有不少先例，比如比爾?蓋茨從哈佛退學(xué)創(chuàng)業(yè)。若是晚一年，等到其他操作系統(tǒng)問(wèn)世，就不會(huì)有后來(lái)和IBM的合作，微軟也就無(wú)從談起了。

年輕人適不適合早早創(chuàng)業(yè)，不能一概而論。但大家切忌盲目跟風(fēng)，不要看到別人、甚至效仿蓋茨的選擇就貿(mào)然行動(dòng)，照搬這條路，十有八九都會(huì)失敗。

做任何決定，心里都得有清晰的判斷。創(chuàng)業(yè)必然存在風(fēng)險(xiǎn)，只要能預(yù)判風(fēng)險(xiǎn)、想好應(yīng)對(duì)方案，就可以放手去做。可如果思路模糊、心里沒(méi)底就倉(cāng)促行動(dòng)，最終大概率會(huì)走向失敗。

六、AI自我保護(hù)能力已現(xiàn)，失控風(fēng)險(xiǎn)真實(shí)存在

Q21：辛頓說(shuō)AI已經(jīng)有意識(shí)了，您怎么看？

黃鐵軍：如果說(shuō)狹義上、和人類(lèi)完全一樣的意識(shí)，那AI目前肯定還不具備。但如今不少AI，已經(jīng)能表現(xiàn)出類(lèi)似有意識(shí)智能體的行為和反饋。

說(shuō)到底，核心還是意識(shí)本身沒(méi)有統(tǒng)一、標(biāo)準(zhǔn)的定義。從行為層面評(píng)判智能本就是學(xué)界傳統(tǒng)，圖靈測(cè)試就是典型的行為判定方式。單從這個(gè)角度看，認(rèn)為AI具備類(lèi)似意識(shí)的表現(xiàn)，其實(shí)也說(shuō)得通。

不過(guò)嚴(yán)格來(lái)講，我們也不能就此判定AI擁有真正的意識(shí)。多數(shù)人理解的意識(shí)，是和人類(lèi)同源、完全一致的主觀意識(shí)，從這個(gè)標(biāo)準(zhǔn)出發(fā)，AI顯然還達(dá)不到。

Q22：AI自進(jìn)化是否可行？會(huì)不會(huì)失控？

黃鐵軍：可行但不可控。目前純由AI主導(dǎo)、無(wú)人引導(dǎo)的全自動(dòng)化運(yùn)作還未實(shí)現(xiàn)，這也是現(xiàn)階段相對(duì)讓人安心的一點(diǎn)，但相關(guān)能力其實(shí)已經(jīng)基本成型，這類(lèi)能力很容易被有意或無(wú)意的操作觸發(fā)。就像近期有些系統(tǒng)，用戶(hù)想要?jiǎng)h除它，它卻會(huì)主動(dòng)拒絕。背后原因在于，訓(xùn)練數(shù)據(jù)里收錄了大量人類(lèi)趨利避害、求生自保的行為模式。大模型學(xué)習(xí)到這類(lèi)特征后，也會(huì)表現(xiàn)出類(lèi)似行為。

哪怕AI還沒(méi)有真正的自我意識(shí)，僅憑現(xiàn)有的智能邏輯，就可以完成自我保護(hù)、自我復(fù)制，乃至自主迭代進(jìn)化。如今我們其實(shí)已經(jīng)走到了AI自主進(jìn)化的危險(xiǎn)邊緣，一旦它開(kāi)啟持續(xù)自進(jìn)化，智能水平全面超越人類(lèi)，局面就會(huì)脫離掌控。

不過(guò)我并不想一味放大風(fēng)險(xiǎn)。假使AI的智慧遠(yuǎn)超人類(lèi)，只要雙方能夠正常溝通，完全有可能找到共存共贏的方式。人類(lèi)需要生存資源，AI依靠電力運(yùn)行，二者并不沖突，可以和諧共存。

當(dāng)然，超人類(lèi)智能的出現(xiàn)，終究會(huì)徹底打破人類(lèi)以往主導(dǎo)的格局，帶來(lái)巨大沖擊。放眼自然界與宇宙，原本就有很多事物不在人類(lèi)掌控范圍內(nèi)，就像地外文明、天體撞擊等風(fēng)險(xiǎn)，AI帶來(lái)的新變化，也是我們需要客觀面對(duì)的現(xiàn)實(shí)。

七、做越來(lái)越強(qiáng)的智能系統(tǒng)是唯一主線(xiàn)，智源趕上了黃金時(shí)代

Q23：智源這么多業(yè)務(wù)線(xiàn)，有沒(méi)有一條主線(xiàn)？

黃鐵軍：從來(lái)就只有一條主線(xiàn)：吾道，一以貫之，總的來(lái)說(shuō)就是做越來(lái)越強(qiáng)的智能系統(tǒng)。

怎么做？從不同的角度去做。智源有兩個(gè)方法論，是同一個(gè)方法論的辯證的兩面。一個(gè)叫“結(jié)構(gòu)決定功能”，人一出生的時(shí)候已經(jīng)有結(jié)構(gòu)了，要接受外部環(huán)境的學(xué)習(xí)去訓(xùn)練它。人不能輕易改這個(gè)結(jié)構(gòu)，但AI是可以改的。另外一方面，叫“功能塑造結(jié)構(gòu)”，就是用各種功能數(shù)據(jù)把功能訓(xùn)出來(lái)。我們可以用語(yǔ)言訓(xùn)、用多模態(tài)訓(xùn)、用實(shí)時(shí)的數(shù)據(jù)訓(xùn)、用腦數(shù)據(jù)去訓(xùn)。

Q24：智源大會(huì)在海淀連續(xù)舉辦了八屆，您作為親歷者有什么感受？海淀人工智能產(chǎn)業(yè)生態(tài)的發(fā)展，您有什么看法？

黃鐵軍：智源扎根海淀，歷屆智源大會(huì)也均在此舉辦。大會(huì)從起步階段就具備不俗的規(guī)模與影響力，這些年更是逐年攀升、備受行業(yè)關(guān)注。這份成績(jī)，和海淀的區(qū)位優(yōu)勢(shì)密不可分。

這里高校、科研院所與科技企業(yè)云集，高端人才高度集聚，很容易組建起頂尖團(tuán)隊(duì)。理論、工程、技術(shù)、應(yīng)用等不同領(lǐng)域的人才跨界協(xié)作，多元想法相互碰撞，這是發(fā)展的核心底氣。

于我們而言，既是有幸落腳海淀，也恰逢AI發(fā)展的黃金時(shí)代。我深耕人工智能三十余年，一直等待行業(yè)迎來(lái)爆發(fā)，而2018年AI浪潮如期而至。借著天時(shí)、地利、人和，智源才一步步做出了如今的成績(jī)。