三年前的一幕讓人印象深刻。
當(dāng)時(shí),商湯科技聯(lián)合創(chuàng)始人、CEO徐立坐在我對(duì)面。說(shuō)到興奮處,他在桌子上憑空畫(huà)了一條線(xiàn)。“你瞧,這一條線(xiàn)是科技的發(fā)展。”然后他立刻反問(wèn):“我們?nèi)绾稳ザx一個(gè)時(shí)代?”
大約在2秒鐘后,他自己開(kāi)始解釋?zhuān)骸叭绻ゲ闀r(shí)代這個(gè)詞的定義,都說(shuō)是以政治、經(jīng)濟(jì)、文化等為依據(jù)而劃分的某個(gè)時(shí)期。但事實(shí)上,鐵器時(shí)代、蒸汽時(shí)代、電氣時(shí)代、甚至信息時(shí)代,我們所熟悉的所有時(shí)代的命名都與政治、經(jīng)濟(jì)、文化無(wú)關(guān)。只跟科技有關(guān)。”
接著,他又憑空畫(huà)了一條線(xiàn)。“這一條線(xiàn)是工業(yè)發(fā)展。”他說(shuō):“科技和工業(yè)發(fā)展始終并行。但什么時(shí)候這兩條線(xiàn)產(chǎn)生交集?”
徐立提出一個(gè)概念:“工業(yè)紅線(xiàn)”。在人工智能誕生的60年里,AI技術(shù)很難跨越這條工業(yè)紅線(xiàn),即沒(méi)有實(shí)質(zhì)上提高生產(chǎn)效率。他的觀點(diǎn)是,工業(yè)發(fā)展往往是跨越式的,而那個(gè)跳躍的節(jié)點(diǎn)往往就是技術(shù)突破了“工業(yè)紅線(xiàn)”,即規(guī)模化工業(yè)使用的標(biāo)準(zhǔn)。
三年過(guò)后,商湯繼續(xù)在人工智能的道路上高歌猛進(jìn)。在剛過(guò)去的2021世界人工智能大會(huì)上,商湯推出了可以奔向“元宇宙”,實(shí)現(xiàn)虛實(shí)結(jié)合全新交互體驗(yàn)的基礎(chǔ)設(shè)施SenseCore商湯AI大裝置;商湯車(chē)載業(yè)務(wù)亦在5年多的行業(yè)全棧能力積累上,推出智能汽車(chē)解決方案的獨(dú)立新品牌SenseAuto絕影。
松禾資本創(chuàng)始人厲偉曾表示,商湯創(chuàng)立之初,AI還不是一個(gè)受人關(guān)注的領(lǐng)域,但短短數(shù)年,人工智能對(duì)各個(gè)行業(yè)的改變已全面鋪開(kāi)。
然而,從零到一的突破從來(lái)都伴隨巨大挑戰(zhàn)。在可以看到的有關(guān)技術(shù)突破、商業(yè)落地等表層問(wèn)題之外,對(duì)于人工智能最深層次的擔(dān)憂(yōu)來(lái)自于倫理的懷疑。蘋(píng)果CEO庫(kù)克在麻省理工學(xué)院畢業(yè)典禮上說(shuō):“我不擔(dān)心人工智能像人類(lèi)一樣思考問(wèn)題,我擔(dān)心的是人類(lèi)像計(jì)算機(jī)一樣思考問(wèn)題——摒棄同情心和價(jià)值觀并且不計(jì)后果。”
一些發(fā)人深省的問(wèn)題正在發(fā)生。我們是否到達(dá)了一個(gè)探討人工智能倫理的時(shí)刻?如果已經(jīng)該討論這個(gè)問(wèn)題,那么這些倫理的原則和基礎(chǔ)都是什么?徐立有一套自己的思考方法。
《財(cái)富》(中文版):三年之前有一次交流,當(dāng)時(shí)你說(shuō)人工智能超過(guò)了一條工業(yè)紅線(xiàn)就將迎來(lái)爆發(fā)式的增長(zhǎng)。你覺(jué)得現(xiàn)在人工智能超越了那條工業(yè)紅線(xiàn)嗎?
徐立:我們其實(shí)獲益于兩波人工智能發(fā)展的紅利。第一波就是你剛才提到的,五年前技術(shù)突破第一次證明了AI能夠在一些領(lǐng)域超過(guò)“工業(yè)紅線(xiàn)”,通常可以認(rèn)為是超越了人的準(zhǔn)確率。但彼時(shí)我們也面臨另外一個(gè)困境,就是當(dāng)技術(shù)逐步深入行業(yè),會(huì)發(fā)現(xiàn)人工智能本身生產(chǎn)的成本非常高。
舉一個(gè)簡(jiǎn)單的例子,如果我們把“下圍棋”假設(shè)為一個(gè)生產(chǎn)過(guò)程。我們可以認(rèn)為阿爾法狗(AlphaGo)超越了工業(yè)紅線(xiàn),即人的水平。但如果投入阿爾法狗的目的僅是讓他以下棋為主業(yè),那它的投入可能要比中國(guó)現(xiàn)役近三百名職業(yè)棋手投入總和都高。所以第一波紅利通常帶來(lái)的只是在某些特定行業(yè)率先采用了AI技術(shù)。大規(guī)模的應(yīng)用還有賴(lài)于降低AI本身的生產(chǎn)成本。
人工智能發(fā)展的第二個(gè)紅利,就是隨著底層AI基礎(chǔ)設(shè)施的不斷投入,神經(jīng)網(wǎng)絡(luò)技術(shù)訓(xùn)練通用模型的能力正在逐步突破。目前,自動(dòng)化、規(guī)模化、集約化的AI模型量產(chǎn)正在逐步實(shí)現(xiàn)。
商湯在創(chuàng)立之初,就開(kāi)始投入并訓(xùn)練通用的大模型。簡(jiǎn)單來(lái)說(shuō),通用大模型具備觸類(lèi)旁通的能力,在建立通用的能力之后,在不同行業(yè)領(lǐng)域的細(xì)分場(chǎng)景中,只需依靠小樣本,就能迭代出優(yōu)質(zhì)的模型算法,真正突破人力密集型的投入,實(shí)現(xiàn)對(duì)長(zhǎng)尾應(yīng)用需求的滿(mǎn)足。這就像類(lèi)比于人的能力,人的感知和認(rèn)知能力是很通用的,對(duì)于一些新問(wèn)題的理解我們只需要小數(shù)據(jù)就可以了。
《財(cái)富》(中文版):前一段我看你參加了一個(gè)公開(kāi)的活動(dòng),你說(shuō)真正的顛覆式創(chuàng)新都不是從傳統(tǒng)創(chuàng)新范式中來(lái),是從天才靈光一現(xiàn)的腦洞或思想實(shí)驗(yàn)而來(lái),你相信天才的靈光閃現(xiàn)是偶然還是必然?
徐立:首先人類(lèi)歷史上很多顛覆性的科學(xué)創(chuàng)新和重大突破,都是通過(guò)人類(lèi)非常偶然的發(fā)現(xiàn),或是偶然的思想實(shí)驗(yàn)來(lái)完成,多源于“天才的猜想”,這種完成不可預(yù)測(cè)。
那么背后的原因是什么呢?
重大創(chuàng)新都是反共識(shí)的,只要是反共識(shí)的就不可能規(guī)劃,所以沒(méi)法用范式來(lái)規(guī)范。人類(lèi)不可能用固定的方法論去規(guī)劃一個(gè)普羅大眾沒(méi)有共識(shí)性的東西,并預(yù)測(cè)未來(lái)的發(fā)生。造成這種現(xiàn)象的原因,在于人類(lèi)對(duì)未知世界的認(rèn)知有局限性。
但在今天的人工智能時(shí)代,機(jī)器也可以進(jìn)行猜想,不依賴(lài)于人類(lèi)的認(rèn)知,有望幫助我們更早地發(fā)現(xiàn)科學(xué)規(guī)律的本質(zhì),更快地探索和發(fā)現(xiàn)未知,這正是人工智能所帶來(lái)的創(chuàng)新新范式。
我上次提到,假設(shè)機(jī)器能夠猜想出來(lái)牛頓定律,人類(lèi)會(huì)不會(huì)用這個(gè)定律?這是我們面臨的一個(gè)問(wèn)題。當(dāng)然人類(lèi)鑒別機(jī)器有效的猜想本身就是一個(gè)很難的題目。
我讀過(guò)一本大劉(劉慈欣)的小說(shuō),很強(qiáng)的智能體想要了解人類(lèi)寫(xiě)詩(shī)這件事情。最后發(fā)現(xiàn)即使能夠窮盡所有的詩(shī)的可能,仍無(wú)法得知哪一首詩(shī)是好的,所以在不能完全理解的情況下鑒別機(jī)器猜想的優(yōu)劣在這個(gè)情境下也充滿(mǎn)挑戰(zhàn)。
《財(cái)富》(中文版):我的理解這是智能與智慧的真正區(qū)別。
徐立:比如我們對(duì)于一些未來(lái)的可能性和技術(shù)突破會(huì)有很多的機(jī)器的猜想,這些猜想有一些是可以在未來(lái)極大推動(dòng)技術(shù)進(jìn)步的,但是有一些不行。那么究竟如何去甄別這些猜想的有效性、可靠度,會(huì)是留給未來(lái)的問(wèn)題。
《財(cái)富》(中文版):那么我們今天這個(gè)主題是探討未來(lái)人工智能的下一步,在未來(lái)可見(jiàn)的范圍內(nèi),你覺(jué)得人工智能的下一步是什么?
徐立:剛才也講到近年來(lái)人工智能的兩大紅利,也正是在這樣的認(rèn)知下,商湯累計(jì)近百億投入,建設(shè)了人工智能算法規(guī)模化生產(chǎn)所必備的AI基礎(chǔ)設(shè)施,我們稱(chēng)之為人工智能大裝置。
給它起名大裝置的原因是類(lèi)比物理的粒子對(duì)撞機(jī),就是希望寓意人工智能助力一種創(chuàng)新范式的轉(zhuǎn)換,通過(guò)“人工智能的粒子對(duì)撞機(jī)”,對(duì)海量數(shù)據(jù)甚至是構(gòu)建的巨大解空間進(jìn)行拆解和碰撞,用一定的隨機(jī)性來(lái)打破人類(lèi)認(rèn)知和應(yīng)用的邊界。
我認(rèn)為一些行業(yè)如果未知領(lǐng)域較多,比如地球科學(xué)、生命科學(xué)、制藥學(xué)、大氣科學(xué)的探究等,這些領(lǐng)域機(jī)器猜想或許會(huì)給我們一些意想不到的驚喜。
《財(cái)富》(中文版):這個(gè)隨機(jī)的實(shí)驗(yàn)是不是就是你剛才說(shuō)的偶然性的問(wèn)題?
徐立:舉一個(gè)例子,最近我們看到人工智能在蛋白質(zhì)結(jié)構(gòu)解析方面有很多突破。人類(lèi)要完成這樣的工作可能需要很長(zhǎng)時(shí)間,但機(jī)器就可以在很短的時(shí)間之內(nèi)做到。
現(xiàn)在的假設(shè)是氨基酸的序列是決定蛋白質(zhì)結(jié)構(gòu)的唯一因素。但接下來(lái)我們還可以做很多類(lèi)似于粒子對(duì)撞機(jī)的隨機(jī)撞擊實(shí)驗(yàn)。比如將更多的輸入因素放入實(shí)驗(yàn),看看有沒(méi)有提升預(yù)測(cè)的結(jié)果。而預(yù)測(cè)變得更準(zhǔn)確時(shí),我們又可以借助于這樣的結(jié)果來(lái)重新理解決定蛋白質(zhì)結(jié)構(gòu)的核心要素。這就是通過(guò)隨機(jī)的撞擊來(lái)加速科學(xué)研究了。研發(fā)的結(jié)果會(huì)加速生物制藥以及其他科學(xué)的進(jìn)展。
當(dāng)然,有時(shí)候相關(guān)的突破或許在當(dāng)下這個(gè)時(shí)代沒(méi)有辦法解釋?zhuān)赡苄枰鹊綑C(jī)器猜出牛頓定律的一百年之后出現(xiàn)一個(gè)“牛頓”來(lái)真正解釋這背后的原因。
《財(cái)富》(中文版):這些也是商湯科技在做的嗎?比如說(shuō)你剛才說(shuō)的蛋白質(zhì)的組合。
徐立:商湯AI大裝置提供了一個(gè)底層的能力平臺(tái)。正如前面所提,正如粒子對(duì)撞機(jī)。在這個(gè)擁有一定隨機(jī)性的過(guò)程中,可探索的空間非常大。對(duì)于基礎(chǔ)設(shè)施,特別是算力的需求,其實(shí)是指數(shù)級(jí)增長(zhǎng)。有數(shù)據(jù)顯示,在過(guò)去的十年之內(nèi),最好的人工智能算法對(duì)于算力需求的增長(zhǎng)超過(guò)了100萬(wàn)倍。
這和很多人的認(rèn)知都相反,大家都覺(jué)得算法越精妙應(yīng)該算的越少,其實(shí)并不是。算法越好反而算的越多,它其實(shí)是在驗(yàn)證不同的可能性以及探究應(yīng)用的邊界。
《財(cái)富》(中文版):就是你剛才說(shuō)的反共識(shí)。
徐立:對(duì),反共識(shí)。
《財(cái)富》(中文版):如果我們?cè)倮稽c(diǎn),元宇宙可能是最近一年科技圈最火的一個(gè)話(huà)題,人工智能在元宇宙里面扮演了什么樣的角色?你怎么理解元宇宙?
徐立:我覺(jué)得元宇宙一直存在于各種我們?nèi)粘5膽?yīng)用中,包括說(shuō)我們?cè)瓉?lái)說(shuō)的游戲,其實(shí)都是元宇宙的某種形式。
但是最近元宇宙很火爆的核心原因,其實(shí)和人工智能被大家關(guān)注的原因一樣,因?yàn)樗饾u接近于真實(shí)的世界。
如果虛擬世界非常不真實(shí),就像你每天玩游戲,玩的內(nèi)容和現(xiàn)實(shí)世界完全沒(méi)有連接,你不會(huì)覺(jué)得它是一個(gè)宇宙。只有當(dāng)他更像真實(shí)世界,當(dāng)真實(shí)世界所有東西都能夠被反映和連接到元宇宙當(dāng)中,并能夠因此產(chǎn)生交互,你會(huì)覺(jué)得它給了我第二種可能性,從而帶來(lái)了第二、第三甚至更多的宇宙。
在這個(gè)過(guò)程當(dāng)中,人工智能扮演的角色就是連接真實(shí)世界和虛擬世界,讓用戶(hù)在不同的宇宙中生活。在真實(shí)世界中每個(gè)人有自己的身份,而在虛擬世界,你亦可以通過(guò)另外的角色完成與周?chē)h(huán)境的實(shí)時(shí)互動(dòng)。
《財(cái)富》(中文版):真實(shí)和虛擬世界之間的轉(zhuǎn)換是可以通過(guò)算力來(lái)完成的嗎?
徐立:是的。算力可以幫助將真實(shí)世界投射到虛擬世界中。通常第一步是把相關(guān)信息采集下來(lái),并沒(méi)有真正語(yǔ)義上的東西,僅完成了所謂的空間數(shù)據(jù)化。但是通過(guò)AI與算力的突破,每一件東西正逐步被賦予人類(lèi)能理解的含義,不僅是空間數(shù)據(jù)化,還有要素結(jié)構(gòu)化、流程交互化,進(jìn)而對(duì)應(yīng)到虛擬世界當(dāng)中。讓人們不僅可以訪問(wèn)、還可以使用、修改真實(shí)世界相關(guān)的內(nèi)容甚至進(jìn)行互動(dòng)。
所以有關(guān)真正的元宇宙,我的理解是人們可以在其中對(duì)真實(shí)世界進(jìn)行交互,并且也可以將虛擬世界中的種種體驗(yàn)投射到現(xiàn)實(shí)世界中。否則它的意義只是一個(gè)游戲,或者說(shuō)只是一個(gè)APP。
《財(cái)富》(中文版):那么如果再上升一步,首先我先想跟你探討一個(gè)假設(shè)和前提,你覺(jué)得我們現(xiàn)在是不是到了應(yīng)該探討人工智能倫理問(wèn)題的時(shí)刻?這個(gè)話(huà)題首先你同意這個(gè)假設(shè)嗎?
徐立:我覺(jué)得非常值得去探討。人工智能的創(chuàng)新來(lái)源于對(duì)過(guò)往認(rèn)知的顛覆,因此行業(yè)應(yīng)用中的倫理治理問(wèn)題就愈發(fā)重要。同時(shí),科學(xué)發(fā)展的路徑之一是演繹,即給一個(gè)基點(diǎn),不停的推到邊界。既然今天對(duì)這個(gè)倫理治理上有一些核心原則的話(huà),我們完全可以通過(guò)原則往前演進(jìn),去探索一下我們倫理和機(jī)器可觸達(dá)的邊界是什么。
《財(cái)富》(中文版):你剛才說(shuō)到了原則,這個(gè)原則如果給人工智能來(lái)制定的話(huà)你會(huì)如何制定?
徐立:對(duì)于世界范圍內(nèi)人工智能倫理治理的框架,商湯曾做過(guò)一個(gè)比較全面的研究。
我們發(fā)現(xiàn)大部分的倫理治理框架都可以被歸類(lèi)為三大類(lèi):一類(lèi)就是以人為本,無(wú)論是人的公平性、身份性問(wèn)題、尊嚴(yán)性問(wèn)題或者是確認(rèn)主權(quán)問(wèn)題,數(shù)據(jù)安全問(wèn)題等,都屬于以人為本的范疇;第二類(lèi)叫技術(shù)可控,包含透明計(jì)算、可解釋性、技術(shù)安全的邊界等;第三點(diǎn)就是可持續(xù)發(fā)展,尋求綠色的,長(zhǎng)期的發(fā)展。
我認(rèn)為未來(lái)的人工智能倫理治理其實(shí)就是在這三大支柱當(dāng)中求得平衡。
當(dāng)然,我們一直強(qiáng)調(diào)的是要秉承“發(fā)展”的人工智能倫理觀。最容易滿(mǎn)足所有治理框架要求的,就是什么都不去突破,但這樣大家就會(huì)忘了我們最初出發(fā)目標(biāo)是什么,我們的初心就是用人工智能去推動(dòng)社會(huì)的發(fā)展,這是目標(biāo)。以數(shù)學(xué)優(yōu)化來(lái)舉例,我們的優(yōu)化函數(shù)是人工智能推動(dòng)社會(huì)的進(jìn)步,下面有三個(gè)約束條件需要滿(mǎn)足。但是很多時(shí)候,如果我們只談約束條件,而忽略了優(yōu)化函數(shù)的目標(biāo),那么這個(gè)優(yōu)化是不成功的。
《財(cái)富》(中文版):如果這么來(lái)說(shuō),你覺(jué)得人工智能會(huì)更加劇人和人之間的不平等還是平等?這個(gè)美好世界的定義在哪兒?人工智能如何達(dá)到這個(gè)所謂的美好世界?
徐立:談人工智能的公平性基本是談?wù)摂?shù)據(jù)樣本的偏差可能帶來(lái)人工智能算法的偏差,這個(gè)隨著技術(shù)演進(jìn)都能得到改善。而我認(rèn)為更大層面上的公平來(lái)自可能的少數(shù)人能獲益于人工智能帶來(lái)的便利,這將會(huì)帶來(lái)不平等。
而我的理解,人工智能作為一個(gè)通用技術(shù)從量變到質(zhì)變的核心要素,是其能否真正降低其生產(chǎn)要素的成本。如果說(shuō)某項(xiàng)技術(shù)特別高精尖,需要非常高成本投入才能完成的話(huà),那必然是少數(shù)人、頭部企業(yè)、頭部場(chǎng)景才能夠使用到這樣的技術(shù),那么勢(shì)必帶來(lái)不平等。
回看歷史,無(wú)論是鐵器時(shí)代、蒸汽時(shí)代、電氣時(shí)代、甚至信息時(shí)代,所有的時(shí)代都是以技術(shù)命名的。而命名這個(gè)時(shí)代的技術(shù)有一個(gè)很核心的共同點(diǎn),就是他們都大幅度降低了當(dāng)時(shí)生產(chǎn)要素的價(jià)格,從而顯著提高了生產(chǎn)效率。
人工智能技術(shù)如果要帶來(lái)普適、普惠、公平,那一定是它將我們時(shí)代的生產(chǎn)要素的成本成百倍下降,例如真正意義上使得原本我們獲取不到的教育資源、醫(yī)療資源等,更好、更廉價(jià)、更公平地開(kāi)放給全社會(huì)。(財(cái)富中文網(wǎng))