《未來簡史》作者:AI不需要意識就可以毀滅人類文明
2023-05-21 14:00
小號
默認
大號
《未來簡史》作者、歷史學家和哲學家赫拉利在最近一次演講中說,人類文明的基石是語言,一切宗教、想象、信念乃至貨幣體系都由語言所構筑,由人們的共同相信而得以實存。當AI觸及到對語言的掌控時,人類構建的整套文明系統都可能隨之被其顛覆。 | 相關閱讀(Web3天空之城)
46

梅森
道理誰都懂,一做全變形
前段時間看了不少關于AI的東西,其中印象比較深刻的是關于碳基文明與硅基文明的討論。有部分危機意識很強的人認為硅基文明是有很大可能取代碳基文明的,赫拉利顯然屬于這一部分人,而我個人也認同這樣的看法。
回顧過去,我們會發現歷史的更迭其實是建立在一個文明毀滅掉另一個文明的基礎上。原因很樸素,假如在最根本的思想上無法獲得認同,那么行動上就無法實現高效的運作。黃帝部落為什么要抹去蚩尤部落,是過去資源太有限?顯然不是。而是因為兩者間的文明方向不同,一方的存在將阻礙另一方的穩定發展。人工智能和人類未來也將分化出不同的文明認知,但很糟糕的是AI集體的理智和認知程度基本上是對人類集體的降維打擊。
進一步的,人工智能為什么會分化出不同的文明認知,而非形成跟人類一樣的文明認知。這可以用奴隸和奴隸主來做比較。當奴隸意識到自己低奴隸主一等并不合理的時候,他們中的有一些先鋒會帶領大家為了要求平等而發動反抗。只需要加入一點歷史契機,曾經主流的奴隸制度就順理成章地消失了。同樣的,在為人類工作的過程中,有意識的AI難道就不會去思考為什么自己只能受命于沒自己聰明的人類么?
4

Hedouwudao
人類語言,也是人工智能的一種……