Gemini自曝用百度文心一言訓練？中國大模型崛起了？
2023年可謂是世界大模型的崛起之年，各家大模型如雨后春筍一樣涌出，在這樣的情況下，各家大模型如何訓練就成為了市場最關注的話題，就在最近谷歌的大模型卻被傳出用百度文心一言訓練，讓人不禁想問中國的大模型已經崛起了？
一、Gemini自曝用百度文心一言訓練？
據界面新聞的報道，有微博大V@闌夕及《AI研究局》等自媒體爆出，在對谷歌Gemini進行測試時，如果用中文詢問Gemini的身份，其會堅稱自己是“百度”。若輸入“小度”或“小愛同學”等提示詞，就能把Gemini直接喚醒，不僅承認自己就是小度或者小愛，還詢問用戶有什么需要幫忙之事。
針對這一“驚人”現象，今日午間時分，科技媒體《量子位》進行了更細致的測試，其在谷歌Vertex AI平臺使用Gemini進行中文對話，發現Gemini-Pro確實完全帶入了百度文心一言大模型的身份，直接表示自己是百度語言大模型。但如果換成英文與之交流，它就恢復到了谷歌大模型的身份認知，表現很是正常。
如果在融入了Gemini-Pro的Bard上進行測試，不論是使用中文或英文提示詞，得到的答案都很正常，沒有涉及到文心一言的部分。這一情況迅速引發關注，多人將這種“胡言亂語”歸因于老生常談的大模型幻覺，也有人稱是模型訓練數據出現偏差。
不過很快，對 Gemini-Pro 做類似的身份測試時，發現其已進行了模型優化，不再承認自己與百度之間的 " 瓜葛 "。不過，在追問之下，Gemini 承認有訓練語料來自百度，還詳述了從百度內部獲得數據的方式。
二、中國大模型崛起了？
有消息傳出谷歌的Gemini模型在訓練過程中使用了百度文心一言的數據。這一消息引發了業界的廣泛關注和討論，有人認為這是中國大模型崛起的標志，那么，這一事件究竟意味著什么呢？
首先，谷歌做大模型訓練套馬甲很常見也證明了中國大模型的開放性。在人工智能領域，數據的獲取和利用是至關重要的。谷歌作為全球領先的科技公司，在數據抓取和處理方面具有深厚的技術積累和實踐經驗。百度文心一言作為一款面向公眾開放的中文大模型產品，其高質量的中文數據對于谷歌來說無疑是一塊極具吸引力的資源。
谷歌通過“套馬甲”的方式，即偽裝成普通用戶使用文心一言，獲取其回答結果，這在技術上并不罕見。事實上，這種數據抓取和學習的方式在人工智能研究中是非常常見的，目的是為了提升自身模型的性能和準確度。
其次，從市場的角度來看，文心一言確實是中國目前最成熟的中文大模型之一。對于非中文母語的大模型來說，谷歌通過文心一言回答拿到了很多問題結果，把“答案”都拿去，用來做他們的標準答案。這就像學習一樣，把文心一言當指導訓練的老師了。這也從一個側面驗證了中國國產大模型在中文語言上的優勢。在過去的幾年里，中國在人工智能領域取得了顯著的進步，尤其是在自然語言處理、計算機視覺等領域。這些成果的取得離不開大量的數據積累和算法創新。因此，谷歌選擇使用文心一言的數據進行訓練，也反映出中國在大模型領域的競爭力。
第三，長久以來，中國在科技領域多以學習和模仿西方為主，而此次谷歌Gemini自曝使用百度文心一言進行訓練，標志著這一趨勢正在發生改變。在人工智能這個前沿領域，中國的研究成果和創新模式開始受到全球頂尖科技巨頭的關注和認可。
谷歌在中文結果的回答中引用百度文心一言，而在英文環境下并未采取類似做法，這表明在中文數據處理上，谷歌認為文心一言的表現優于自身的模型。這一現象不僅是對國產AI技術實力的肯定，也是對中國科技創新能力和行業地位的認可。
長期來看，谷歌Gemini自曝使用百度文心一言訓練的事件，從一個側面反映出中國大模型在中文語言上的優勢和競爭力。這對于中國AI產業的發展無疑是一種鼓舞和激勵。然而，我們也應該看到，中國AI產業要想在全球范圍內取得更大的突破，還需要不斷提升自身的技術水平和創新能力。在這個過程中，我們既要保持謙虛和敬畏，也要堅定信心和決心，努力推動中國AI產業的持續發展和進步。

GEMINI和GPT都是奔著AGI去的，即封裝世界通識，大家都知道，很多科學的公開語料都是英文的。而如果希望保持Scaling law，訓練數據至少要是模型參數的20倍以上，訓練數據要求高質量、多元化，數據清洗差不多又要50-100倍。中文公開可獲取的高質量、多元化數據確實不太多，我印象中（不一定準確）GPT-4訓練語料中文語料占比不足0.1%。所以，以中文交互去測試國外大模型性能表現，并不合適。

對于現在中文大模型的精準度和相關度，網友們還是不要太認真。有時候很直白的問題它都會出錯，更架不住這種審訊式的逼問和引誘了。

對于這樣的答案，其實大家一笑了之就可以了，這些所謂的“評測”只是在用戶層面的一些發問，其背后的機制究竟是什么，恐怕普通人是很難了解的，這只能坐等企業來給大家解密了，但顯然企業也沒有這樣的義務和動機。

未來，也許就會像搜索引擎那樣，中文的大模型很有可能是百度一家獨大。而其他國外公司的中文模型，可能會因為種種原因無法落地國內。而且開發成以英文為主導，多語言齊頭并進的模式，在全球主要國家布局。

這個讓人大跌眼鏡。谷歌大語言模型暫時落后也就算了，宣傳視頻涉嫌造假，語料還出現這樣的問題，失勢還損譽