鈦媒體特別專題策劃《數(shù)字思考者50人》：探訪中國50位獨具代表的數(shù)字化思考者。我們理解的“TechThinker” ，涵蓋了中國數(shù)字化浪潮中的技術(shù)踐行者、政策制定者與投資決策者。在這場長達(dá)10年的乘風(fēng)破浪中，我們每個人都在分享技術(shù)進(jìn)步的果實，卻鮮有人知道結(jié)果背后的故事。我們期待通過《50人》，還原中國數(shù)字化推進(jìn)過程中的關(guān)鍵決策，同時也為你呈現(xiàn)數(shù)字思考者們的管理與經(jīng)營之道。
本文根據(jù)聯(lián)想集團(tuán)首席技術(shù)官、高級副總裁芮勇博士在2024聯(lián)想創(chuàng)新科技大會上發(fā)言整理，授權(quán)發(fā)布
大模型能力令人驚艷，但局限性有待改進(jìn)
大模型的出現(xiàn)可以說是AI歷史上一個重要的里程碑，它開啟了人工智能發(fā)展的新紀(jì)元，在過去的16個月里，由大模型引領(lǐng)的人工智能技術(shù)日新月異，模型參數(shù)從百億到遷移，再到萬億；模型類型從語言模型到視頻模型，再到音樂模型，涵蓋了生活工作的方方面面。
我認(rèn)為，AI歷史發(fā)展至今，沒有任何一個技術(shù)可以像今天的大模型一樣強大。
圖片來源：芮勇博士演講PPT
但是，當(dāng)我們覺得大模型要“一統(tǒng)天下”的時候，它的局限性也逐步顯現(xiàn)出來。例如，小學(xué)時我們就學(xué)過的“雞兔同籠”的數(shù)學(xué)問題，如果直接提問給大模型，即使它做對了，人們也不知道大模型是真正理解了問題，還是僅僅是記住了訓(xùn)練的數(shù)據(jù)。
通過這個例子可以看出，今天的大模型沒有真正理解語言，沒有真正理解世界，也沒有真正具備推理和規(guī)劃的能力?，F(xiàn)在的大模型僅僅是根據(jù)高維語義空間和聯(lián)合概率分布，將它訓(xùn)練的數(shù)據(jù)中的海量片段進(jìn)行簡單的邏輯性的連接。而這種狀態(tài)下的大模型雖然很強大，但局限性也很強。
要想突破這種局限性，我們不能再單純地利用大數(shù)據(jù)+大算力+大網(wǎng)絡(luò)的方式，堆砌大模型，而是要超越大模型，探索更接近人類思維方式和行為方式的人工智能。
大模型的下一步是智能體
基于上述觀點，我認(rèn)為，大模型發(fā)展的下一步是：基于大模型的智能體。大模型的優(yōu)勢與缺點都很明顯，優(yōu)勢是具備強大的能力，缺點是局限性很強。
基于此，我們要“揚長長短”。“揚長”是要持續(xù)發(fā)揮并不斷增強大模型的能力；“長短”是要打造基于大模型的智能體技術(shù)，真正能解決應(yīng)用場景中遇見的問題。而這也是聯(lián)想的發(fā)展理念，左手抓大模型，右手抓智能體，兩手都要抓，兩手都要硬。
圖片來源：芮勇博士演講PPT
在“左手”——增強大模型方面，從技術(shù)角度出發(fā)。增強大模型方面有四個混合技術(shù)方向：
首先，小模型不會消失。未來一定是基于大模型和小模型混合的“意圖理解”技術(shù)。信息論里熵entropy是度量信息量的單位，越有序，熵越小，越無序，熵越大。使用交叉熵cross entropy損失最小化原則，將意圖理解任務(wù)最優(yōu)地分配給大模型和小模型，從而兼顧精準(zhǔn)度和復(fù)雜性。
第二，未來一定是基于CPU、GPU、NPU混合調(diào)度的異構(gòu)計算的天下。如今，大模型的訓(xùn)練和推理過程中，瓶頸往往不在于芯片算力，而在于數(shù)據(jù)傳輸。通過同時優(yōu)化計算負(fù)載和數(shù)據(jù)傳輸?shù)姆绞剑箍傮w執(zhí)行時間縮短。
第三，基于模型微調(diào)(SFT) 與檢索增強(RAG) 混合的“智能問答”技術(shù)是最佳選擇。模型微調(diào)(SFT) 與檢索增強(RAG) 各有利弊，通過協(xié)同優(yōu)化的方式，讓模型微調(diào)(SFT) 與檢索增強(RAG) 相向而行，從而達(dá)到最優(yōu)結(jié)果。
第四，基于硬件加密與全棧可信架構(gòu)的混合“隱私安全”技術(shù)。在安全領(lǐng)域，僅靠硬件不夠，僅靠軟件業(yè)不夠，尤其是在后量子時代，通過在高維實數(shù)空間里進(jìn)行因式分解進(jìn)行加密將成為未來安全的重要趨勢。
而這四類混合技術(shù)就需要云邊端的協(xié)同，需要軟硬件的協(xié)同，需要傳輸與計算的協(xié)同。
圖片來源：芮勇博士演講PPT
在“右手”——智能體方面，如何打造智能體是我們面臨的問題。雖然大模型不是萬能的，但是沒有大模型是萬萬不能的。未來，大模型將占據(jù)“C位”，作為整體的控制中樞，但僅依靠大模型又遠(yuǎn)遠(yuǎn)不夠。
怎么做呢？首先，要讓智能體具有知道自身能力邊界的能力，就好像人一樣（人也是一個智能體），每個人都知道自身能力的邊界。例如，你問我“茴”字如何寫？我能告訴你，草字頭，下面是個“回”。因為這個在我能力邊界內(nèi)。但如果問我“茴”的四種寫法，這就超過了我得能力邊界，我會通過查字典，上網(wǎng)查詢等方式，查找答案。
回到大模型領(lǐng)域，不具備認(rèn)知自身能力邊界的能力，就使得大模型有時候會非常自信地告訴人們錯誤答案。
除了自我認(rèn)知的能力，一個完整的智能體還要具備包括主動感知，意圖理解，復(fù)雜任務(wù)分解，以及長短期記憶機(jī)制等在內(nèi)的多種能力。
綜上，大模型的下一步是智能體，智能體基于大模型而又超越大模型。