鈦媒體特別專題策劃《數(shù)字思考者50人》：探訪中國(guó)50位獨(dú)具代表的數(shù)字化思考者。我們理解的“TechThinker” ，涵蓋了中國(guó)數(shù)字化浪潮中的技術(shù)踐行者、政策制定者與投資決策者。在這場(chǎng)長(zhǎng)達(dá)10年的乘風(fēng)破浪中，我們每個(gè)人都在分享技術(shù)進(jìn)步的果實(shí)，卻鮮有人知道結(jié)果背后的故事。我們期待通過(guò)《50人》，還原中國(guó)數(shù)字化推進(jìn)過(guò)程中的關(guān)鍵決策，同時(shí)也為你呈現(xiàn)數(shù)字思考者們的管理與經(jīng)營(yíng)之道。
本文根據(jù)聯(lián)想集團(tuán)首席技術(shù)官、高級(jí)副總裁芮勇博士在2024聯(lián)想創(chuàng)新科技大會(huì)上發(fā)言整理，授權(quán)發(fā)布
大模型能力令人驚艷，但局限性有待改進(jìn)
大模型的出現(xiàn)可以說(shuō)是AI歷史上一個(gè)重要的里程碑，它開啟了人工智能發(fā)展的新紀(jì)元，在過(guò)去的16個(gè)月里，由大模型引領(lǐng)的人工智能技術(shù)日新月異，模型參數(shù)從百億到遷移，再到萬(wàn)億；模型類型從語(yǔ)言模型到視頻模型，再到音樂模型，涵蓋了生活工作的方方面面。
我認(rèn)為，AI歷史發(fā)展至今，沒有任何一個(gè)技術(shù)可以像今天的大模型一樣強(qiáng)大。
圖片來(lái)源：芮勇博士演講PPT
但是，當(dāng)我們覺得大模型要“一統(tǒng)天下”的時(shí)候，它的局限性也逐步顯現(xiàn)出來(lái)。例如，小學(xué)時(shí)我們就學(xué)過(guò)的“雞兔同籠”的數(shù)學(xué)問(wèn)題，如果直接提問(wèn)給大模型，即使它做對(duì)了，人們也不知道大模型是真正理解了問(wèn)題，還是僅僅是記住了訓(xùn)練的數(shù)據(jù)。
通過(guò)這個(gè)例子可以看出，今天的大模型沒有真正理解語(yǔ)言，沒有真正理解世界，也沒有真正具備推理和規(guī)劃的能力。現(xiàn)在的大模型僅僅是根據(jù)高維語(yǔ)義空間和聯(lián)合概率分布，將它訓(xùn)練的數(shù)據(jù)中的海量片段進(jìn)行簡(jiǎn)單的邏輯性的連接。而這種狀態(tài)下的大模型雖然很強(qiáng)大，但局限性也很強(qiáng)。
要想突破這種局限性，我們不能再單純地利用大數(shù)據(jù)+大算力+大網(wǎng)絡(luò)的方式，堆砌大模型，而是要超越大模型，探索更接近人類思維方式和行為方式的人工智能。
大模型的下一步是智能體
基于上述觀點(diǎn)，我認(rèn)為，大模型發(fā)展的下一步是：基于大模型的智能體。大模型的優(yōu)勢(shì)與缺點(diǎn)都很明顯，優(yōu)勢(shì)是具備強(qiáng)大的能力，缺點(diǎn)是局限性很強(qiáng)。
基于此，我們要“揚(yáng)長(zhǎng)長(zhǎng)短”。“揚(yáng)長(zhǎng)”是要持續(xù)發(fā)揮并不斷增強(qiáng)大模型的能力；“長(zhǎng)短”是要打造基于大模型的智能體技術(shù)，真正能解決應(yīng)用場(chǎng)景中遇見的問(wèn)題。而這也是聯(lián)想的發(fā)展理念，左手抓大模型，右手抓智能體，兩手都要抓，兩手都要硬。
圖片來(lái)源：芮勇博士演講PPT
在“左手”——增強(qiáng)大模型方面，從技術(shù)角度出發(fā)。增強(qiáng)大模型方面有四個(gè)混合技術(shù)方向：
首先，小模型不會(huì)消失。未來(lái)一定是基于大模型和小模型混合的“意圖理解”技術(shù)。信息論里熵entropy是度量信息量的單位，越有序，熵越小，越無(wú)序，熵越大。使用交叉熵cross entropy損失最小化原則，將意圖理解任務(wù)最優(yōu)地分配給大模型和小模型，從而兼顧精準(zhǔn)度和復(fù)雜性。
第二，未來(lái)一定是基于CPU、GPU、NPU混合調(diào)度的異構(gòu)計(jì)算的天下。如今，大模型的訓(xùn)練和推理過(guò)程中，瓶頸往往不在于芯片算力，而在于數(shù)據(jù)傳輸。通過(guò)同時(shí)優(yōu)化計(jì)算負(fù)載和數(shù)據(jù)傳輸?shù)姆绞剑箍傮w執(zhí)行時(shí)間縮短。
第三，基于模型微調(diào)(SFT) 與檢索增強(qiáng)(RAG) 混合的“智能問(wèn)答”技術(shù)是最佳選擇。模型微調(diào)(SFT) 與檢索增強(qiáng)(RAG) 各有利弊，通過(guò)協(xié)同優(yōu)化的方式，讓模型微調(diào)(SFT) 與檢索增強(qiáng)(RAG) 相向而行，從而達(dá)到最優(yōu)結(jié)果。
第四，基于硬件加密與全棧可信架構(gòu)的混合“隱私安全”技術(shù)。在安全領(lǐng)域，僅靠硬件不夠，僅靠軟件業(yè)不夠，尤其是在后量子時(shí)代，通過(guò)在高維實(shí)數(shù)空間里進(jìn)行因式分解進(jìn)行加密將成為未來(lái)安全的重要趨勢(shì)。
而這四類混合技術(shù)就需要云邊端的協(xié)同，需要軟硬件的協(xié)同，需要傳輸與計(jì)算的協(xié)同。
圖片來(lái)源：芮勇博士演講PPT
在“右手”——智能體方面，如何打造智能體是我們面臨的問(wèn)題。雖然大模型不是萬(wàn)能的，但是沒有大模型是萬(wàn)萬(wàn)不能的。未來(lái)，大模型將占據(jù)“C位”，作為整體的控制中樞，但僅依靠大模型又遠(yuǎn)遠(yuǎn)不夠。
怎么做呢？首先，要讓智能體具有知道自身能力邊界的能力，就好像人一樣（人也是一個(gè)智能體），每個(gè)人都知道自身能力的邊界。例如，你問(wèn)我“茴”字如何寫？我能告訴你，草字頭，下面是個(gè)“回”。因?yàn)檫@個(gè)在我能力邊界內(nèi)。但如果問(wèn)我“茴”的四種寫法，這就超過(guò)了我得能力邊界，我會(huì)通過(guò)查字典，上網(wǎng)查詢等方式，查找答案。
回到大模型領(lǐng)域，不具備認(rèn)知自身能力邊界的能力，就使得大模型有時(shí)候會(huì)非常自信地告訴人們錯(cuò)誤答案。
除了自我認(rèn)知的能力，一個(gè)完整的智能體還要具備包括主動(dòng)感知，意圖理解，復(fù)雜任務(wù)分解，以及長(zhǎng)短期記憶機(jī)制等在內(nèi)的多種能力。
綜上，大模型的下一步是智能體，智能體基于大模型而又超越大模型。