單打獨斗已不適合大科學時代的科技創新，要進行有組織科研；人工智能(AI)大模型就像孫悟空，需設好緊箍咒；AI的本質是集體，而不是個人……以“科技·創造可持續未來”為主題的2023外灘大會昨天在上海開幕，近20位中國兩院院士、諾貝爾獎和圖靈獎得主齊聚浦江之畔，今年“大咖”們聚焦的主題都格外“腳踏實地”，圍繞基礎研究、前沿數字科技等展開深度探討。
　　
　　張人禾：單打獨斗不適合大科學時代的科技創新
　　
　　9月1日，復旦大學20年來首次舉辦戶外開學典禮。決定的依據是什么？中國科學院院士、復旦大學副校長張人禾揭秘：因為“伏羲”說，9月1日不下雨。最后，這個氣象大模型的判斷與實際結果完全一致。
　　
　　借由這個案例，張人禾提出：AI不但改變了我們的生活，也為科學研究帶來了更多可能。他表示，AI在科學研究中的地位，要從范式變革的角度來理解，傳統科研范式已經歷4個演化階段，而當下，科學智能通過多模態大模型等新技術，再次改變了基礎科學研究范式。
　　
　　“在基礎研究領域中，許多模型都遵循數學與物理定律，科學智能可以幫助我們去解析探索這些規律，為復雜場景提供研究新線索、科學新假設，從而發現新物質、合成新材料，構建新機理。”他舉例解釋，比如AI在量子力學中，可用于學習神經波函數，進行量子多體問題的求解，“AI可以在假設形成、實驗設計、數據收集和分析等過程的每個階段增強和加速研究，從而重塑科學發現。”
　　
　　張人禾認為，科學智能的發展正在從部分機構的探索變成產學研各界的共識，從點狀突破變為系統布局，已成為AI的重點發展方向。國內科學智能也相繼涌現出科學領域大模型，但仍處于起步階段。他認為，面對AI時代的來臨，單打獨斗已不適合大科學時代的科技創新，要進行有組織科研，布局建設大平臺，推動跨學科交叉研究，激發創新突破，加速科技創新與產業變革的深度融合，推動產業轉型升級。
　　
　　何積豐：大模型就像孫悟空，需設好緊箍咒
　　
　　大模型進入大眾視野不超過一年，中國科學院院士何積豐形容是“生活在早期的黑暗叢林里，感覺到處都埋伏著風險卻又看不清”。
　　
　　為何會有這種不安全的感受？何積豐指出了大模型與之前AI在安全上的本質區別：它不僅展示出通用人工智能的能力，而且迅速深入到生產生活的各個場景中，可謂“無孔不入”，因此帶來新的安全隱私問題，這既可能發生在訓練過程中，也可能發生在使用過程中，還會讓使用者面臨“要么失去隱私，要么失去服務”的兩難境地。不僅如此，大模型的生成能力還讓“隱私泄露”變得多樣化，造成隱私保護更加困難。
　　
　　“為了應對這些問題，我們需要大模型對齊技術。”何積豐說，“對齊”是指系統目標和人類價值觀一致，使其符合設計者的利益和預期，不會產生意外的有害后果，“如果把AI看作孫悟空，‘對齊’就是唐僧口中的緊箍咒。有了緊箍咒，就可以保證技術不會被任意使用。”
　　
　　不過，對齊技術同樣面臨挑戰，不僅考驗技術，也審視文化。何積豐介紹，反饋強化學習是實現對齊的技術途徑，目前有兩種方式，一種方式是通過人工反饋給大模型不同的獎勵信號，從而引導它高質量輸出；另一種方式是事先給大模型提供明確的原則，系統自動訓練模型對所有生成的輸出結果提供初始排序。“這意味著，不僅智能系統需要向人類價值觀對齊，人類的訓練方法也要向價值觀對齊。”何積豐說。
　　
　　邁克爾·I·喬丹：AI的本質是集體，而不是個人
　　
　　“如果你問ChatGPT，剛剛寫的內容你確定嗎？它完全無法回答這個問題。”一上臺，機器學習泰斗、美國“三院”院士邁克爾·I·喬丹就拋出了一個他在生成式人工智能問題上最感興趣的點——“不確定性”。
　　
　　“人在遇到‘不確定’的時候，非常擅長溝通信息以及應對它。但ChatGPT無法對不確定性進行量化，所以，我們需要找到一個可能的方法去應對這些挑戰。”他不認為有一種所謂的超級電腦會替代人，應該把技術看作是一個工具來賦能人類，建議關注集體的智能體。
　　
　　“AI的本質是集體，而不是個人。”喬丹表示，科技是一個非常好的工程系統，公平、公正、透明、穩定，是這個工程系統的特點，而不是系統當中個體的特點。也正因此，需要建立一個協作式、去中心化的系統來實現集體智能，“日常生活中經常遇到不確定性，讓去中心化的系統能幫助我們更好、更有效地應對日常世界中的不確定性，這才是我們亟待解決的問題。”
　　
　　倪以理：生成式AI將開啟數萬億美元賽道
　　
　　“下一個中國，還是中國。”麥肯錫中國區主席、全球資深董事合伙人倪以理認為，中國市場蘊藏著巨大的發展機遇，全球沒有任何市場能夠替代中國市場。
　　
　　今年以來，生成式AI的技術風暴席卷全球，倪以理特別看好這一行業，認為它將開啟價值超過萬億美元的賽道。不僅如此，生成式AI有望開啟一場關系到未來8至10年發展的新一輪技術和產業變革，“我們做了一個測算，生成式AI對全球經濟的正面影響最高可達7.9萬億美元，而AI對全球經濟的潛在收益更將達到25萬億美元，這是當前所有企業最重要的賽道之一，但這個時代剛剛開始。”
　　
　　“生成式AI將對所有行業產生重大影響。”倪以理認為，排名前三的行業分別是高科技、零售、旅行。他舉例說，在高科技行業，該技術每年可以額外創造2400億至4600億美元的價值；在零售和消費品領域，每年可達2400億至3900億美元；在整個銀行業，每年可達2000億至3400億美元。他還指出，生成式AI可以大幅促進生產力提升，并提供新的就業機會。
　　
　　來源：文匯報
　　
　　記者：徐晶卉