摘 要:隨著深度學習、多模態技術及大語言模型等新一代人工智能技術的突破性發展，人工智能領域呈現出前所未有的發展態勢。人工智能正在快速改變經濟、社會和日常生活方式，為產業升級、社會治理和生活便利化提供了重要驅動力。然而，伴隨這一發展進程的是信息安全、社會公平、就業結構、資源消耗、地緣沖突與數字鴻溝等多維度風險。針對新一代人工智能技術所衍生的風險， 應當持續推進算法透明化建設、健全法律與倫理框架體系、增強社會保障能力、推動綠色科技創新以及深化國際合作，以期在確保新一代人工智能技術安全、公平發展的基礎上，實現其可持續發展，讓世界共享人工智能發展紅利。

關鍵詞:新一代人工智能 社會影響 風險治理 國際合作

【中圖分類號】TP18 【文獻標識碼】A

第二次世界大戰期間，以艾倫·圖靈（Alan Turing）為代表的數學家們發明了現代計算機的前身產品，從而極大提升了人類的計算速度。這些經驗促使圖靈于1950年在著作《計算機器與智能》中提出了一個具有里程碑意義的問題，即“機器能夠思考嗎？”1956年，另一位計算機行業先驅約翰·麥卡錫（John McCarthy）正式提出了“人工智能”的概念，意指機器有可能模擬人類的智能特征。[1]自此之后，世界各國各學科人才一直致力于該領域的研究。在長達數十年的時間里，有關人工智能的研究形成了“結構模擬”“功能模擬”“行為模擬”等三大流派，它們代表不同的研究理念，在不同場景也具有各自的獨特優勢。但是，從根本上來說，在當時的技術水平條件下，整個人工智能研究缺乏“三算”（算力、算法、算料）基礎，由此研究曾長期處于難以推進的尷尬狀態。[2]

新世紀以來，半導體、高速通信及數字存儲技術的突破性進展加速了人類社會的信息化進程。計算能力的指數級增長、算法的持續優化及數據規模的爆發式擴張，為人工智能研究開創了前所未有的發展機遇。新一代人工智能技術迅速崛起，成為全球科技創新的核心領域。然而，技術發展往往是“雙刃劍”，在促進人類福祉提升的同時，亦可能衍生難以預測的潛在風險。這就要求我們深入研究人工智能對社會系統的影響機理，并構建相應的風險防控體系。

新一代人工智能的發展現狀

2017年7月，國務院印發的《新一代人工智能發展規劃》明確指出，“新一代人工智能相關學科發展、理論建模、技術創新、軟硬件升級等整體推進，正在引發鏈式突破，推動經濟社會各領域從數字化、網絡化向智能化加速躍升”。在此之后的數年時間里，國內外頂級人工智能科研機構與企業繼續發力，積極把握住人類社會數字化的時代潮流，全力推動人工智能從小范圍、實驗室測試階段走向大規模、商業化應用階段。目前，新一代人工智能正在科技與商業領域雙向發力，取得重大進展。

第一，以中國為代表的世界主要大國更加重視新一代人工智能發展。黨的二十屆三中全會通過的《中共中央關于進一步全面深化改革、推進中國式現代化的決定》中多處提及“人工智能”：完善推動人工智能等戰略性產業發展政策和治理體系；完善生成式人工智能發展和管理機制；建立人工智能安全監管制度；在實施“一帶一路”科技創新行動計劃領域加強人工智能等多邊合作平臺建設。與此同時，自2024年初以來，美、英、德、法等西方大國也在新一代人工智能領域頻頻施策，尋求主導地位。[3]

第二，科技界繼續推進新一代人工智能核心技術研發，其中深度學習、多模態、大語言模型等技術尤為引人關注。深度學習是新一代人工智能的一個重要發展方向，其核心在于通過模擬人腦的神經網絡結構，訓練計算機從大量數據中提取特征并進行預測或分類。隨著計算能力的提升和數據量的增加，深度學習已經在語音識別、圖像處理，乃至邏輯歸納等領域取得了顯著的進展。多模態技術則主要涉及更加復合與融合的新一代人工智能，與傳統人工智能相比，多模態技術能夠處理并整合文本、圖像、音頻、視頻等多類信息源，形成更為全面的理解和決策，該技術有助于實現人工智能系統信息輸入與輸出的多維度融合，并提高系統在復雜環境中的表現。大語言模型通過處理大量文本數據，學習人類語言的結構和使用規則，能夠生成符合語法和語義的自然語言，這些模型不僅可以理解和生成文本，還能夠在一定程度上進行推理、解決問題和生成創意。

第三，企業界對新一代人工智能的投資興趣熱度不減。中國互聯網絡信息中心在2024年11月發布的《生成式人工智能應用發展報告（2024）》顯示，中國生成式人工智能產品用戶規模已達2.3億人，人工智能核心產業規模已接近6000億元人民幣。據有關數據統計，2018年以來，全球人工智能初創企業年度風險投資規模維持在500億美元以上，個別年份甚至高達1100億美元。特別是手握巨額財富的美國四大數字平臺企業（Meta、谷歌、微軟、亞馬遜）在2024年延續高強度投資態勢，第二季度在人工智能基礎設施投資規模達529億美元。從2024年年初至9月份，全球針對人工智能初創企業的風險投資規模達到了641億美元，按比例來看，近三分之一的風險投資資金都流向了人工智能行業。[4]

新一代人工智能的正向經濟與社會影響

新一代人工智能在科技創新與產業應用層面取得突破性進展，正加速滲透至社會各領域，對政治、經濟、文化等維度產生深遠影響。就正向影響來說，新一代人工智能在促進經濟增長、增進社會福利等方面均具有重要潛能。

第一，打造全新產業，提升生產效率。盡管ChatGPT等生成式人工智能聊天機器人應用風靡全球，但新一代人工智能并非只是單一的文本或視頻生成技術，而是一整套具有底座意義的科技創新與賦能體系。新一代人工智能正在與各產業領域深度融合，形成數據驅動、人機協同、跨界融合、共創分享的智能經濟形態。一方面，新一代人工智能技術已發展成為新興產業，技術轉化、集成與創新不斷涌現，從而催生了眾多新興業態。這些業態通常具有高附加值，位于全球產業鏈和價值鏈的高端，例如人工智能軟硬件、智能工業機器人、智能（無人）駕駛交通工具等。目前，中、美、英、法、德等新一代人工智能大國均涌現出了一大批人工智能相關產業巨頭，它們為上述國家的經濟增長與高質量發展提供了強勁動力。

另一方面，新一代人工智能作為“科技頭雁”，對其他產業的溢出帶動作用更加明顯。2024年12月11日至12日，中央經濟工作會議確定了2025年要抓好的九項重點任務，其中之一是以科技創新引領新質生產力發展，建設現代化產業體系，開展“人工智能+”行動。“人工智能+”就是要將新一代人工智能技術與各行各業、各種應用場景有機結合，以創造更多價值。[5]譬如，在新一代人工智能的加持下，制造業生產設備與流程的自動化、智能化水平大幅提升，能夠實現全年無休運轉，而且顯著降低了傳統人工監督生產的失誤率，極大提升了產能。此外，在金融交易、交通運輸、物流配送等行業，新一代人工智能具有龐大的數據庫與巨大的算力，能夠向這些行業提供人腦難以企及的運籌學最優方案，從而節約了大量的時間與成本，繼而提升了生產效率，減輕了人們的工作負擔。

第二，提升社會治理能力，增進社會福祉。有研究指出，各國不同的人工智能政策會對本國的社會福利結構與水平產生重大的影響。[6]目前看來，新一代人工智能正在全面整合大數據、高算力、強算法，因此它在破解一些社會治理傳統難題上，具備強大的潛力。在醫療行業，已經有德國人工智能企業將機器深度學習應用于醫學影像檢測，在顯著降低成本的同時，大幅提升了診斷效率與準確性。在教育領域，人工智能正在賦能各類在線學習平臺，它們能夠提供基于整個大數據庫的優質教育資源，而且能夠完全打破空間壁壘，顯著緩解教育發展地域不均衡的難題。在天氣預報、氣候變化監測以及環境保護等多個領域，新一代人工智能技術展現了其卓越的“三算”能力，顯著提升了這些行業的觀測與預測水平，達到了前所未有的高度。

第三，全面融入日常生活，改善衣食住行。新一代人工智能以其強大的計算能力和自我學習能力，極大地提升了人類日常生活的便利性。從智能語音助手到推薦算法，人工智能使得人們可以更加精準快捷地獲取日常生活所需信息，無論是日常購物、餐飲預訂還是交通導航、健康醫療，由人工智能賦能的各種智能終端設備與軟件都能夠更好地了解消費者的個性化需求，并做出快速匹配。尤其在中國，眾多新興的人工智能生態系統企業正迅速崛起，它們所推出的創新產品正廣泛滲透至汽車、家居、娛樂、支付、健康等多個領域，極大地提升了廣大用戶日常生活的便捷性，實現了“一鍵互聯”和“一觸即達”的高效體驗。

新一代人工智能的治理風險

但是，新一代人工智能明顯也具有很高的風險，其“雙刃劍”效應業已凸顯，且正在給各國的社會發展和國家安全造成重大挑戰。

第一，信息安全與隱私保護風險。新一代人工智能，特別是生成式人工智能、多模態大模型的迅猛發展，使得違法犯罪分子盜取他人隱私數據、炮制虛假信息的能力大幅上升，成本卻顯著下降。各國普通民眾對傳統紙面型、文字型虛假信息早已樹立了較強的防范意識，但人工智能科技卻使得虛假信息“脫胎換骨”。各種活靈活現的音頻、圖片、視頻對普羅大眾的迷惑性極強。這些深度偽造的虛假信息不僅損害人民群眾的個人隱私、財產安全等切身利益，更有可能被用于操縱輿論、擾亂社會秩序，以至干涉內政、顛覆政權。

第二，算法歧視與社會公平風險。近期有學者特別指出，新一代人工智能的卓越進展，使得人類社會對于智能系統及其服務的態度，從既往的不太信任發展到了如今的過度信任。[7]但是，人工智能及其背后的算法永遠無法實現真正的客觀公正，算法越強大，越無處不在，越有可能將這種過度信任扭曲為“信息繭房”，繼而就會在不同的人群間逐步制造出堅固的認知壁壘，其最終將加劇社會不公平、不公正問題。

第三，替代人工與社會沖擊風險。斯坦福大學于2024年發布的《人工智能指數報告》指出，新一代人工智能在圖像分類、視覺推理、語言理解等任務上的能力表現已經超過人類，因此它尤其擅長完成與規范文字、數字相關的重復性、程序性的任務。在此背景下，人類社會的就業形態必然會受到深刻影響，譬如數據錄入文員、零售業收銀員、電話客服接線員等職業可能會面臨被取代的風險。此外，國際貨幣基金組織的研究發現，在發達經濟體，大約60%的工作崗位可能受到人工智能的影響，在新興市場和低收入國家，受到人工智能影響的工作崗位預計分別占40%和26%，除此之外，人工智能還可能影響國家內部的收入和財富不平等。上述就業與收入問題最終都容易引發社會抗議，給國家治理造成額外的挑戰。

第四，自然資源消耗與環境可持續風險。當前，新一代人工智能的繁榮背后，是各國對自然資源的進一步過度消耗。例如：與傳統的數據中心相比，人工智能數據中心更加耗電耗水。2024年美國與加拿大的數據中心向發電公司訂購的電力達到33675兆瓦，比2015年的用電量增長了約8.7倍。[8]《自然》雜志指出，在日益嚴重的淡水短缺危機、持續干旱和公共供水基礎設施迅速老化的當下，亟需深度調查和解決人工智能的耗水問題，隨著新一代人工智能需求激增，相關用水量在2027年之前將增至42億至66億立方米，約為英國每年用水總量的一半。[9]

第五，人工智能軍事化與全球發展風險。當前，一些西方大國正在強行推進人工智能武器化進程，將新一代人工智能與傳統武器裝備結合，希望制造完全自主武器（即所謂的“智能殺人機器”）。這類做法不僅違背人類傳統道德，而且還會徹底顛覆國防與戰爭形態。更重要的是，某些霸權國家為了護持霸權，明顯尋求獨霸人工智能領域，希望對其他國家的發展能力形成代際差距。此類做法一方面迫使其他大國只能作出對等反應，引發人工智能軍備競賽，另一方面更是顯著擴展了全球數字發展鴻溝，“贏者通吃、弱者更弱”的全球巨大發展差距將更為明顯，從而給世界帶來更多的深層次不穩定因素。

總的看來，新一代人工智能的確具有提升經濟社會發展水平等諸多益處，但其風險點眾多且重大，對國家的社會發展和國家安全均形成挑戰，因此亟需把握風險治理的核心議題，采取切實有效的行動。

新一代人工智能風險治理的關鍵路徑

2018年，習近平總書記在主持十九屆中央政治局第九次集體學習時就強調：“要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。”面對近年來新一代人工智能躍遷帶來的更大挑戰，中國需要制定更加科學有效的治理路徑，在推動技術進一步發展的同時規避潛在威脅。人工智能的風險治理既需要符合中國自身國情，也要將技術創新與倫理規范相融合，更需要推動全球協作和實踐方案。治理關鍵路徑應包含以下幾個方面：

第一，推進算法透明化研發，強化風險監測機制。新一代人工智能的核心能力之一在于強大算法，但當前算法黑箱難題遲遲沒有得到解決，以致其成為人工智能風險復雜難辨的關鍵動因。有鑒于此，首先，必須加速算法透明化研究。瞄準一直以來的黑箱式機器學習與算法“痛點”，要下大氣力促進“可解釋性人工智能”科技的開發，并推動相關成果盡快落地。在運用新一代人工智能的重點領域，譬如涉及公共安全、個人隱私、醫療健康、傳媒輿情、企業內控、金融通信的場景，要求人工智能必須能夠被解釋、可溯源、可控制。其次，針對人工智能換臉、變聲、音視頻合成等深度偽造技術，要從程序代碼根源做好監測與預警機制，盡早落實人工智能敏感工具用戶實名制。利用人工智能，建立前沿技術識別和監測體系，對存在人工智能嚴重濫用風險，特別是涉嫌擾亂社會秩序、侵害公共安全的個人或機構實行動態監測、常態化打擊。

第二，推進倫理規范，繼續健全法律框架。人工智能的倫理和法律治理是風險管理的核心環節。中國的相關治理必須注重結合本國國情，要立足于社會主義核心價值觀，強調人工智能技術應用必須尊重社會公德、維護公平正義，確保技術服務于人民福祉。在法律層面，立法機構需要制定嚴格的隱私保護法規，明確數據的采集、存儲和使用范圍，并推動企業與機構采用數據加密和匿名化技術，從技術層面保障用戶隱私。此外，在人工智能使用中觸及的法律責任問題，也需通過制定針對性的法規予以明確，例如從法律層面盡早明晰算法錯誤或系統失控等意外事件所引發的責任歸屬問題。

第三，關注就業市場變遷，強化社會保障體系。人工智能的廣泛應用對就業結構和收入分配帶來了深遠影響。政府需要通過政策和社會保障機制，積極應對就業市場的變化。首先，應加強勞動者的職業再培訓和技能升級，尤其是對中低技能崗位從業者提供免費或低成本的技能培訓計劃，以幫助他們適應人工智能驅動的產業轉型，特別是加強對他們的數字生產生活方式訓練，使其更好地融入現代數字與人工智能時代。其次，應建立更有溫度的勞動權益保護機制，要明確新一代人工智能乃至一切數字科技的根本用處是增進全社會福利，而不是制造“機器控制人類”的畸形世界，要下力氣整治所謂的“算法陷阱”“智能計時”給一線生產人員帶來的巨大生理與心理壓力。再次，要發展更靈活的社會保障體系，如失業保險和收入補助計劃，為受人工智能科技沖擊的勞動者提供過渡支持。同時，政府可以通過財政政策激勵企業創造更多高附加值崗位，推動產業升級，為社會提供更多就業機會。

第四，優先發展綠色科技，強化政策引導支持。為應對新一代人工智能對自然資源的高消耗，需要優先發展更加節能高效的相關技術。例如，在硬件層面加快推進碳化硅等新一代半導體材料的研發，從根本上大幅減少新一代人工智能計算中心對水電資源的消耗，在軟件層面研發更加綠色的計算架構和優化算法。同時，政府應通過征收碳排放稅、獎勵高能效科技等政策，引導企業關注節能增效，加速推動綠色技術落地應用。

第五，促進國際合作，縮減發展鴻溝。中國作為新一代人工智能大國，也是國際社會負責任、愛好和平的重要大國，亟需加強引領，在開發“智能殺人機器”等高風險議題上持續推進國際社會制定統一的國際法準則，明確風險底線與紅線。與此同時，中國還應推動人工智能技術的開放共享，倡導構建包容性的全球技術生態。例如，通過開源平臺和技術轉讓，幫助發展中國家提高人工智能研發和應用能力。此外，中國還應繼續加強“一帶一路”建設中的數字合作，通過人工智能基礎設施建設、人才培養和經驗分享，支持更多后發國家融入人工智能發展浪潮。

新一代人工智能是人類技術進步的里程碑，其強大的計算能力、自主學習能力和廣泛應用場景，正以前所未有的速度改變社會的生產與生活方式。然而，伴隨技術發展的不僅是效率提升與便利化，還有深刻的社會、倫理與治理挑戰。例如，算法黑箱與偏見問題可能加劇不平等，隱私侵犯與技術濫用引發公眾擔憂，人工智能的軍事化和全球化競爭也對國際安全和合作形成了壓力。這些問題表明，技術進步本身并非萬能解藥，必須通過技術創新與治理創新的結合，才能確保人工智能的安全、可靠與公平應用。未來，唯有在推動人工智能科技發展的同時，建立健全的倫理框架、法律體系和全球合作機制，才能最大限度地釋放其潛力，為社會發展注入可持續動力，實現科技與人類福祉的共贏。

【本文作者為山東大學東北亞學院教授；本文系國家社會科學基金重點項目“中美科技競爭背景下美國對華數字產業遏制動向及反制策略研究”（項目編號：22AGJ007）的階段性成果】

注釋略

責編：馮一帆／美編：石 玉