【摘要】人工智能是引領新一輪科技革命和產業變革的戰略性技術，能夠推動人類社會整體發展飛躍。近年來全球人工智能技術呈現出發展速度快、應用范圍廣的特征，以習近平同志為核心的黨中央審時度勢，對人工智能技術的健康發展高度重視，及時部署，并就我國人工智能健康發展若干關鍵原則作出重要論述。抓住人工智能技術發展的重大歷史性機遇，應堅持以人為本、引導智能向善，積極推動人工智能立法立規，促進人類文明與人工智能的友好協同。

【關鍵詞】人工智能 戰略機遇 智能向善 技術風險

【中圖分類號】F204 【文獻標識碼】A

當前，全球人工智能技術正處于飛速發展期，尤其是自2023年以來，以生成式大模型為代表的新一代人工智能技術正在快速迭代并以迅猛的態勢向各行各業滲透。從長遠來看，人工智能技術的出現及其表現出來的巨大潛力，將使人類社會產生深刻變革，也將給人類社會帶來重大的歷史轉型。

習近平總書記強調：“我國經濟已由高速增長階段轉向高質量發展階段，正處在轉變發展方式、優化經濟結構、轉換增長動力的攻關期，迫切需要新一代人工智能等重大創新添薪續力”“發展人工智能，將為我國構建現代化經濟體系、實現高質量發展提供重要支撐”。在這樣的重要歷史時期，中國何去何從，不僅關乎當今中國的經濟社會發展、人民生活改善，而且事關中華民族偉大復興的宏業。面向未來，人工智能技術既要快速發展，同時又要確保持續健康發展。以習近平同志為核心的黨中央審時度勢，及時作出了一系列關于人工智能健康發展的具有前瞻性的重大決策部署和重要論述，為我國發展人工智能提供了行動指南和根本遵循。我們要把握其中的指示精神和重要原則，搶抓人工智能健康發展的歷史性戰略機遇。

人工智能是引領本輪科技革命和產業變革的戰略性技術

關于人工智能技術的重要價值，習近平總書記深刻指出：“人工智能是引領這一輪科技革命和產業變革的戰略性技術，具有溢出帶動性很強的‘頭雁’效應” “加快發展新一代人工智能是我們贏得全球科技競爭主動權的重要戰略抓手，是推動我國科技跨越發展、產業優化升級、生產力整體躍升的重要戰略資源”。

從歷史來看，人類科技的發展呈現出兩個明顯規律：一是短期的技術躍升和長期的技術平臺期相結合；二是技術躍升往往由若干核心技術成果驅動。

第一條規律描述的是人類文明的發展往往呈現出在一個很短的時間內實現密集的重大技術飛躍，文明由此進入到一個新的階段，隨即就會進入到一個較長時間的相對平穩期，直到下一次技術革命的到來。因此，人類文明的技術進步不是緩慢的線性的，而是階段性跳躍的。習近平總書記所指出的“這一輪科技革命和產業變革”，正處于這種階段性跳躍時期。

第二條規律是指在歷次技術革命中，有一些技術往往起到了關鍵性的驅動作用，成為技術革命的核心推動力量，也成為文明進化的關鍵驅動。從人類歷史來看，早期人類向文明邁進的三項關鍵性技術是使用火、進行農業種植和使用金屬。進入近現代后，第一次工業革命的核心驅動技術是蒸汽機，第二次工業革命的核心驅動技術是電動機和內燃機。二戰后則是以核能、計算機、航空航天技術為核心技術。而當前新一輪科技革命，同樣體現出這一特征，其核心技術包括互聯網、大數據、人工智能等新一代信息技術以及如生物技術、新材料技術、太空技術等，但最具有革命性和普遍性的技術則是人工智能。可以說，從現在開始到未來幾十年，人類整體的社會結構轉型和文明升級就是主要沿著人工智能技術引發的一系列變革展開。這也就是習近平總書記所指出的“人工智能是引領這一輪科技革命和產業變革的戰略性技術”。

要進一步理解這一點，還需要從人工智能技術的三個基本特性入手：一是智力替代性。人工智能是人類歷史上第一次新的智力資源的大規模開發應用。以往所有的勞動工具革新，都是對人的體力勞動的替代，直到計算機的出現才開始對人類智力勞動進行一些替代，然而人工智能展現出了能夠深層次高質量替代人類智力勞動的能力。二是通用性。現有的大模型人工智能已經展現了廣泛的應用空間和巨大的應用潛力，因此被迅速部署在當前人類正在從事的各行各業中。例如，由AlphaGo發展而來的AlphaFold在短時間內分析完成了2億個蛋白質結構，而傳統上人類分析一個結構就需要數年之久，這遠超傳統人力的想象。三是具有新的主體性特征。盡管對于人工智能是否會演進產生主體意識這一問題目前還沒有明確的答案，但是現有的多模態大模型人工智能的確可以表現出與人類相似的特征，因此可以扮演各種角色充分融入到人類社會中，從而既推動產業變革，也引發社會變革。這三個特征，都體現出了人工智能技術具有戰略性引領作用。

在人工智能領域關鍵核心技術占領制高點

正因為人工智能技術如此重要，中國必須要自主掌握好這一技術。習近平總書記指出：“確保我國在人工智能這個重要領域的理論研究走在前面、關鍵核心技術占領制高點。要主攻關鍵核心技術，以問題為導向，全面增強人工智能科技創新能力，加快建立新一代人工智能關鍵共性技術體系，在短板上抓緊布局，確保人工智能關鍵核心技術牢牢掌握在自己手里。”

科學技術本質上是沒有國別區分的，但是掌握技術的主體卻是有國別的。在農業文明時期，中華文明是世界最繁榮璀璨的文明之一。而工業革命后，西方國家憑借著工業革命帶來的先發技術優勢，利用船堅炮利在世界范圍建立了殖民體系。與之相對的，則是清朝因為錯失了工業革命而成為了相對落后國家。因此，任何一場重大的科技革命和產業變革，都往往意味著文明格局的變化和世界秩序體系的調整。要實現中華民族偉大復興，就不能錯過此后任何一次人類重大科技革命，甚至要引領人類的科技革命。

人工智能技術發展的關鍵要素包括算法、算力、素材三者。先說素材方面，我國由于政策支持力度較大，全社會數字化程度較高，各行業應用人工智能較廣，同時也因為我國人口眾多，因此在訓練人工智能的素材積累上具有優勢；在算力方面，雖然我國的高性能芯片技術被個別國家圍追堵截，但是依然可以通過堆疊技術等方式實現突破；而在算法方面，其已然成為當前人工智能發展的焦點，美國具有先發優勢，我國亦具有巨大的后發潛力。因為發展算法，最重要的是要依靠人才。習近平總書記指出：“培養大批具有創新能力和合作精神的人工智能高端人才，是教育的重要使命。”目前，我國在理工信息類人才培養方面居于世界領先地位，并且進一步加強了人工智能通識教育。正是得益于人才儲備優勢，在近兩年ChatGPT嶄露頭角后，我國在生成式人工智能領域迅速實現追趕，形成“千模涌現”的發展勢頭。

人工智能也帶來一系列難以預知的風險挑戰

歷史證明，在人類發展過程中，新技術應用往往具有兩面性，能夠在推動生產力發展的同時，也帶來新的風險和挑戰。正如習近平總書記指出：“當前，新一輪科技革命和產業變革迅猛發展，人工智能等新技術方興未艾，大幅提升了人類認識世界和改造世界的能力，同時也帶來一系列難以預知的風險挑戰。”

由于人工智能技術能力強大、通用性強，未來會逐漸滲透到人類社會各個方面。因此，也將在多個層面給傳統人類社會帶來各種風險與挑戰。這些風險挑戰可大致分為以下幾個方面：

一是隱私泄露。傳統人類社會的自由很大程度上是建立在自然個體的隱私保護基礎上的，當全社會數字化程度提高后，加之人工智能對數據的分析，使得傳統人類自由的基礎——隱私逐漸消散。任何一個智能設備從某種層面講都具有記錄和監視功能，人臉識別、聲紋分析、各種交叉信息的智能識別都使得人們很難再擁有完整的隱私。

二是勞動替代。人工智能是一種人類從未接觸過的強大的新的勞動力量，兼具客體工具屬性和社會主體屬性，能夠在一定程度上自主完成相當高難度的復雜工作。因此，幾乎所有的行業都面臨著人工智能的勞動替代問題。勞動替代對于資方而言意味著成本下降和效益提升，而對于普通勞動者而言則意味著可能面對失業問題。

三是深度偽造。人工智能可以迅速高質量地合成出極為逼真的影音圖像，如不加管制，產生的偽造風險可能對自然人主體和社會秩序產生負面的侵害和沖擊。

四是法律體系可能面臨失效風險。如前所述，人工智能兼具客體工具屬性和社會主體屬性，其大規模參與到社會中，就容易產生傳統法律難以規制的問題，特別是一旦其權力主體屬性不明確，相應的法律規范也可能面臨失效風險。例如，自動駕駛車輛如果出現事故，責任該由誰承擔？

五是行業邊界的模糊。人工智能強大的學習與進化能力，使其具有很強的跨行業邊界的能力。一家高水平的人工智能公司會滲透到社會的各個行業，改變著這些行業的運行模式。這對于長期形成的社會分工體系本質上是一種顛覆。

六是暴力擴散。人工智能可以很方便地與傳統武器結合形成新的智能武器體系，從而改變戰爭形態。人工智能的軍事化具有潛在的高危險性，因為其鼓勵人工智能從事傷害人類的行為，從而加大人工智能的風險水平。

七是倫理問題。人工智能一旦大規模進入社會各個層面，如大范圍應用人形機器人，勢必形成對傳統單一以人類為唯一主體的社會體系的巨大沖擊。一些過去不曾遇到的新問題會出現，例如，人工智能伴侶的法律地位問題等。

八是失控風險。人工智能有可能會失控，這并非一個科幻性質的猜測。從現有大模型的原理和表現來看，人工智能模型是由大量數據學習訓練出來的，而非人類編輯或設計出來。因此，極有可能會出現“錯誤”或“幻覺”，也有可能出現類似人類的情緒和排斥行為，還有可能被錯誤訓練引導。因此，不排除人工智能存在失控風險，必須高度警惕。

綜上所述，人類在發展人工智能的時候，必須要看到且直面人工智能可能產生的風險挑戰，從而確保人工智能真正符合人類社會的發展需要。

堅持“以人為本、智能向善”的人工智能發展原則

正因為人工智能存在安全隱患和風險挑戰，在人工智能快速發展的初期，就需要確立好其根本的治理原則。習近平總書記指出：“要未雨綢繆，加強戰略研判，確保人工智能安全、可靠、可控”“堅持以人為本、智能向善”。

人工智能要以人為本。人工智能要以增進人類福祉為目標，以保障社會安全、尊重人類權益為前提，確保人工智能始終朝著有利于人類文明進步的方向發展。堅持以人為本，即人工智能的發展要圍繞人們緊迫的民生需求展開。正如習近平總書記指出：“要加強人工智能同保障和改善民生的結合，從保障和改善民生、為人民創造美好生活的需要出發，推動人工智能在人們日常工作、學習、生活中的深度運用，創造更加智能的工作方式和生活方式。”未來，人工智能在輔助人們生活方面將發揮更大作用，特別是對于殘障人士，人工智能將幫助他們克服身體的困囿；而對于大多數人而言，人工智能將在日常的翻譯對話、知識獲取，工作中的輔助建議，生活中的智能家居、自動駕駛、輔助勞動，休閑娛樂甚至情感交流等方面，極大豐富人們的生活。

人工智能要智能向善。人工智能的發展不能單兵突進，只講經濟效益不講社會公平。人工智能由于具有遠超過普通勞動者的勞動能力，能夠極大降低企業成本，將逐漸在各個行業掀起一場科技賦能、機器換人的潮流。人工智能的開發利用，要確保不能產生大規模的失業潮。人工智能發揮勞動替代作用，要優先用在危急險重的行業，而非讓人工智能在普通人就能夠非常擅長的領域重復發力、簡單替代。任何企業尤其是大型平臺企業在進行人工智能勞動替代時，要考慮增設相應的崗位，最大程度保持崗位破壞速度與崗位創造速度的同步性。此外，智能向善還要求人工智能的研發、提供和使用活動，不能影響或可能影響國家安全、公共利益或者個人、組織合法權益，這就需要更為完善的科研倫理的自律以及法律法規的約束。這也是人工智能持續健康發展、實現人機和諧的必由之路。

加強人工智能國際合作治理

人工智能技術由于其具有廣泛適用性和快速擴散性，同時也具有風險全球化與治理分散化的特征，因此，有效治理人工智能不可能由單一國家獨立完成。習近平總書記指出：“要加強人工智能國際治理和合作，確保人工智能向善、造福全人類”。

中國在推動人工智能治理方面，已經做了很好的先行嘗試，例如，2023年7月率先推出的《生成式人工智能服務管理暫行辦法》，是全球最早全面監管生成式人工智能的政策文件，為推動生成式人工智能向上向善發展提供了細致具體的實施標準。但人工智能的監管和治理還要依靠國際共同合作來解決。這是因為，從根本上說，當前人工智能在開發與傳播上具有以下幾個特點：一是開放性和迅速的擴散性。越來越多的大模型選擇了開源模式，這使得研發高性能人工智能變得更加容易，因此，人工智能技術在世界范圍內的傳播比以往的技術傳播更快，也更容易掌握。二是高收益性，人工智能將極大提高經濟社會運行效率、降低各方面成本，促進經濟增長。因此，眾多企業包括跨國公司、網絡巨頭等都有較強的意愿采用人工智能技術。三是人工智能是一個國家提升國際競爭力的重要手段，當前大部分國家都有動機去通過人工智能獲得競爭優勢。這三個特性相結合，使人工智能的治理成為一種單一國家不能獨立完成的任務。比如說，一旦某一國家對人工智能進行區別于他國的較為嚴苛的治理，那么跨國公司就會迅速將技術轉移到他國，導致本國或地區的競爭力受損，以歐洲為例，當前歐洲較為嚴苛的數據治理環境，使其在人工智能國際競爭中處于相對劣勢。

因此，面對人工智能可能產生的眾多風險，開展廣泛有效的國際治理合作具有必要性。應使人類共同正視人工智能的風險，形成對于人工智能治理的價值共識，并共同采取較為一致的關于人工智能的倫理和法律規范，實現全球范圍的協同共治。這類似于人類對于核武器的管控，只有在全球范圍內形成一整套安全治理機制和監管體系，以及相關問題的磋商和談判機制，才能有效降低整個世界的風險挑戰。

當前，推動人工智能國際合作治理主要困難包括兩方面：在價值層面，如何更大程度上形成對高性能人工智能的風險共識；在主體層面，如何形成包括國際組織、國家地區主體、網絡巨頭、跨國公司、科研教學機構等在內的一個巨大的人工智能治理共同體。前者需要更多的科研機構、學者、媒體、科學家、企業家、政治家的共同的呼吁；后者則需要各主體深入研究、協同合作，形成完整的合作治理機制。

當前正處于人類全面進入通用人工智能時代的關鍵歷史時期，我們要深刻領悟習近平總書記關于推動人工智能健康發展的重要論述，清楚認識到人工智能技術的戰略性意義，既要抓住人工智能技術發展的關鍵時期，自主掌握關鍵技術，也要抓住治理引導的關鍵時期，促進全球治理的國際合作，推動新一代人工智能健康發展，更好造福世界各國人民。

（作者為中共中央黨校（國家行政學院）國家治理教研部教授、博導）

【參考文獻】

①習近平:《加強領導做好規劃明確任務夯實基礎 推動我國新一代人工智能健康發展》，《人民日報》，2018年11月18日。

②《習近平向國際人工智能與教育大會致賀信》 ,《光明日報》，2019年5月17日。

③《習近平向聯合國貿易和發展會議成立60周年慶祝活動開幕式發表視頻致辭》，《人民日報》，2024年6月13日。

④何哲：《人工智能技術的社會風險與治理》，《電子政務》，2020年第9期。

責編/谷漩 美編/李祥峰

聲明：本文為人民論壇雜志社原創內容，任何單位或個人轉載請回復本微信號獲得授權，轉載時務必標明來源及作者，否則追究法律責任。