人民智庫 曠視AI治理研究院 | 聯合發布
2020年度全球十大人工智能治理事件及變革趨勢前瞻
當前，新一代人工智能技術正在全球范圍內蓬勃興起，與大數據、區塊鏈、5G等新技術相互融合、相互因應，為經濟社會發展尤其是數字經濟發展注入新動能，正在深刻改變著人類的生產生活方式。與此同時，如何在新技術變革浪潮中始終立于主動，實現人工智能等前沿科技領域有效治理，確保其持續健康發展，也成為國際國內、社會各界廣泛關注的重要現實問題、重大時代議題。
黨的十八大以來，以習近平同志為核心的黨中央高度重視前沿科技領域發展與治理，中央政治局就人工智能、區塊鏈、量子科技等新技術領域相關問題分別進行集體學習。習近平總書記高度重視新一代人工智能發展與治理，提出“要深刻認識加快發展新一代人工智能的重大意義，加強領導，做好規劃，明確任務，夯實基礎，促進其同經濟社會發展深度融合，推動我國新一代人工智能健康發展”。
剛剛過去的2020年，波瀾壯闊、極不平凡。“兩個一百年”目標歷史交匯，中華民族偉大復興戰略全局與世界百年未有之大變局相互激蕩、相互作用，新冠肺炎疫情仍在多國肆虐，人工智能在疫情防控、社會治理、國際協作等多個領域發揮重要作用，新一代人工智能技術發展取得諸多重大成果，世界各國積極探索與人工智能發展相適應的治理路徑，出現諸多具有標志性意義、可能產生深遠影響的重要事件。對這些事件進行梳理總結、深入研究，有助于深化對人工智能治理規律的認識，有助于更精準把握人工智能技術、產業、生態發展趨勢，有助于引發社會各界就人工智能治理領域關鍵問題、重點難點進行深入思考，形成更廣泛共識。
人工智能治理是復雜性、系統性很高的社會議題，涵蓋政策、技術、產業、法律、傳播、倫理、安全、國際關系等諸多領域。對國際國內人工智能治理標志性事件開展研究，也必然需要各界共同推動。為此，人民智庫與曠視AI治理研究院成立聯合課題組，共同開展“2020年度全球十大人工智能治理事件”遴選、評議，組織相關領域權威專家學者，從AI與公眾福祉、AI與公平正義、AI政府（企業）治理、AI系統安全性與數據隱私安全等四個主要維度出發，依據理論價值、實踐價值、新聞價值、研究價值等四個評價標準進行評議，并面向社會公眾開展在線問卷調查，對人工智能產業領域從業者，相關部委、行業協會領導專家等典型群體進行深入訪談。經綜合各方面資料、數據、意見、觀點，最終評選出2020年度全球十大人工智能治理事件。
這些事件，反映著人工智能治理領域實踐探索和前沿趨勢，反映著新一代人工智能技術的廣泛應用前景，反映著公眾對人工智能治理引導科技向善，助力政府、機構、企業的多層次、多樣化參與，通過新一代信息技術的良性發展增進人類福祉、改善民生的熱切期待。
助手還是殺手？讀懂人類意識的AI或者擁有自主意識的AI？關系人類福祉的人工智能，要走“邊發展，邊治理”的新模式
人工智能這一概念，自1956年美國達特茅斯會議提出至今，經歷了漫長的野蠻生長初生階段。霍金提出“人工智能也有可能是人類文明史的終結，除非我們學會如何避免危險”；馬斯克認為，人工智能的“風險大得多”，并且這是“威脅人類文明存在的根本性風險”。近年來，伴隨無人駕駛、人臉識別、智能語音等人工智能技術的廣泛應用，以及基于深度學習、跨界融合、人機協同、群智開放、自主操控為特征的新一代人工智能技術發展的第三次浪潮來臨，對于人工智能治理的討論再次被社會各界廣泛提及。
中國互聯網飛速發展近30年，相關專家總結互聯網治理的經驗教訓時，認為過去我們的治理模式之一就是“先發展，后治理”，即先“摸著石頭過河”，待問題出現或者積累到一定程度，再進行專項治理并建立規范。然而人工智能在我國的爆發式發展所具備的新特征更為明顯：一是政策支持和重視程度更高；二是與社會資本的結合度更高；三是原本已成規模的互聯網企業紛紛涉足人工智能領域；四是技術基礎、產業基礎及經濟社會發展需求更為強烈。這些因素都直接決定了人工智能治理不可能重復互聯網治理的老路，對治理結構、治理路徑和治理范圍都提出了更多、更新的挑戰，也需要我們以更創造性的理念來應對。
本次十大事件評選中，涉及人工智能與人類福祉、公平正義高度的事件受到的關注度最高，如通過算法黑箱侵犯外賣小哥利益的事件“AI成‘監工’：算法下外賣騎手挑戰交通規則，‘助手’可能變‘殺手’”（排名第1，得票率51.20%）；以及假借人工智能技術進行違法行為的事件“湖南岳陽警方破獲AI犯罪案，技術犯罪仍要懲罰人”（排名第9，得票率48.75%）。國際方面，最受關注的是人工智能技術突破現有邊界，有可能對人類福祉造成不良影響的事件，如：“人工智能可以翻譯大腦想法將大腦信號轉化為文本數據，‘讀懂意識’讓隱私無處遁藏”（排名第2，得票率50.09%）；“人工智能技術突破現有邊界，具備‘自主意識’，可實現獨立研發、自我修復等功能”（排名第8，得票率48.75%）。
黨的十九屆四中全會《決定》提出，“健全科技倫理治理體制”。將健全科技倫理治理體制作為推進國家治理體系現代化的重要組成部分，是以習近平同志為核心的黨中央在全球范圍新一輪科技革命和產業變革蓬勃興起、人類發展面臨前所未有的新機遇和新挑戰的歷史時刻作出的重大部署，對于克服科技領域存在的倫理問題、促進我國科技事業健康發展，具有重要意義。
