導 讀

　　中國正在走向規則體系化和協同治理人工智能格局，明確實行“包容審慎”監管，人工智能國際治理集中在如何評估復雜影響、如何治理、誰來主導國際治理、如何確定治理原則四大問題。

　　人類社會正在經歷的智能變革，不僅包括人工智能技術以超乎常人想象的速度發展，也包括如何以倫理、規則和機制促進人工智能安全發展。人們已經深刻認識到，人工智能既產生巨大技術紅利，也在政治、經濟、社會、軍事等領域不斷顯現復雜效應，從而引發越來越多的擔憂。人工智能不僅以內容生成、信息分發等形式深刻地影響人類的知識萃取、認知形成、觀點表達、意識形態，還可以就一系列重要資源、機會分配自動決策。人工智能將如何影響人類未來，如何與人工智能共生？這既是新聞媒體在實踐中必須關注并妥善把握的問題，也是數字新聞學研究應當探索并回答的問題。

　　包容審慎監管與協同治理格局

　　經歷三個月的征求意見后，2023年7月13日，國家網信辦等七部委公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。這個管理辦法，針對生成式人工智能已經出現的傳播虛假信息、侵害個人信息權益、數據安全和偏見歧視等問題，明確了提供和使用生成式人工智能服務總體要求；提出了促進生成式人工智能技術發展的具體措施，明確了訓練數據處理活動和數據標注等要求；規定了生成式人工智能服務規范。

　?。ㄒ唬┑谝淮蚊鞔_規定包容審慎監管原則。引人注目的是，在關于算法的諸管理規定中，《辦法》第一次明確規定實行“包容審慎”的監管原則?！掇k法》第三條規定：國家堅持發展和安全并重、促進創新和依法治理相結合的原則，采取有效措施鼓勵生成式人工智能創新發展，對生成式人工智能服務實行包容審慎和分類分級監管。

　　分級分類監管在《辦法》中也得到明確體現。與2023年4月12日發布的《生成式人工智能服務管理辦法（征求意見稿）》相比，《辦法》第二條明確了“未向境內公眾提供生成式人工智能服務”即“不適用”的監管規則，明確“行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等研發、應用生成式人工智能技術，未向境內公眾提供生成式人工智能服務的，不適用本辦法的規定”。這為中國人工智能的研究和發展提供了制度空間。

　?。ǘ┮巹t體系化與協同治理格局?！渡墒饺斯ぶ悄芊展芾頃盒修k法》是國家網信辦等部委在算法綜合治理領域出臺的第三個規定，也是中國關于生成式人工智能服務的第一個管理規定。前兩個分別是2021年12月31日國家網信辦等四部委出臺的《互聯網信息服務算法推薦管理規定》，2022年12月11日國家網信辦等三部委出臺的《互聯網信息服務深度合成管理規定》?！痘ヂ摼W信息服務算法推薦管理規定》是國際社會第一個關于算法治理的規范性文件。這三個管理規定，和作為上位法的《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》《中華人民共和國科學技術進步法》，以及作為上位規定的《關于加強互聯網信息服務算法綜合治理的指導意見》等，構成了規則體系。

　　2023年6月20日，國家互聯網信息辦公室發布《關于發布深度合成服務算法備案信息的公告》，公布了首批獲得備案的41款深度合成技術服務算法，包括文本生成、圖片生成、短視頻生成、語音生成、開放域文本對話生成等深度合成技術算法，應用于開放域多模態內容生成、對話生成、短視頻制作、智能客服、即時通信等場景，備案者包括百度、阿里、騰訊、抖音、快手、美團等多個互聯網公司，算法角色包括服務提供者和服務技術支持者。這個公告特別指出：《互聯網信息服務深度合成管理規定》第十九條明確規定，具有輿論屬性或者社會動員能力的深度合成服務提供者，應當按照《互聯網信息服務算法推薦管理規定》履行備案和變更、注銷備案手續,體現兩個管理規定的協同。

　　此次備案中，出現了百度文心一格等應用的多個生成式算法。這是因為《互聯網信息服務深度合成管理規定》規制對象“深度合成技術”，包含了今天人們關注的生成式人工智能的諸多技術。此規定第二十三條明確定義了“深度合成技術”：“所謂深度合成技術，是指利用深度學習、虛擬現實等生成合成類算法制作文本、圖像、音頻、視頻、虛擬場景等網絡信息的技術?！倍?個月后出臺的《生成式人工智能服務管理暫行辦法》第二十二條規定：“生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內容生成能力的模型及相關技術?！眱烧呦啾?，明顯差異在于后者的定義中特別明確了“模型及相關技術”，體現了2022年11月后迅速發展的基于預訓練大模型的生成式人工智能技術的特點。大模型利用海量數據、巨量參數進行訓練，這是基于大模型的生成式人工智能與以往文本生成、語音合成等深度合成技術不具備的。這也可能是《互聯網信息服務深度合成管理規定》出臺僅僅七個月后就出臺《生成式人工智能服務管理暫行辦法》的重要原因之一。

　　國家網信辦有關負責人在發布此《辦法》時特別提出，生成式人工智能服務的發展與治理需要政府、企業、社會、網民等多方參與，共同促進生成式人工智能健康發展?！掇k法》第五條明確規定，“支持行業組織、企業、教育和科研機構、公共文化機構、有關專業機構等在生成式人工智能技術創新、數據資源建設、轉化應用、風險防范等方面開展協作”，這實際上是明確提出希望構建協同治理格局。

　　包括生成式人工智能在內的算法綜合治理、協同治理，對新聞傳播是有特殊要求的?！渡墒饺斯ぶ悄芊展芾頃盒修k法》第二條規定：“國家對利用生成式人工智能服務從事新聞出版、影視制作、文藝創作等活動另有規定的，從其規定?！备匾奶厥庖笤谟?，面對人工智能輔助人類生產的內容和人工智能直接生成的內容都已經進入并可能更大規模進入傳播領域的現實，必須盡快建立相應的內容生產、內容使用、內容審核、內容發布的倫理規范、審核流程、監管機制，探索人工智能在內容生產、新聞傳播等領域的積極運用，同時有效規避風險。

　　統籌發展安全與應對規則博弈

　　人工智能快速發展的同時，復雜效應不斷顯現，既產生巨大技術紅利，也引發越來越多的擔憂?？尚湃斯ぶ悄苎芯吭趪H計算機科學領域成為重要方向，人工智能國際治理已成為國際政治熱點問題。

　　面對人工智能技術迅速發展與已有可見成果的多種應用可能，不發展、不運用將成為人工智能技術前進中的阻礙。為推動人工智能研究和相關產業發展，科技部等六部門2022年7月29日發布《關于印發〈關于加快場景創新以人工智能高水平應用促進經濟高質量發展的指導意見〉的通知》，科技部2022年8月12日發布《關于支持建設新一代人工智能示范應用場景的通知》，工信部2021年7月16日發布了《新型數據中心發展三年行動計劃（2021-2023年）》。同時，各地也出臺了相應政策。2022年9月22日，上海發布《上海市促進人工智能產業發展條例》。2023年5月30日，北京市政府同時發布兩部關于人工智能發展的文件，即《北京市促進通用人工智能創新發展的若干措施》《北京市加快建設具有全球影響力的人工智能創新策源地實施方案（2023-2025年）》。2023年5月31日，深圳正式印發《深圳市加快推動人工智能高質量發展高水平應用行動方案（2023-2024年）》。2023年7月6日，工信部在2023世界人工智能大會強調，將以多項舉措培育壯大智能產業。

　　人工智能國際治理問題已經引起國際社會的關注。2021年11月25日，193個成員國正式通過了聯合國教科文組織關于人工智能倫理的建議，以發展以人為本的人性化人工智能為共同愿景。2023年7月18日，聯合國安理會前所未有地首次就人工智能與安全問題舉行高級別公開會，體現在生成式人工智能快速發展之后，人工智能國際治理進一步成為焦點問題。概括來看，人工智能國際治理至少集中在以下幾個問題。

　?。ㄒ唬┤绾卧u估復雜影響。在聯合國安理會就人工智能與安全問題舉行的高級別公開會上，聯合國秘書長古特雷斯認為，“人工智能已關系到全球和平與安全”?！吧墒饺斯ぶ悄芸赡茉斐杉傩畔⒑统鸷扪哉摲簽E”，“人工智能與核武器、生物技術、神經技術、機器人技術的交互讓人不寒而栗”，因而，“他強調，生成式人工智能同時具有行善與作惡的巨大潛能，如不采取措施防范風險，將是對當代和后代的失職”[1]。在這個高級別公開會上，中國常駐聯合國代表張軍強調：“人工智能作為‘雙刃劍’，它是好是壞、是善是惡，取決于人類如何利用、如何規范、如何統籌發展與安全?！盵2]

　?。ǘ┤绾沃卫砣斯ぶ悄?。圍繞人工智能國際治理，不同主體提出了不同的主張和方案，客觀上形成了比較激烈的規則博弈。

　　聯合國秘書長古特雷斯2021年9月在《我們的共同議程》報告中提出制定“全球數字契約”（Global Digital Compact），涵蓋數字連接、避免互聯網碎片化、為人們提供將如何使用其數據的選擇、通過引入對歧視和誤導信息問責標準促進可靠的互聯網內容、人工智能監管、數字公共產品等七大領域，旨在為全人類構建一個開放、自由和安全的數字未來而制定的共同原則，為數字未來發展提供關鍵的基本原則，并計劃在2024年9月的未來峰會上達成一致。

　　2023年6月14日，歐洲議會以499票贊成、28票反對、93票棄權的壓倒性優勢通過了《人工智能法案》草案。這意味著，即將進入歐洲議會、歐盟成員國和歐盟委員會確定該法案最終條款的“三方談判”階段。2021年，歐盟委員會已經提出首部監管人工智能的法律草案，歐洲議會和歐盟理事會就草案進行多輪修訂和討論?；诖竽Ｐ偷纳墒饺斯ぶ悄苌暇€后，這部法律草案增加了相應的條款。值得注意的，一是該草案第二條就該法律適用范圍作出明確規定，將適用于在歐盟境內將人工智能系統投放市場或投入使用的實體（無論該實體是在歐盟境內還是在第三國）、在歐盟境內使用人工智能系統的實體以及在第三國使用人工智能系統，但系統輸出結果用于歐盟境內或對歐盟境內人員產生影響的實體。這實際上明確了該法律的域外管轄原則。二是將人工智能風險分為不可接受的風險、高風險、有限的風險和極小的風險四級，對應不同的監管要求，提出嚴格禁止對人類安全造成不可接受風險的人工智能系統，包括部署潛意識或有目的操縱技術、利用人們弱點或用于社會評分的系統。三是法案要求每個歐盟成員國都將設立一個監督機構。[3]

　?。ㄈ┱l來主導國際治理。隨著歐盟關于人工智能治理的立法進入新階段，誰來主導人工智能國際治理問題更加凸顯。聯合國秘書長古特雷斯在聯合國安理會就人工智能與安全問題舉行的高級別公開會上就敦促安理會“帶著‘一種緊迫感、一種全球視野和一種學習者的心態’來應對這項技術”；強調“聯合國正是為人工智能制定全球標準與治理手段的‘理想場所’”。而且，他同樣“歡迎一些會員國提出建立新的聯合國機構來治理人工智能，其模式可以參考國際原子能機構、國際民航組織或政府間氣候變化專門委員會”[4]。在這次高級別公開會上，中國常駐聯合國代表張軍表示，“中方支持聯合國在此方面發揮中心協調作用”[5]。

　　可以預見，隨著人工智能發展和復雜影響的日益顯現，人工智能國際治理規則管轄力與監管主體之爭還會繼續。如何應對人工智能監管規則博弈，是一個具有重大意義和影響的現實課題。

　?。ㄋ模┤绾未_定治理原則。在這次高級別公開會上，張軍提出關于人工智能治理的五條原則。一是堅持倫理先行。必須將“以人為本”“智能向善”作為基本準則。在此基礎上，逐步建立并完善人工智能倫理規范、法律法規和政策體系。二是堅持安全可控。國際社會要強化風險意識，建立有效的風險預警和應對機制，確保不發生超出人類掌控的風險，確保在關鍵時刻人類有能力摁下停止鍵。三是堅持公平普惠。發展中國家平等獲取和利用人工智能技術、產品和服務，對于彌合南北技術鴻溝、數字鴻溝、發展鴻溝至關重要。四是堅持開放包容?？萍及l展要在推動技術進步和保障安全應用兩方面取得相對平衡，最佳路徑是保持開放合作，鼓勵跨學科、跨領域、跨地區、跨國界的交流對話，反對各種形式的“小院高墻”“脫鉤斷鏈”，打造開放、包容、公正、非歧視的科技發展環境。五是堅持和平利用。要重點挖掘人工智能在促進可持續發展、推動跨領域融合創新等方面的潛力，更好賦能全球發展事業。各國應秉持負責任的國防政策，反對利用人工智能謀求軍事霸權、破壞他國主權和領土完整。[6]

　　在此原則下，如何就聯合國等正在探討的人工智能國際治理規則提出“中國方案”，仍然是需要研究者、實踐者、監管者們共同努力的。

　　智能工具運用與傳播倫理拓展

　　智能內容生成、人工智能生成內容如何使用，目前總體上還是由人來選擇的。在有相應法律法規、管理制度、監管規定規制的同時，還需有相應倫理規范制約。倫理是人與人、人與社會、人與自然、人與科學技術關系處理的行為規范?！翱萍紓惱硎强萍蓟顒颖仨氉袷氐膬r值準則”[7]，傳播倫理同樣是傳播活動應當遵守的價值準則。因此，應當積極推動傳播倫理、人工智能生成內容運用倫理研究的拓展，確保智能內容生成工具的發展和運用在倫理、規則、法律約束下進行。

　?。ㄒ唬﹤鞑惱硌芯棵媾R的歷史性課題和現實問題。今天探討傳播倫理，不僅面臨人人可能都在參與傳播、網絡直播把個人隱私傳播到過去難以想象地步，還面對推薦算法成為重要信息分發機制和人工智能生成的內容進入傳播的現實課題。

　　傳播倫理研究面臨的歷史性課題包括：傳播倫理研究如何適應人與人工智能共生時代，體現“促進人工智能安全發展”的要求。[8]這樣的歷史性課題又和現實性問題緊密地勾連在一起。一些新媒體平臺、終端和個人的有些做法是否已經超出現有媒介倫理所討論的范圍？如何看現有媒介倫理對現實問題的困惑？在新傳播倫理的研究中應當對這樣的重大問題有所觀照、有所前瞻，站在當下和未來提出、解釋和回答一系列問題。

　　傳播倫理研究面臨的歷史性課題還包括，中國的傳播倫理研究是否應該提出與文化自信相稱、與中國智慧相符的新傳播倫理；原有的媒介倫理研究更多借鑒于西方，是否可以抽取中國傳統文化精華、中國人所信奉的道德、日用而不覺的倫理規則，用于規范智能傳播時代的媒介傳播、網絡傳播行為。在新的歷史條件下，傳播倫理研究應當與作為人類文明新形態的中國式現代化相稱，與構建中華民族現代文明要求相匹配，才不負歷史使命和追求，才能在世界學術舞臺上就智能傳播時代的媒介倫理、傳播倫理對話時，帶去體現中國實踐、中國智慧的學術觀點、學術成果、調研結果。

　?。ǘ﹤鞑惱硌芯康乃膫€拓展。媒介倫理研究應當向四個方面拓展，現實和歷史條件決定了如果不進行這樣的拓展，媒介倫理研究就會落后于實踐和實踐需求，就不能產生足夠的影響力。

　　1.從專業媒體倫理向公共傳播倫理拓展。在人人傳播、海量傳播、多向傳播的時代，傳播已經滲透諸多領域，人人都是媒介、人人都是傳播者，媒介倫理研究要從對專業媒介傳播倫理的研究走向公共傳播倫理研究，回答每一個普通人如何面對傳播、如何適應傳播、如何實施傳播、如何適應被傳播，應該遵守什么樣的規范等問題。政治傳播關心的核心問題之一是增進社會共識、政治認同，社會共識、政治認同是一個國家、政權、政黨存在的基礎。從專業媒介倫理到公共傳播倫理，要關注怎樣增進社會共識。關于傳播的倫理規則，是尋求、增進社會共識的關鍵支點、重要基礎。有研究者發現，百分之七八十的個人隱私是個人自己暴露于傳播環境中的。這說明，要么是還沒有建立起共同認同的傳播倫理標準，要么是公眾不清楚傳播界限在哪里、倫理規則是什么、個人怎么辦。當一些年輕母親在網上曬其孩子穿衣較少的照片時，她們可能不清楚歐洲兒童色情的鑒別標準。這就急需向公眾進行傳播倫理的啟蒙教育和普及教育。如果媒介倫理研究不走向傳播倫理這樣的公共領域，就不能適應今天的社會現實。公共傳播倫理還應包括受眾被動參與再傳播等情況下，應遵守什么樣的倫理規則。

　　2.從傳統媒體倫理向新媒體傳播倫理拓展。今天，社交傳播、互動傳播、直播傳播等諸種新媒體傳播方式給傳播倫理提出的問題，遠遠超過傳統媒體。傳統媒介倫理的研究成果、研究范式、研究問題、研究關注點主要與傳統媒體運行相關，大體上是研究有組織傳播與受眾的關系，新媒體傳播既對受眾產生影響，又對傳播者產生影響，涉及問題更為多樣復雜，傳播倫理研究應當予以回應。

　　3.從人類傳播倫理向智能傳播倫理拓展。傳統媒介倫理研究有個假定，即假定傳播者是一個人類組織，這個組織的內容生產和傳播行為要遵循什么樣的倫理規則；或是傳播者作為專業媒體組織成員在內心和職務行為中要堅守什么樣的倫理規則。今天，智能內容生成、數據挖掘與可視化、推薦算法分發、精準傳播背后雖然仍然有人在控制、要有人負責，但遠不同于人類傳播活動的智能傳播行為、智能傳播體應當遵循什么樣的倫理規則，在法律、法規、監管規定之外，仍然需要制定、形成并不斷優化相應的倫理規則，以約束其行為與復雜效應。特別是AIGC這樣的智能內容生成工具可能成為超級傳播主體，更需制定相應的倫理規則，以行規制。一旦AIGC這樣的智能內容生成工具與推薦算法的自動化決策協同運用，與社交機器人這樣的人工智能應用協同運用，更將產生難以想象、難以控制、難以承受的顛覆性影響，更需要預先制定相應的倫理規則。完全按照技術思維、技術規則、技術倫理設計的算法和運行規則，所傳播內容、傳播行為引發的后果，可能是人們難以接受的。傳播倫理研究如果不從人類自主傳播的研究拓展到數據、機器、算法等介入其中的智能傳播相關傳播倫理規則研究，就不能適應現實的緊迫要求。倫理是一種共識性規范，是對被規范行為的倡導和要求，是維護社會秩序的相應規則和行為準則，蘊含理性和公共意志。智能傳播倫理研究有助于落實“塑造科技向善的文化理念和保障機制”的要求。[9]何況，雖然倫理關系先于法律關系而存在，但法律、法規、監管規定會體現、認可、強化有利于社會秩序和人類福祉的倫理。要促進人工智能安全發展，要保障人工智能在新聞傳播、網絡傳播等領域的安全利用，就要不斷推進智能傳播倫理研究。

　　4.從倫理學理研究向倫理規則制定研究拓展。人工智能技術迅速發展的現實情況下，不僅應當深化媒體倫理研究、傳播倫理研究，還應向倫理規則制定研究拓展，向解決急迫現實問題的研究拓展。不僅公眾需要傳播倫理的啟蒙教育、普及教育，相當多的傳播者們也需要，因為他們在現實中面臨很多急迫問題。傳播倫理規則的制定、完善，需要有更多研究者、實踐者參與努力、做出貢獻。智能傳播倫理規則的制定更需要研究者、實踐者、監管者共同做出努力。

　　【本文為國家社會科學基金重大項目“數字新聞學理論、方法、實踐研究”（批準號：20＆ZD317）成果】

　　參考文獻

　　▼

　　[1]新華社.聯合國秘書長呼吁強化人工智能全球治理[EB/OL].(2023-07-19).http://www.xinhuanet.com/2023-07/19/c_1129757277.htm.

　　[2][5][6]新華社.安理會就人工智能與安全問題舉行會議，中國代表提出治理五原則[EB/OL].(2023-07-19).https://baijiahao.baidu.com/s?id=1771803636549425264&wfr=spider&for=pc.

　　[3]王衛.搶占監管先機 歐盟《人工智能法案》進入最終談判階段[N].法治日報，2023-07-03.

　　[4]聯合國.秘書長：聯合國是為人工智能制定全球標準與治理手段的“理想場所”[EB/OL].(2023-07-18).https://news.un.org/zh/story/2023/07/1119877.

　　[7][9]習近平主持召開中央全面深化改革委員會第二十三次會議強調 加快建設全國統一大市場提高政府監管效能 深入推進世界一流大學和一流學科建設[N].人民日報，2021-12-18.

　　[8]中共中央政治局召開會議 分析研究當前經濟形勢和經濟工作 中共中央總書記習近平主持會議[N].人民日報，2023-07-25.

　?。ㄗ髡邽樘旖虼髮W新媒體與傳播學院院長，講席教授；天津大學網絡空間國際治理研究基地負責人，本刊學術顧問）

　　【文章刊于《青年記者》2023年第15期】