2025年12月11日
星期四
時間：2025-11-28 來源：民主與法制時報 責任編輯：陳聰
黨的二十屆四中全會通過的《中共中央關于制定國民經濟和社會發展第十五個五年規劃的建議》（以下簡稱《建議》）提出，“加快人工智能等數智技術創新，突破基礎理論和核心技術，強化算力、算法、數據等高效供給。”全會立足新的時代方位和發展階段，以深遠的戰略眼光與系統的全局謀劃，開啟了未來五年經濟社會發展的新航程。這將成為加快人工智能等數智技術創新、促進實體經濟和數字經濟深度融合發展的重要驅動力。實踐中，人工智能越來越多地運用于工業、醫療、家居、零售、交通、公共安全、環境保護等諸多領域。然而，人工智能等數智技術是一把“雙刃劍”，它在成為推動社會進步強大引擎的同時，也潛藏著濫用或失控風險，可能給社會帶來安全、倫理、輿情等諸多方面的問題。對此，習近平總書記強調，要加強人工智能發展的潛在風險研判和防范，維護人民利益和國家安全，確保人工智能安全、可靠、可控。《建議》要求，“加強人工智能治理，完善相關法律法規、政策制度、應用規范、倫理準則”。因此，亟須加強人工智能立法促進數智技術創新發展。
人工智能可能帶來的問題
第一，人工智能可能帶來的安全問題。所謂人工智能，是指通過機器學習、深度學習、自然語言處理等技術，模擬人類智能，從數據中識別規律和特征，并進行一定程度的自動化決策。實踐中，人工智能帶來的安全風險主要體現在以下方面：一是處理數據資源過程中的安全風險。數據是人工智能的基礎，它既是人工智能和訓練人工智能的“養料”，又是人工智能處理問題和作出決策的依據。然而，人工智能在處理數據時可能存在數據泄露、侵犯隱私、植入惡意信息等問題。二是人工智能系統錯誤帶來的安全風險。人工智能主要包括傳感系統、算法系統和執行系統等。任何一個系統出現問題都可能偏離預設目標，輸出不可預期的結果，引發系統失控風險。三是關鍵基礎設施的安全問題。人工智能廣泛運用于金融、交通、電網、水利等關鍵領域。一旦人工智能系統出現問題，就可能引發系統性安全風險。
第二，人工智能可能帶來的倫理問題。受算法主導，人工智能主要遵循概率統計邏輯和效率邏輯。其在運行過程中易出現關聯歧視、特征選擇歧視等問題。這些歧視具有較強的隱蔽性，難以有效追責和糾正。同時，算法在很大程度上是一個“黑箱子”，普通人很難知道算法決策如何產生，也不知道算法決策所依據的具體數據和遵循的決策原則。“算法黑箱”的存在使得傳統透明性原則和告知同意原則對人工智能的規范作用愈來愈小，使得人容易成為被計算的對象。除此之外，人工智能對于不同主體的賦能也有區別，如弱勢群體可能不僅缺乏訪問人工智能技術和互聯網的必要設備、網絡和資金，而且缺乏使用和理解人工智能所需要的數字素養和技能。這又反過來進一步加劇了弱勢群體的弱勢地位。
第三，人工智能可能帶來的輿情問題。人工智能在推動社會發展的同時，對相關部門的輿情處置與網絡治理工作帶來巨大挑戰。一方面，它通過大型語言模型和深度偽造技術，可以快速生成以假亂真的文字、圖片和視頻，憑空捏造虛假新聞。犯罪分子可能通過人工智能操縱社交機器人網絡、偽裝信息源等手段進行病毒式傳播，并動態優化內容，混淆視聽、誤導公眾。另一方面，人工智能通過大數據分析，可根據用戶的興趣特點、行為動態精準投放信息，這成為一種高效且隱蔽的輿論操控工具。它通過對用戶海量數據的算法解析，為其勾勒出精細的“心理畫像”，并據此構建高度個性化的“信息繭房”，從而為其“投喂”和灌輸某些片面或極端觀點，沖擊主流意識形態。
第四，人工智能可能帶來的就業替代問題。人工智能高度智能化釋放出巨大的生產力，越來越多原本由人所從事的勞動和工作被其接管，從而出現就業替代問題。這種替代呈現出速度快、規模大、領域廣、全球性等特點。這會大大減少人類的工作崗位，而且被替代的勞動者很難通過短期培訓重新上崗。人工智能帶來的“技術鴻溝”也可能導致大量人群陷入永久性失業狀態，帶來大量社會保障難題和社會治理問題。
人工智能立法應堅持的基本原則
面對人工智能帶來的一系列問題，我們應當加強人工智能治理，盡快制定完善相關法律法規。這既關系到國家安全保障和產業發展，又涉及新一輪技術革命背景下的全球制度競爭和人工智能全球治理中的話語權和影響力。具體來講，人工智能立法應堅持以下基本原則：
第一，堅持發展和安全統籌原則。統籌高質量發展和高水平安全，是以習近平同志為核心的黨中央站在“兩個一百年”奮斗目標歷史交匯點，立足新發展階段國際國內新形勢新情況所作出的重大戰略部署，是中國共產黨治國理政的一個重大原則。黨的二十屆四中全會進一步指出，“十五五”時期經濟社會發展必須堅持統籌發展和安全。人工智能立法也應堅持這一原則。人工智能發展具有典型的復雜性、快速變化和不可預測性等特點。立法時，必須既要看到人工智能發展的重要性，又要看到人工智能潛在的風險性。應當推動人工智能安全可靠可控發展，反對追求絕對安全和將人工智能安全泛化，堅持在法律治理穩定性與人工智能治理靈活性之間保持平衡。
第二，堅持產業促進與底線管控并重原則。作為引領未來的基礎性、戰略性技術，人工智能遠超任何其他單一技術的戰略價值已經在實踐中顯現，并且深刻改變著人類生產生活方式。人工智能立法的定位應當是大力推動人工智能技術與產業創新發展，營造開放包容、充滿活力的制度環境；系統規范人工智能技術的研發與應用行為，構建敏捷協同、科學審慎的治理體系；切實維護個人的合法權益與人格尊嚴，筑牢以人為本、公平正義的法治屏障；堅決確保國家安全與社會穩定，防范化解各類潛在風險與挑戰。因此，人工智能立法既是人工智能產業的促進法，又是公民合法權益的保障法。人工智能立法既要確立清晰的法律邊界與規則，提供穩定的預期，掃清創新道路上的障礙，釋放產業活力，又要樹立底線管控意識，通過建立清晰、可預期的負面清單和監管框架，將人工智能發展過程中的不確定性降至最低。
第三，堅持軟法與硬法協同發展原則。人工智能是一種技術，具有不同的應用場景，應有不同的制度規則，且不同規則之間的規范強度應有所區別。因此，我國在加強人工智能立法時，應當堅持軟法與硬法相結合原則，除進一步完善國家層面的《中華人民共和國網絡安全法》《中華人民共和國數據安全法》《中華人民共和國個人信息保護法》等法律外，還需要加快制定相關地方性和行業性法規、政策制度、標準規范、倫理準則等。通過倡議、指南、標準、準則等軟法方式彌補國家法律在應對人工智能快速變化時的滯后性。
第四，堅持國家治理與全球治理耦合原則。人工智能與互聯網之間存在緊密關系。互聯網增強了人工智能自我學習和進化能力，人工智能增強了互聯網的創新應用場景。人工智能與互聯網的深度融合使得其發展具有跨國性。因此，進行人工智能立法時，既需要加強國內層面的人工智能治理，又要考慮全球人工智能治理問題，并將國家治理與全球治理進行耦合。《建議》提出，“維護大國關系總體穩定，深化同發展中國家團結合作，落實全球發展倡議、全球安全倡議、全球文明倡議、全球治理倡議，引領國際秩序朝著更加公正合理的方向發展。”這自然也涉及人工智能的發展與安全問題。因此，我國人工智能立法應在充分考慮中國國情和國家治理需要的同時，呼應全球范圍內對于人工智能可信、安全、可控的共同關切，并在具體措施上借鑒其他國家先進法律制度和經驗。總體來看，我國人工智能立法應積極回應全球人工智能治理過程中的關鍵問題和重要問題，為國際人工智能治理標準與規則的制定貢獻中國智慧、中國方案。
本文為國家社會科學基金重大項目“當代中國數字法學基本范疇體系研究”（項目編號：23&ZD153）的階段性研究成果。
（作者為中國法學會法理學研究會秘書長、山東大學法學院教授）
關注官方微信
關注官方微博
