生成式人工智能對個人信息保護的挑戰與治理路徑
網絡安全與數據治理
萬美秀
南昌大學法學院
摘要： 以ChatGPT為代表的生成式人工智能技術給各行各業帶來顛覆性變革，但也引發個人信息泄露、算法偏見、虛假信息傳播等個人信息侵權危機。傳統“基于權利保護”的路徑過于強調個人信息保護而阻礙人工智能產業的發展，“基于風險防范”的路徑則更加凸顯個人信息的合理利用價值，價值選擇上更優。但以權利保護和風險保護共同治理，才能實現利益平衡并建立個人信息的長效保護機制。在個人信息處理規則上，以“弱同意”規則取代僵化嚴苛的知情同意規則；在目的限制原則上，以“風險限定”取代“目的限定”；在個人信息最小化原則上，以“風險最小化”取代“目的最小化”。在此基礎上，進一步加強生成式人工智能數據來源合規監管，提升算法透明性和可解釋性，強化科技倫理規范和侵權責任追究。
中圖分類號：D913;TP399文獻標識碼：ADOI:10.19358/j.issn.2097-1788.2024.04.009
引用格式：萬美秀.生成式人工智能對個人信息保護的挑戰與治理路徑［J］.網絡安全與數據治理，2024，43（4）：53-60.
引用格式：萬美秀.生成式人工智能對個人信息保護的挑戰與治理路徑［J］.網絡安全與數據治理，2024，43（4）：53-60.
The challenge and governance path of generative artificial intelligence to personal information protection
Wan Meixiu
Law School, Nanchang University
Abstract： Generative artificial intelligence technology represented by ChatGPT has brought disruptive changes to all walks of life, but also triggered personal information infringement crises such as personal information disclosure, algorithmic bias, and false information dissemination. The traditional "right protection-based" path overly emphasizes personal information protection and hinders the development of the artificial intelligence industry. The "risk prevention-based" path highlights the rational use value of personal information and is better in value selection. However,only by governing together with right protection and risk protection can we achieve a balance of interests and establish a long-term protection mechanism for personal information. In terms of personal information processing rules, the rigid and strict informed consent rules should be replaced by the "weak consent" rule; in terms of purpose limitation principles, the "purpose limitation" principle should be replaced by the "risk limitation"; in terms of personal information minimization principles, the "purpose minimization" principle should be replaced by the "risk minimization". On this basis, we should further strengthen the compliance supervision of generative artificial intelligence data sources, improve the transparency and interpretability of algorithms, and strengthen the standardization of scientific and technological ethics and the investigation of tort liability.
Key words : generative AI；ChatGPT；personal information protection；governance path
引言
以ChatGPT為代表的生成式人工智能掀起了全球第四次科技革命浪潮，成為帶動全球經濟增長的新引擎［1］。然而，作為新一代人工智能技術，生成式人工智能在不斷迭代更新與變革生產關系的同時，也帶來了諸多個人信息保護的法律風險。生成式人工智能的運行以海量用戶的個人信息為基礎，在輸入端、模擬訓練端、模擬優化端、輸出端等各環節都離不開個人信息的使用。在大規模的數據處理和不透明的算法黑箱背景下，生成式人工智能便產生了違法收集個人信息、制造虛假有害信息、算法偏見與歧視等問題。對此，各國監管部門廣泛關注，美國、法國、意大利、西班牙、加拿大等多國政府已宣布對ChatGPT進行調查監管，并出臺了相應監管規范。2023年7月10日，我國網信辦等七部門也聯合發布了《生成式人工智能服務管理暫行辦法》（以下簡稱“《暫行辦法》”），明確了促進生成式人工智能技術發展的具體措施，對支持和規范生成式人工智能發展作出了積極有力的回應。但需要注意的是，《暫行辦法》對個人信息保護的規定僅在第4、7、9、11、19條中援引《個人信息保護法》的相關規定，對使用生成式人工智能技術侵犯個人信息權益呈現出的新問題缺乏專門規定，而繼續延用《個人信息保護法》面臨諸多適用困境。
本文詳細內容請下載：
http://www.cowatch.cn/resource/share/2000005969
作者信息：
萬美秀
（南昌大學法學院，江西南昌330031）
此內容為AET網站原創，未經授權禁止轉載。