算法影響評估制度的實踐路徑分析
網絡安全與數據治理
王宇曉1,2，吳少卿2，張靜怡1,2
1.中國信息通信研究院； 2.移動應用創新與治理技術工業和信息化部重點實驗室
摘要： 算法影響評估制度作為國內外算法治理的基礎性制度，是當前階段算法治理的主要方案，但在應用實施過程中仍存在評估對象泛化、評估方法透明性不足的問題，需進一步細化。聚焦分析算法影響評估制度在應用實施過程中應關注的評估對象、評估內容和評估方法，提出在實際評估過程中應根據初步風險對算法評估對象分類分級，加強對以機器學習為基礎的復雜算法的評估，重點關注算法的應用環節，重點評估算法輸入的數據與特征、輸出的目標與結果、干預與保障措施以及個人權利響應。
中圖分類號：TN919;D922.16文獻標識碼：ADOI:10.19358/j.issn.2097-1788.2024.10.009
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網絡安全與數據治理，2024，43（10）：57-61.
引用格式：王宇曉，吳少卿，張靜怡.算法影響評估制度的實踐路徑分析［J］.網絡安全與數據治理，2024，43（10）：57-61.
Practical solutions of algorithm impact assessment system
Wang Yuxiao1,2,Wu Shaoqing2, Zhang Jingyi1,2
1.China Academy of Information and Communications Technology；2.Key Laboratory of Mobile Application Innovation and Governance Technology, MIIT
Abstract： As the basic system proposed in the first stage of algorithm governance, the algorithm impact assessment system is the main solution for algorithm governance at the current stage. However, during the application and implementation process, there are still problems of generalization of assessment objects and insufficient transparency of assessment methods, which need to be further elaborated. This article focuses on analyzing the objects, assessment content and assessment methods that should be assessed during the application and implementation of the adjustment impact assessment system. During the actual assessment process, it is proposed to initially classify and grade the adjustment assessment objects based on risks, and strengthen the use of machine learning-based algorithms. Evaluation focuses on the application stage of the algorithm, focusing on the input data and feature complexity of the algorithm, the output goals and results, intervention and safeguard measures, and individual rights responses.
Key words : algorithmic impact assessment;algorithmic risk;algorithmic governance;classification and grading
引言
隨著人工智能技術的迅速發展，算法廣泛應用于社會生活的方方面面，與此同時，算法帶來的安全風險引起了廣泛關注［1］。面對日益攀升的算法治理壓力，算法影響評估制度（Algorithm Impact Assessment）作為重要的治理方法被提上中外立法議程，成為當下算法治理實踐中矚目的焦點［2］。算法影響評估制度是指依據系統制定的衡量標準對算法自動化決策系統的系統設計、應用流程和數據使用等內容進行全面評估，以明確該系統的風險等級和影響范圍的一種算法治理實踐［3］。本文主要剖析在算法實際應用過程中，算法影響評估制度應重點關注的評估對象與范圍、評估內容中的要點和細化方法，以及對推動算法影響評估制度落地提出相關建議。
本文詳細內容請下載：
http://www.cowatch.cn/resource/share/2000006197
作者信息：
王宇曉1,2，吳少卿2，張靜怡1,2
（1.中國信息通信研究院，北京100010；
2.移動應用創新與治理技術工業和信息化部重點實驗室，北京100010）
此內容為AET網站原創，未經授權禁止轉載。