摘要: 原標題：北大教授張平：AI治理要以人為本，應探索更多元的治理工具 12月19日，第七屆啄木鳥數據治理論壇在京召開。此次論壇由南方都市報數字經濟治理
原標題：北大教授張平：AI治理要以人為本，應探索更多元的治理工具
12月19日，第七屆啄木鳥數據治理論壇在京召開。此次論壇由南方都市報數字經濟治理研究中心聯合中國政法大學數據法治研究院舉辦，主題為“數據為本，AI向善”。過去一年，AI產品井噴式爆發，使得人工智能幾乎成為年度熱詞。AI所帶來的信息安全挑戰、取代人力的擔憂，對其是否享有與人類類似權利的體認也成為輿論熱議的話題。
張平教授發表主題演講。
北京大學法學院教授、中國科學技術法學會常務副會長兼秘書長張平長期關注全球范圍內的AI監管趨勢和安全議題，此次會議上她以人工智能治理發表專題演講。張平認為，人工智能在造福人類的同時也蘊含危機，倫理道德、隱私泄露、信息壟斷、國家安全等風險與日俱增，若缺少對人工智能的規范和引導，濫用人工智能技術將帶來難以承受的后果。
她也強調，今年7月，七部門出臺的《生成式人工智能服務管理暫行辦法》要求數據來源及處理過程中合法合規，但該條規定要求較為嚴苛，在現實實踐中絕大多數企業可能遇到困境，建議監管部門探索更多元的監管工具，促進人工智能的健康發展。
全球AI治理強調以人為本、倫理先行，中國AI治理進程加快
張平介紹，從全球范圍來看，美國、歐盟都相應制定了AI的治理框架，中國以《網絡安全法》《數據安全法》《個人信息保護法》《民法典》構建基礎的AI治理框架。今年以來也加快政策制定和立法步伐，如國務院明確將人工智能法納入2023年立法工作計劃，7月出臺《生成式人工智能服務管理暫行辦法》，近期以來《科技倫理審查辦法（試行）》《全球人工智能治理倡議》等文件相繼發布，上述系列文件對AI的治理聚焦以人為本的治理原則，同時要求倫理先行，以科技倫理審查確保AI技術不被濫用，尤其是《生成式人工智能服務管理暫行辦法》對生成式人工智能提出更細致的要求，包括明確數據處理要合法合規。
她認為，中國對AI的主要治理理念也是國際社會的普遍共識。今年11月1日，全球首屆人工智能安全峰會上，包括中國在內的28個國家以及歐盟共同發布《布萊奇利宣言》，明確要求治理兩類關鍵風險即AI的濫用和失控，宣言指出，現階段人工治理工作的重點包括以人為本，關注人權諸如生命權、隱私權、數據權，同時強調保護網絡安全和預防生物技術風險等。
張平在會上還介紹和比較了美國、歐盟和中國當前對AI的治理原則，她認為，美國的監管目前更趨向事后監管，是先發展后立法，并要求以監管在此領域保持絕對領先，是一種進攻思維。歐盟則是對抗思維，對AI的態度是先監管再發展，尤其強調對人權的保護，“《人工智能法案》明確對AI風險分級分類監管，一旦涉及危害人類要立即停止。”中國則更像防守思維，邊發展邊監管，尤其強調安全，“比如以個人信息為例，美國聚焦隱私保護，中國則兼顧隱私之外的數據安全。”
生成式AI數據合規落地難，建議探索多種監管工具
值得關注的是，今年7月，國家網信辦、國家發改委、教育部、公安部等7部門聯合發布《生成式人工智能服務管理暫行辦法》，其中第七條引發廣泛關注。即生成式人工智能服務提供者應依法開展預訓練，優化訓練等訓練數據處理活動，強調要使用具有合法性來源的數據和基礎模型，不得侵害他人依法享有的知識產權，涉及個人信息的應當取得個人同意或符合法律、行政法規規定的其他情形，采取有效措施提高訓練數據質量，增強訓練數據的真實性、準確性、客觀性、多樣性。
張平教授演講。
AI的數據處理合法性被納入暫行規定，張平認為，這是一條相對嚴苛的條款，按照這一規定，絕大多數企業難以合規。比如來自公有領域的數據，盡管本身不存在著作權問題，但可能涉及署名權、修改權等人身權問題。再比如，使用爬蟲技術獲取數據是目前最常用的數據收集手段，但該內容受到網絡爬蟲協議條款的約束，一般商業產品開發使用還會受到限制。針對數據難以合規的困境，張平認為，立法仍然有商榷的空間，“如果要求數據合規和知識產權來源合法，萬一做不到，我們怎么去監管？”
張平建議，基于目前官方對AI治理持有包容審慎的態度，需要再探索多樣的監管工具解決數據合法性來源的問題。“比如AI服務商可以通過爬蟲技術獲得公共領域或者白名單數據。比如讓AI服務商通過引用說明的方式表明來源，規避權屬糾紛。再比如鼓勵推動更多科學作品開放授權，推動生成式AI輸出數據的開放許可。應當充分考慮發展，若AI更利于社會發展，那么它稍有一些瑕疵，通過民法里的填平原則，可以給相關權利人一些補償，不能由于不合法，就要發禁令。如何通過立法和政策制定解決未來AI治理的困惑和難題，是我們要直面的問題。”張平說。
新教育 · 新觀察 · 新視點
