法官和律师也要学习 AI？法律界为何需要 AI 安全教育

想象一下：今天审理你那桩冤案的法官，或者本应保护你隐私的法律团队律师，在完全不了解人工智能 (AI) 如何做出决策的情况下使用 AI，你会有什么感觉？

我们已经在日常生活中频繁接触 AI。然而，其背后的技术依然像是一个复杂的“黑匣子”（内部结构不可知的系统）。最近，来自全球 12 个国家的 19 名法律界及治理（为了实现共同目标，各利益相关方协作制定规则的管理体系）专家，聚集在为期 5 天的 AI 安全训练营中。法律界专家参与 AI 安全训练营的原因 即使他们不是技术人员，为什么也要开始深挖技术核心呢？

这为何重要？

AI 不仅仅是一个工具，它现在已经深入参与到社会的决策体系中。企业、法院和政府已经在使用 AI 来执行招聘、司法判决和政策制定等任务。法律界专家参与 AI 安全训练营的原因

如果负责在这些领域做出决策的人无法理解 AI 为何会给出那样的答案，那么结果可能是不公正的。接受过 AI 安全教育的专家能够准确掌握 AI 的技术局限性和错误可能性，从而起草出能够保护技术不侵犯公民权利的法规或合同。换句话说，他们缩小技术与法律之间差距的努力，正是守护你们隐私和基本权利的最前线。

简单来说：打开 AI 这个黑匣子

让 AI 变得难以理解的最大原因在于，AI 的自主学习过程与人类的思维方式大相径庭。这就是所谓的“黑匣子”。虽然表面上会输出看起来合理的回答，但很难知道内部到底发生了什么。

打个比方，想象一位制作复杂料理的厨师（AI）。我们收到了美味的食物（结果），却不知道厨师放了什么食材（数据），以及以何种比例混合才做出了那种味道。AI 安全训练营的目的 面向专家的教育过程就是公开厨师的厨房，学习食材如何反应的技术原理。

通过这种方式，学员们解开了“黑匣子”的谜团，获得了在进行政策讨论时能与技术人员沟通的具体技术词汇。这就像学习如何与厨师一起检查厨房的卫生与安全一样。AI 安全训练营的教育内容

现状：正在哪里学习？

随着对 AI 安全呼声的提高，针对专家的专业教育项目也越来越多。

• BlueDot Impact：运营着人工智能安全与社会韧性人才加速器，提供多样化的课程。BlueDot Impact 介绍
• ML4Good：帮助专家转型进入 AI 安全领域，通过降低技术门槛，使高水平的政策讨论成为可能。ML4Good 项目
• SASH：提供 AI 安全与治理工作的奖学金和训练营。SASH 项目

通过这些教育，法律专业人士不仅学习法典上的文字，更直接学习实际的 AI 系统是如何设计的，以及安全缺陷出现在哪里。法律界专家们的 AI 安全学习

未来会怎样？

技术的发展速度非常快。现在，如果法律专家没有技术知识就去设计安全的社会，实际上是不可能的。就像如果不了解汽车结构就很难制定交通法规一样，未来法律和治理专家具备 AI 安全知识很可能会成为一项必备资格。

如果这种努力持续下去，法院和政府在处理 AI 问题时，将能够做出更加透明和负责任的决策。毫不夸张地说，守护你们的权利不仅取决于技术的发展，还取决于那些试图理解该技术的法律界人士的努力。

参考资料

1. Lawyers Are Learning AI Safety to Protect Your Rights
2. ML4Good - Advance your career in AI Safety

3. [BlueDot Impact

   Have a positive impact on the trajectory of AI](https://bluedot.org/)

4. [Programs

   SASH](https://www.aisafety.sg/programs)