当法学院遇上计算机系：一场关于“算法审判”的思维风暴

来自威敏法律与技术法学硕士（Law and Technology LLM）以及计算机科学与工程院系的学生们，合作举办了一系列多学科研究咖啡馆（Multidisciplinary Research Cafes）活动，共同探讨算法透明性、偏见和数据抓取等实际问题，并尝试从技术和法律角度提出解决方案。

这一项目得到了昆廷·霍格信托（Quintin Hogg Trust）的支持，旨在提升多学科间的沟通与技能协作。来自数据科学及分析硕士（MSc Data Science and Analytics）的学生 Mahnoor Bilal，为我们分享了她参与这一项目的体验。在这场跨学科的探索中，她不仅获得了专业知识的提升，更收获了思维方式的转变。接下来，让我们一同走进她的故事，感受这一项目的独特魅力！

在第一场多学科研究咖啡馆中，这一问题成为了核心议题。活动将法律与技术法学硕士的学生与计算机科学与工程的学生聚集在一起，共同探讨如何设计不仅技术稳健，还能解释性强、包容性强且符合法律框架（如GDPR和HIPAA）的人工智能系统。

首个挑战是重新构想医疗领域的AI应用——在这个领域，算法决策往往会产生改变生命轨迹的重大影响。至于算法是否会因误诊而被起诉？目前尚未出现此类案例。但在人工智能系统深度介入贷款审批、器官移植排序甚至早期癌症筛查准入机制的时代，这个问题早已突破纯理论范畴，演变为交织着法律争议、伦理困境与现实紧迫性的复杂命题。随着系统复杂度呈指数级增长，其潜在危害也在以更隐蔽的方式持续累积。

参与者被分为多学科团队，法律和数据科学的学生共同研究如何负责任地在医疗领域部署AI系统。我的小组重点研究了算法公平性问题——尤其关注医疗数据集中少数族裔样本不足可能导致的诊疗结果偏差。通过运用沙普利加法解释模型（SHapley Additive Explanations, SHAP）等可解释性工具，我们深入剖析了模型预测的逻辑链条，并探讨如何将数据保护、透明度及知情同意等核心原则，从技术层面内嵌至系统设计的全生命周期中。

法律学生带来了法律先例、监管框架和伦理警示，而数据科学的学生则深入探讨技术细节：如何将可解释性融入模型、识别可能作为种族或阶级代理的特征，以及如何定义“准确性”，尤其是在其可能重现结构性不平等的情况下。

有一个瞬间让我记忆犹新——那是在一场关于邮政编码数据的激烈争论中。我们的数据显示，邮政编码对某些健康结果具有极强的预测性。从技术层面讲，纳入该变量能显著提升模型精度。但我们都清楚，邮政编码往往与种族和社会经济地位存在关联。明知它能优化预测，我们是否该使用它？还是为了避免加剧历史遗留的不平等而将其排除？站在数据科学角度，这是个完全理性的特征变量；但从法律视角看，它已然游走在间接歧视的边缘。这种效果与原则之间的张力，绝非单纯的理论空谈，而是真真切切的现实困境。

最让我惊讶的是整个对话过程。向法律学生解释机器学习技术，同时看到他们从法律责任的角度重新解读这些技术，让我逐渐意识到：我们不仅仅是合作或互相简化，而是正在为共同的责任寻找一种共通的语言。

作为一名数据科学学生，我在课程中学习过公平性和偏见相关内容。但这次经历让我真正理解了将公平性融入真实系统的含义。这种思维转变已经影响了我的课程学习，尤其是在AI治理、机器学习伦理和数据系统等模块中。

在接下来的活动中，我们将从讨论转向设计——将我们的框架转化为可视化架构和操作指南。我们的目标是共同创建一个将技术策略与法律规范相结合的资源，未来可能为法律和医疗领域的从业者提供算法公平性的实践参考。

但我们也正在构建更具深远意义的东西：一种超越合规性、迈向关怀的思维方式。我们致力于构建的系统不仅是有效的，而且是正义的。

这一项目得以实现，得益于 Diana Sancho 博士和 Anastassia Angelopoulou 博士的远见与领导。她们的工作持续在法律与技术之间架起桥梁。

对于任何在技术与社会交叉领域学习的学生来说，这样的体验都是变革性的。它促使我思考超越指标与模型的问题——考虑我们的系统为谁服务，又可能将谁抛在身后。因为归根结底，算法并非存在于代码中，而是存在于人们的生活中。如果我们希望塑造AI的未来，就必须将这一点牢记于心。

#Let's make it happen

#想得出，做得到