随著人工智慧系统日益渗透到我们日常生活中的关键决策过程中，将道德框架融入人工智慧开发正在成为研究重点。在马里兰大学 (UMD)， 跨学科团队致力于解决规范推理、机器学习演算法和社会技术系统之间复杂的相互作用。
在最近接受《人工智慧新闻》采访时，博士后研究员Ilaria Canavotto和Vaishnav Kameswaran结合了哲学、电脑科学和人机互动方面的专业知识，以应对人工智慧伦理方面的紧迫挑战。他们的工作涵盖了将道德原则嵌入人工智慧架构的理论基础以及人工智慧部署在就业等高风险领域的实际影响。
对人工智慧系统的规范理解
Ilaria Canavotto 是 UMD 以价值为中心的人工智慧 (VCAI) 计划的研究员，隶属于高级电脑研究所和哲学系。她正在解决一个基本问题：我们如何为人工智慧系统注入规范性理解？随著人工智慧越来越多地影响影响人权和福祉的决策，系统必须理解道德和法律规范。
“我研究的问题是，我们如何将这种讯息，这种对世界的规范性理解，输入到一台可以是机器人、聊天机器人或类似的机器中？”卡纳沃托说。
她的研究结合了两种方法：
自上而下的方法：这种传统方法涉及将规则和规范明确地编程到系统中。然而，卡纳沃托指出，「不可能那么容易地把它们写下来。总是会有新的情况出现。
自下而上的方法：一种使用机器学习从资料中提取规则的新方法。虽然更灵活，但缺乏透明度：「这种方法的问题是我们并不真正知道系统学到了什么，而且很难解释其决定，」卡纳沃托指出。
卡纳沃托和她的同事杰夫·霍蒂和埃里克·帕奎特正在开发一种混合方法，以结合两种方法的优点。他们的目标是创建人工智慧系统，能够从数据中学习规则，同时维持基于法律和规范推理的可解释的决策过程。
「[我们的]方法[……]是基于一个称为人工智慧和法律的领域。因此，在这个领域，他们开发了从数据中提取资讯的演算法。因此，我们希望推广其中一些演算法，然后拥有一个可以更普遍地提取基于法律推理和规范推理的资讯的系统，」她解释道。
人工智慧对招募实践和残疾人包容性的影响
Canavotto 专注于理论基础，而隶属于马里兰大学 NSF 值得信赖人工智慧和法律与社会研究所的 Vaishnav Kameswaran 则研究人工智慧的现实世界影响，特别是它对残疾人的影响。
Kameswaran 的研究调查了人工智慧在招募流程中的使用，揭示了系统如何无意中歧视残疾候选人。他解释说，“我们一直在努力……稍微打开黑匣子，尝试了解这些演算法在后端的作用，以及它们如何开始评估候选人。”
他的研究结果表明，许多人工智慧驱动的招募平台严重依赖规范的行为线索（例如眼神交流和脸部表情）来评估候选人。这种方法可能会对患有特定残疾的个人造成极大的不利影响。例如，视力受损的候选人可能难以保持目光接触，人工智慧系统通常将这种讯号解释为缺乏参与度。
卡梅斯瓦兰警告说：“通过关注其中一些品质并根据这些品质评估候选人，这些平台往往会加剧现有的社会不平等。”他认为，这种趋势可能会进一步使残疾人士在劳动力中边缘化，而这个群体已经面临巨大的就业挑战。
更广泛的道德景观
两位研究人员都强调，围绕人工智慧的伦理问题远远超出了他们的特定研究领域。他们涉及几个关键问题：
- 资料隐私和同意：研究人员强调了当前同意机制的不足，特别是在人工智慧训练的资料收集方面。 Kameswaran 引用了他在印度工作的例子，在 COVID-19 大流行期间，弱势群体在不知不觉中向人工智慧驱动的贷款平台交出了大量个人资料。
- 透明度和可解释性：两位研究人员都强调了解人工智慧系统如何做出决策的重要性，特别是当这些决策对人们的生活产生重大影响时。
- 社会态度与偏见： Kameswaran 指出，仅靠科技解决方案无法解决歧视问题。社会对包括残疾人在内的边缘群体的态度需要更广泛的改变。
- 跨学科合作：马里兰大学研究人员的工作体现了哲学、电脑科学和其他学科之间合作在解决人工智慧伦理问题的重要性。
展望未来：解决方案与挑战
尽管挑战巨大，但两位研究人员都在努力寻找解决方案：
- 卡纳沃托对规范人工智慧的混合方法可能会带来更具道德意识和可解释的人工智慧系统。
- Kameswaran 建议为倡导团体开发审计工具，以评估人工智慧招募平台是否存在潜在歧视。
- 两者都强调需要改变政策，例如更新《美国残疾人法案》以解决与人工智慧相关的歧视问题。
然而，他们也承认问题的复杂性。正如 Kameswaran 所指出的那样，「不幸的是，我认为使用某些类型的资料和审计工具来训练人工智慧的技术解决方案本身并不能解决问题。因此，需要多管齐下。
研究人员工作的一个重要收获是需要提高公众对人工智慧对我们生活的影响的认识。人们需要知道他们共享了多少数据或这些数据是如何使用的。正如卡纳沃托指出的那样，公司通常有动机掩盖这些讯息，将其定义为「试图告诉你，如果你向我提供数据，我的服务会对你更好的公司」。
研究人员认为，需要做更多的工作来教育大众并让公司承担责任。最终，卡纳沃托和卡梅斯瓦兰的跨学科方法将哲学探究与实际应用相结合，是一条朝著正确方向前进的道路，确保人工智慧系统强大但又符合道德和公平。
另请参阅： 帮助或阻碍的法规：Cloudflare 的做法
想向产业领导者了解更多关于人工智慧和大数据的知识吗？查看在阿姆斯特丹、加州和伦敦举办的人工智慧与大数据博览会。该综合活动与智慧自动化大会、 BlockX 、数位转型周以及网路安全与云端博览会等其他领先活动同期举行。
在此探索由 TechForge 提供支援的其他即将举行的企业技术活动和网路研讨会。
《 桥接代码与良心：UMD 对道德与包容性人工智慧的追求》一文首先出现在《人工智慧新闻》 。
