飞鱼博客 
近年来，人工智能公司因生成歧视历史上边缘化群体的机器学习算法而受到公开指责。为了平息这种批评，许多公司承诺确保他们的产品是公平、透明和负责任的，但这些承诺经常被批评为仅仅是“道德清洗”，最近从斯坦福大学人文与科学学院传播系获得博士学位的桑娜·阿里说。“有一种担忧是，这些公司只说不做。”
为了探究情况是否如此，阿里采访了该领域一些最大公司的人工智能伦理工作者。该研究项目由斯坦福大学通信助理教授ang
·克里斯汀、谷歌研究员安德鲁·斯玛特、斯坦福大学管理科学与工程教授和w·m·凯克教授Riitta Katila共同撰写，发表在美国计算机学会公平、问责和透明度会议论文集(FAccT '23)上。
研究发现，道德倡议和干预措施很难在科技行业的制度环境中实施。具体来说，阿里发现，团队在很大程度上资源不足，得不到领导的支持，而且他们缺乏对自己发现的问题采取行动的权力。
阿里说:“没有领导的支持，个人员工必须运用说服技巧和人际关系策略才能取得进展。”结果是:他们成功地与一些团队合作，而不是与另一些团队合作，并且经常在产品发布日期太近的时候被要求进行咨询，并且没有权力要求重要的道德修复。
阿里的采访提出了一些解决方案:她说，领导层应该激励产品团队将道德考虑纳入产品开发过程，应该有官僚机构的支持，授权道德团队开展工作，并赋予他们在产品发布前实施必要的道德修复的权力。
“这些公司不太可能改变他们频繁发布新产品的优先顺序，”阿里说。“但至少他们可以提供激励措施，让道德及早成为对话的一部分。”
阿里说，许多科技公司都发布了关于问责制、透明度和公平性的原则声明。他们还开发了评估算法公平性的工具包;举办研讨会，介绍如何实施负责任的人工智能;并聘请了道德团队，这些团队有各种各样的名字，比如“信任与安全”或“负责任的人工智能”。
从理论上讲，这些道德团队为解决培训数据问题提供专家支持;在机器学习模型经过训练后，识别和实施各种公平修复;或者评估一个模型是否足以解释其预期用途。
这一切都很好，阿里说，“但我们想看看在实地实施这些倡议和干预措施的挑战。”
为此，她采访了25名科技行业的员工，其中21人目前或曾经在负责任的人工智能项目中工作，其中许多人在一家以上的公司工作，这些公司拥有6000到数十万名员工。
先前的研究已经确定了科技行业的一些重要特征，包括企业倾向于非正式和无等级;重视快速的产品创新，而不是其他所有问题;并且认为技术可以修复技术。
基于这一背景，阿里假设高层领导的负责任的人工智能原则很可能与横向分布的产品团队“解耦”，而这些原则将在产品团队中实现。她将其比作一名校长，他制定了一项教育政策，但往往对个别教师的课堂情况几乎没有控制权。
她进一步假设，这将使道德团队处于“道德企业家”的地位，必须向个别产品团队“出售”他们的服务。从本质上讲，他们将利用自己的资源与产品经理建立关系，希望在对其产品进行道德审查时获得他们的合作。
阿里说，根据她的采访，她对制度环境及其对道德团队的预期影响的许多预测都得到了证实。公司的政策确实与分布式产品开发团队的实现是分离的，道德团队必须小心地培养与产品团队的关系，以完成任何事情。
阿里发现，科技行业对负责任的人工智能政策的执行充其量是不一致的。事实上，由于多种原因，产品可能在没有道德团队参与的情况下发布。有时，产品团队根本不想与道德团队合作，道德人员缺乏授权进行道德审查。有时，伦理团队会被邀请在产品发布日期太近的时候提供意见，而在发布之前只有足够的支持或授权来实施一些必要的修复。有时，产品团队认为，道德操守人员的公平目标会与其他重要目标(如用户参与度)发生冲突。有时，道德团队会要求管理层推迟产品发布，以便他们能够实施道德修复，但主管经理拒绝了这一请求。
阿里说:“只有比道德操守更有权威的人才能说出来。”“但这并没有发生，因为所有的动机都是围绕着立即推出产品。”
在某些情况下，公司已经实施了更正式的道德审查流程，在新产品想法开发的早期，产品团队完成了道德团队审查的影响评估。如果产品涉及到一个敏感的用途，比如保释或量刑，那么道德团队和产品团队就会共同努力，确定产品是否有可能不公对待特定的人口群体。
如果确实存在这样的潜力，那么道德团队将从头到尾参与产品的开发。“在这种情况下，团队可能有更多的资源和权力来做一些事情，以确保负责任地部署人工智能，”阿里说。
她说，虽然阿里倾向于这种更官僚的方法，但这有可能成为一种打勾式的练习。“例如，产品团队可能会勾选他们愿意采取的步骤，而忽略那些需要深入思考真正的道德问题的步骤。”她说，由于负责任的人工智能是一个相对较新的领域，因此需要进行这种深度思考。
例如，关于公平意味着什么，如何衡量公平，以及如何公平才足够公平，仍然存在争论。然而，道德工作者的任务是在没有支持、资源和行动权力的情况下应对这种不确定性，同时还要在优先考虑快速创新的业务环境中发挥作用。这是一项艰巨的任务，阿里说。
通过外交手段与一个又一个产品团队接触，希望能与之合作，这只能让道德操守人员走到目前为止。他们需要一些正式的权威来要求解决问题，阿里说。她说:“一个以平等的立场对待产品团队的道德工作者很容易被忽视。”
阿里说，如果道德团队要在横向、无等级的科技行业中行使这种权威，就需要有正式的官僚结构，要求在产品开发过程的一开始就进行道德审查。“官僚主义可以制定规则和要求，这样道德工作者就不必让人们相信他们工作的价值。”
阿里说，还需要激励产品团队与道德团队合作。“现在，他们被快速行动所激励，这可能直接与缓慢、仔细、负责任地检查你的技术的影响背道而驰，”阿里说。一些受访者建议，当一款产品减少了偏见，或者一款产品存在严重问题时，可以给团队颁发“道德冠军”奖金。
阿里说:“通过某种形式的奖励，承认公司内部员工所持的道德立场是件好事。”
通过建立一些官僚主义，授权道德团队，并激励其他员工与道德团队合作，科技公司对公平的承诺将不再与实际工作脱钩。阿里说，到那时，“真正的制度变革才有可能实现。”
更多信息:Sanna J. Ali等人，《走人工智能伦理之路:伦理企业家的组织挑战和风险个性化》，2023年ACM公平、问责和透明度会议(2023)。引用本文:科技行业伦理团队缺乏资源和权威，其有效性充其量是参差不齐，研究发现(2023,July 26)检索自https://techxplore.com/news/2023-07-tech-industry-ethics-teams-lack.html。本文受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。内容仅供参考之用。
