飞鱼博客 
民主社会是否准备好迎接人工智能算法在流行病期间分配有限的口罩或病床供应的未来?还是人工智能引发虚假信息制造和检测之间的军备竞赛?或者用模仿最高法院法官的修辞和辩论风格的法庭之友简报来左右法院判决?
几十年的研究表明，大多数民主社会都很难就新技术进行细致入微的辩论。这些讨论不仅需要以现有的最佳科学为依据，而且还需要考虑到它们的使用所涉及的众多伦理、监管和社会因素。人工智能带来的难题正在以一种超越现代民主国家共同解决这些问题的能力的速度出现。
广泛的公众参与，或缺乏广泛的公众参与，一直是吸收新兴技术的长期挑战，也是解决它们带来的挑战的关键。
在人工智能等新兴技术令人敬畏的可能性与社会对预期和意外结果进行思考的需求之间取得平衡并不是一个新的挑战。大约50年前，科学家和政策制定者在加利福尼亚州的太平洋格罗夫(Pacific Grove)开会，参加通常被称为“阿西洛马会议”(Asilomar Conference)的会议，决定重组DNA研究的未来，即将基因从一种生物体移植到另一种生物体。公众对其审议的参与和投入很少。
如果没有广泛的公众和专家利益相关者的真诚参与，社会预测和减轻人工智能等快速新兴技术的意外后果的能力将受到严重限制。有限的参与确实有缺点。如果Asilomar在50年前就寻求如此广泛的投入，那么成本和获取的问题很可能会与部署这项技术的科学和伦理问题一起被提上日程。如果发生了这种情况，例如，最近基于crispr的镰状细胞治疗缺乏可负担性可能就可以避免。
当涉及到有意和无意的后果时，人工智能面临着制造类似盲点的非常现实的风险，而这些后果对科技领袖和政策制定者等精英来说往往并不明显。如果社会不能提出“正确的问题，人们关心的问题”，科技研究学者希拉·亚萨诺夫(Sheila Jasanoff)在2021年的一次采访中说，“那么无论科学怎么说，你都不会为社会提供正确的答案或选择。”
就连人工智能专家也对社会在以负责任的方式推进这项技术方面准备不足感到不安。我们研究新兴科学的公共和政治方面。2022年，我们在威斯康星大学麦迪逊分校的研究小组采访了近2200名在人工智能领域发表过论文的研究人员。十分之九(90.3%)的人预测人工智能应用会产生意想不到的后果，四分之三(75.9%)的人认为社会没有为人工智能应用的潜在影响做好准备。
行业领袖、政策制定者和学者在适应强大的人工智能技术的快速发展方面一直行动迟缓。2017年，研究人员和学者在太平洋格罗夫举行了另一次小型专家会议，这次会议概述了未来人工智能研究的原则。参议员查克·舒默计划于2023年9月13日举办一系列人工智能洞察论坛中的第一场，以帮助华盛顿特区的政策制定者与meta的马克·扎克伯格和X的埃隆·马斯克等科技领袖一起思考人工智能的风险。
与此同时，公众渴望帮助塑造我们共同的未来。在我们2020年的人工智能调查中，只有约四分之一的美国成年人(27.8%)同意科学家应该能够“在不征求公众意见的情况下进行研究”。三分之二(64.6%)的受访者认为“公众应该对我们如何将科学研究和技术应用于社会有发言权”。
在塑造人工智能发展的过程中，公众对参与的渴望与对政府和行业普遍缺乏信任密切相关。在我们团队2020年的一项全国调查中，不到十分之一的美国人表示，他们“大多”或“非常”信任国会(8.5%)或Facebook(9.5%)，在人工智能的发展中牢记社会的最大利益。
公众对主要监管机构和行业参与者的深深的不信任并非完全没有根据。行业领导者很难将自己的商业利益与制定有效的人工智能监管体系的努力区分开来。这导致了一个根本上混乱的政策环境。
科技公司帮助监管机构思考人工智能等技术的潜力和复杂性并不总是麻烦的，尤其是如果它们对潜在的利益冲突保持透明的话。然而，科技领袖对人工智能可以或可能用于什么的技术问题的投入，只是监管难题的一小部分。
更紧迫的是，社会需要弄清楚人工智能应该用于哪些类型的应用，以及如何使用。这些问题的答案只能在广泛的利益相关者参与的关于价值观、道德和公平的公开辩论中出现。与此同时，公众对人工智能的使用越来越关注。
人工智能可能不会很快消灭人类，但它可能会越来越多地破坏我们目前所知道的生活。社会有一个有限的机会窗口，可以找到参与真诚辩论的方法，并共同努力实现有意义的人工智能监管，以确保这些挑战不会压倒它们。由The Conversation提供
本文转载自The Co在知识共享许可下的对话。阅读原文。
本文转载自The Co在知识共享许可下的对话。阅读原文。
引用当前位置仅靠专家无法应对人工智能:社会科学家解释为什么公众需要在谈判桌上占有一席之地(2023年，9月6日
作品受版权保护。除为私人学习或研究目的而进行的任何公平交易外，未经书面许可，不得转载任何部分。的有限公司
内容仅供参考之用。
