美国商务部长吉娜·雷蒙多周三表示,美国将成立一个人工智能安全研究所,评估所谓“前沿”人工智能模型的已知和新出现的风险。
她在英国举行的人工智能安全峰会上发表演讲时说:“我几乎肯定会呼吁在座的许多学术界和工业界的听众加入这个联盟。”
“我们不能单独做这件事,私营部门必须加紧努力。”
雷蒙多补充说,她还将致力于美国研究所与英国安全研究所建立正式的伙伴关系。
这项新工作将隶属于美国国家标准与技术研究院(NIST),并领导美国政府在人工智能安全方面的努力,特别是审查先进的人工智能模型。
该部门表示,该研究所“将促进人工智能模型的安全、保障和测试标准的制定,制定人工智能生成内容的认证标准,并为研究人员提供测试环境,以评估新兴的人工智能风险和解决已知的影响。”
美国总统拜登周一签署了一项人工智能行政命令,要求对美国国家安全、经济、公共卫生或安全构成威胁的人工智能系统开发商,在向公众发布之前,必须根据《国防生产法》与美国政府分享安全测试结果。
该命令还指示各机构为该测试制定标准,并解决相关的化学、生物、辐射、核和网络安全风险。