人工智能公司将被要求向美国政府报告安全测试

拜登政府决定实施新的人工智能规定，要求所有主要人工智能系统的开发人员向政府公开其安全测试结果。

作为这些新规定的一部分，科技公司将被要求在使用大量计算能力训练人工智能模型时通知政府。新规定将使美国政府能够访问谷歌、AWS(亚马逊网络服务)和OpenAI等公司的敏感数据。

美国国家标准与技术研究院正在负责制定标准，以确保人工智能工具在公开发布之前是安全可靠的。此外，商务部将发布指南，对人工智能生成的内容加入水印，以明确区分真实内容和人工智能内容。

白宫人工智能特别顾问Ben Buchanan在接受采访时表示，政府希望“在向公众发布人工智能系统之前知道它们是安全的——总统已经非常明确地表示，公司需要达到这个标准。”

人工智能已经成为美国政府关注的主要经济和国家安全问题。考虑到围绕生成式人工智能的炒作，以及它在市场上带来的投资和不确定性，这并不奇怪。

美国总统在三个月前签署了一项雄心勃勃的行政命令，以管理快速发展的技术。行政命令中的拟议规则包括对人工智能发展的指导，包括既定的安全标准。

白宫人工智能委员会召开会议，审查行政命令取得的进展。这包括来自广泛的美国联邦部门和机构的高级官员。该委员会发表声明称，在实现保护美国人免受人工智能系统潜在危害的任务方面取得了“实质性进展”。拜登政府也在积极与欧盟等国际盟友合作，制定管理该技术的跨境规则和条例。

根据新规定，美国云公司将被要求确定其外国实体是否正在访问美国数据中心以训练人工智能模型。美国政府周一公布了一项“了解你的客户(KYC)”提案。该提案将要求云计算公司核实注册或维护使用美国云计算账户的外国人的身份。

新规定可能会给亚马逊(Amazon)和谷歌(Google)等美国科技公司带来额外压力，这些公司需要制定一套流程，收集有关其外国客户姓名和IP地址的详细信息，并向联邦政府报告任何可疑活动。这些科技公司还需要每年进行合规认证。

虽然自我报告规定可以为美国的利益提供一些保护，并鼓励人工智能开发者更加谨慎，但目前尚不清楚政府将如何处理那些选择不准确报告或根本不报告的人。获取敏感数据也存在法律和道德方面的担忧。