美国总统拜登10月30日签署一项行政命令，为人工智能安全制定了新标准。美国媒体称，这是拜登政府对人工智能技术采取的第一项具有约束力的重大行动。

　　白宫在一份声明中说，这项行政令“具有里程碑意义”，将保护美国公民隐私，促进公平和公民权利，维护消费者和工作者权益，促进创新和竞争等。

　　这一行政令要求，美国最强人工智能系统的研发人员需与政府分享其安全测试结果及其他关键信息；完善相关标准和测试工具，确保人工智能系统安全、可靠；制定严密的合成生物检查新标准，防范使用人工智能设计危险生物材料的风险；建立检测人工智能生成内容和验证官方内容的标准和最佳实践，以帮助民众防范人工智能驱动的欺诈；建立先进的网络安全计划，开发人工智能工具查找和修补关键软件漏洞；研发制定“国家安全备忘录”，指导人工智能和安全方面的进一步行动。

　　据介绍，美国国家标准与技术研究所将制定严格的人工智能“红队”标准。美国国土安全部将把这些标准应用于核心基础设施项目，并成立人工智能安全委员会。美国能源部和国土安全部将具体应对人工智能系统对关键基础设施的威胁，及其带来的化学、生物、放射性材料、核及网络安全风险。

　　人工智能“红队”测试是网络安全中的一项关键实践，由专家团队模拟真实世界的对手及其策略，以测试和增强系统的安全性。