美英等18国签署AI监管指南！敦促企业打造“从设计层面就重视安全”的AI系统
【环球时报综合报道】当地时间26日，包括美国、英国在内的18个国家签署并公布《安全人工智能系统开发指南》（以下简称《指南》）。参与签署的国家一致同意，应约束人工智能（AI）公司在开发与部署时“确保客户及公众的数据安全，并免遭滥用”。
作为一份关于如何保护AI免受人工智能滥用等行为侵害的详细国际协议，《指南》由英国国家网络安全中心同美国网络安全和基础设施安全局与行业专家以及来自其他21个国际机构和部委合作制定。其他共同签署国包括加拿大、法国、德国、以色列、意大利、日本等。在这份长达20页的非约束性文件中，主要内容包含了监控AI系统的滥用、保护数据不被篡改，以及审查软件供货商等等一般性建议，并称其将敦促企业打造“从设计层面就注重安全”的人工智能（AI）系统。
英国国家网络安全中心27日在官网称，该国际协议将“帮助任何使用人工智能系统开发人员在开发过程每个阶段做出明智的网络安全决策”。
印度《经济时报》26日称，美国人工智能研究企业OpenAI的内部纷争再次引发全球对人工智能进行监管的呼吁。“短短几天内，硅谷发生一系列扣人心弦的事件已向政府和监管机构发出警告，应对AI行业进一步采取监管措施”。路透社认为，当前，人工智能的崛起已经引发一系列担忧，包括担心它可能被用来加剧欺诈、导致大量失业以及其他危害等。
据报道，美国网络安全和基础设施安全局局长伊斯特利称，本次《指南》签署的重要性在于“如此多国家都支持人工智能建设需要将安全放在第一位”。但路透社也表示，《指南》讨论了如何防止人工智能技术被黑客劫持的问题，并包括一些建议，例如只有在经过适当的安全测试后才发布模型。但“该协议并没有解决如何使用AI的棘手问题，也未提到这些模型应如何收集数据”。IT行业媒体cnBeta也发表评论称，《指南》对人工智能领域的某些争议问题未提及，包括对图像生成模型的使用、深度伪造、不恰当的数据收集方法，以及在训练模型中的使用应采取哪些可能的控制措施等。而在这些问题上，多家人工智能公司曾遭到起诉。
发布于：北京
相关推荐
全球首届AI安全峰会，监管与创新的博弈场
为避免政府过度“插手”，美国白宫提出十条AI监管规范，公众、灵活性、技术风险等成关键词
京东与优信二手车全链条服务互联互通，美年健康结合AI和大数据打造健康体检| 36氪大公司数字化创新指南0422
奥迪与腾讯联合打造智能数字化生态，国网新能源云平台为国网冀北电力公司提供数字化转型| 36氪大公司数字化创新指南0329
图灵奖得主吵起来了，LeCun：Bengio、Hinton等AI灭绝论是荒谬的
浙江发布首个数字化城市道路建设技术指南；上海打造“交通云”产业园区，帮助实现能源数字化 | 36氪大公司数字化创新指南0913
美国发布最全AI监管原则，剑指主导全球AI发展格局
4000多家组织和个人签署公开信 敦促苹果放弃“儿童安全”功能
高考特辑：一份关于AI的报考指南
“从农田到餐桌”，农产品质量安全追溯是怎么做到的？
网址: 美英等18国签署AI监管指南！敦促企业打造“从设计层面就重视安全”的AI系统 http://m.xishuta.com/newsview99494.html
