设为首页 | 加入收藏
您当前位置:主页 > 香港马开奖结果资料l > 人工智能的B面:“深度伪造”攻防战打响

人工智能的B面:“深度伪造”攻防战打响

时间:2021-07-30 16:08 来源:未知   点击:

  作为引领第四次科技革命的战略性技术的人工智能正在出现新的变化。一方面,给经济和社会发展带来深远影响,催生了科大讯飞等千亿级别市值的企业;另一方面数据隐私、技术滥用等伴生安全问题如影随形。从最新举行的上海世界人工智能大会来看,不少业内人士认为,整体来看,人工智能产业正进入高质量发展阶段,但以深度伪造为代表各类安全问题也亟待解决,安全攻防战正在打响。

  今年3月,有犯罪分子利用深度伪造技术,合成某公司CEO的声音诈骗22万欧元,这也成为“深度伪造”的典型负面案例。中国信通院相关人士对记者分析说,与传统图像视频处理技术相比,深度伪造技术具有门槛低、效率高、质量好的特点,被探索用于影视、医疗、虚拟现实等商业场景。然而,从现实情况来看,与正面效应相比,这些特性放大的潜在威胁和安全隐患更受关注。

  “当前,深度伪造的技术门槛正大幅降低,网络上充斥着大量伪造教程和开源可用的计算机程序,即便是不具备专业算法能力的普通用户,也可以在很短时间内轻松上手。尤其依托深度学习算法特性,在海量图像和视频数据的驱动下,深度合成技术不断演进迭代,仿真精度不断得到提升。所以,慈善网,制作一段高逼真度的虚假音视频成本极低,却可以借助社交媒体等平台短时间风靡互联网。”前述人士指出。

  按照市场人士的总结,深度伪造潜在威胁至少体现在三个层面,包括侵害个人名誉、公众财产安全、社会安全等。北京瑞莱智慧科技有限公司首席执行官田天对**记者举例说,以公安司法机关的图像鉴别为例,深度伪造技术的出现将可能导致举证工作存在风险,还可能被用于抹黑政治人物和伪造政治制度,甚至可能成为国家之间发起虚假信息战争的最新武器。

  根据记者梳理,为防范深度伪造技术所造成的危害,全球各国政府积极推进立法管制。从我国来看,包括《网络音视频信息服务管理规定》、《民法典》在内,都在加强对相关风险的管控。今年3月,针对部分语音社交软件和涉“深度伪造”技术的应用未履行安全评估程序,相关部门还约谈了11家企业,督促其认真开展安全评估,完善风险防控机制和措施。不同于以往的事后监管,此次安全评估工作和约谈给有关的互联网新技术新应用提前划“红线”,“事前规制”有利于企业及时发现安全隐患。

  前述信通院人士介绍,关于人工智能安全性的担忧,一方面需要依靠法律法规和政府监管来约束,另一方面,需要从源头加强安全评估,提升鉴别技术等能力,借助技术手段提前布局。

  田天也对记者表示,以深度伪造为代表的安全问题,正是目前人工智能产业当前所面临的瓶颈。人工智能产业正经历从高速增长向高质量发展的转变,一方面产业期待进一步提升,金融、医疗等更复杂的高价值场景的应用需求不断增加,智能化场景从单一感知向多元认知发展;另一方面,各种安全问题的爆发,要求在追求性能效率的同时关注安全性的提升与保障。

  中科院院士、清华大学人工智能研究院院长、北京瑞莱智慧科技有限公司首席科学家张钹提出了“第三代人工智能”的概念,也就是安全、可靠、可信及可扩展的人工智能。高手解码,安全性将成为下一阶段人工智能发展必须的基础。记者注意到,在深度伪造攻防战中,部分商业化产品已经落地。在上海世界人工智能大会上,瑞莱智慧发布了基于第三代人工智能的DeepReal深度伪造内容检测平台。资料显示,该平台具备工业级检测性能,能够快速、精准地对多种格式与质量的图像进行真伪鉴别,为遏制和防范深度伪造技术的大规模滥用提供技术支撑。

  深度伪造技术检测工作面临诸多难点,北京瑞莱智慧科技有限公司副总裁唐家渝对记者分析说,一是肉眼难以辨别,传统人工内容审核团队无法应对,二是深度伪造检测面临“强对抗性”,新型伪造方法层出不穷、网络传播环境复杂、算法模型存在结构性缺陷等。因此他建议,首先相关部门需要设立专业技术检测团队,其次检测工作需遵守动态平衡机制,技术能力需不断升级迭代。“开展主动技术检测工作是防范深度伪造技术作恶的必由之路。未来还需要持续迭代技术、打磨产品,确保在深度伪造的攻防战中取胜。”返回搜狐,查看更多

图文阅读