当前位置:首页>行业资讯

行业资讯

人工智能时代呼唤网络安全治理升级

发布时间:2023-09-01 浏览量:818 来源:网信天津

8月28日至29日举办的首届网络空间安全(天津)高峰论坛上,近800位来自网络安全领域的官员、专家学者和科研机构、院校、企业代表齐聚一堂,共话网络空间安全形势、共享网络安全理念、共商网络安全对策。

随着人工智能的出现,网络信息技术迭代升级加速,网络安全领域新情况、新问题、新挑战层出不穷,影响全球经济格局、发展格局、安全格局,也给网络安全保障提出了更高要求。部分业内人士认为,应强化风险意识,建立有效的风险预警和应对机制。同时,各方应加强交流与合作,不断提升网络安全水平。

人工智能产业在规范中发展、发展中规范

今年,生成式人工智能热潮席卷全球。目前,国内的百度、科大讯飞等企业机构已推出自己的大模型产品。

部分专家判断,生成式人工智能将引发新一轮人工智能革命,人类与机器、技术与产业、虚拟与现实之间的关系正在发生广泛而深刻的变化,技术创新也给人类社会文明秩序带来了挑战。

对此,国家网信办联合国家发展改革委、教育部、科技部、工业和信息化部、公安部、国家广播电视总局公布的《生成式人工智能服务管理暂行办法》(以下简称《办法》)于8月15日起正式实施。这是我国首个针对生成式人工智能产业的规范性政策。《办法》明确鼓励生成式人工智能技术在各行业、各领域的创新应用,生成积极健康、向上向善的优质内容,探索优化应用场景,构建应用生态体系。

360集团创始人周鸿祎认为,《办法》内容表明了有关部门鼓励创新,支持大模型发展的态度,为科技企业创新提供了信心和保障。《办法》还明确了适用边界,既能够规范大模型的公众服务,同时也有利于组织机构的研发和应用。

“产业数字化战略背景下,大模型作为工业革命级的生产力工具,应当帮助传统产业特别是制造业实现数字化转型、智能化升级。《办法》对推动大模型在企业级场景的落地有积极意义。”周鸿祎说。

出席论坛的国家网信办有关负责人表示,生成式人工智能首先要统筹发展和安全。“我们深知人工智能是今天技术发展方向,生成式人工智能是人工智能的重要内容,它必将对我们的经济社会发展、人民群众的生活发挥重要作用;同时,我们也要看到生成式人工智能可能带来的安全风险,需要法律、标准规范引领。”他说。

出席论坛的工业和信息化部有关负责人表示,工信部系统推进网络安全的保障体系和能力建设,取得积极成效,关键信息基础设施的保护、工信领域的数据安全、新型基础设施安全等一批标准陆续出台,网络空间环境大幅改善,人民群众利益得到了切实保护。

“我国针对大模型的安全管理政策是科学且务实的。”百度安全副总经理包沉浮说。

多位专家表示,加强生成式人工智能的发展、应用、管理,目的是把技术转变为生产力,让人工智能技术在经济社会发展中发挥更大的作用。

人工智能为网络安全治理带来新挑战

“人工智能在网络安全领域给攻防双方都带来了变革。”杀毒软件企业安博士中国区首席执行官沈珉奎说。公安部网络安全保卫局杨骎博士也表示,人工智能正在降低网络犯罪的门槛。

在个人层面,人工智能降低个人网络犯罪门槛。美国专业安全技术公司迈克菲市场总监泰勒·麦基说,“我发现暗网上有很多暗黑版的GPT,价格低廉,容易获取,有的每个月只需花90美元就能订阅使用。这些暗黑版GPT不但能写钓鱼邮件,还能编写恶意程序代码。”

技术“小白”也能通过简单的问答方式实施黑客攻击,这相当于给了普通人一本“武林秘籍”,让不懂代码、不懂技术的普通人成为黑客。此外,近期,通过AI换脸和拟声技术获取信任进行诈骗的案例屡见不鲜。“只需要几秒钟的语音样本或者一些视频,就可以假乱真,利用人工智能诈骗,人们很难辨别。”泰勒·麦基说。

在社会层面,人工智能伪造虚假信息会误导社会公众。人工智能深度伪造软件简单易用,能轻松将面部表情、技术动作和声音三者融为一体,这种平民化和社会娱乐化的工具,使得大规模、低成本的针对个人的恶搞乃至污蔑成为可能。从娱乐到工作,从新闻到科普,无处不见人工智能的身影,它们以惊人的速度和数量回答问题、发布文章、制作图片,但往往缺乏真实性、准确性。杨骎举例说,利用人工智能技术制作虚假新闻事件,对公众人物制作虚假视频,容易造成不良引导,影响社会认知,甚至破坏社会信任、扰乱社会秩序。

今年6月,浙江绍兴警方在网上巡查时发现“绍兴上虞化工厂发生重大火灾”的视频,短时间内浏览量迅速攀升。警方核实后确认视频为人工智能技术深度合成,并很快锁定某科技网络公司有较大作案嫌疑。经调查,5月以来,该公司为牟取利益,从网上非法收购一批视频账号,通过人工智能软件,自动生成或拼接制作虚假视频发布,以博取流量,并通过流量算法返款盈利,造成了不良社会影响。

联合国安理会7月18日就人工智能与安全问题举行高级别公开会。中国常驻联合国代表张军在会上指出,国际社会要强化风险意识,建立有效的风险预警和应对机制,确保不发生超出人类掌控的风险,确保在关键时刻人类有能力按下停止键。

呼唤网络安全治理新格局

面对人工智能时代,网络安全领域的新情况、新问题、新挑战,业内专家建议,首先,建立纵深化立体化防御体系。深信服科技股份有限公司首席安全官周欣认为,针对多阶段和定制化的攻击,可以建立纵深防御体系解决勒索病毒攻击的行为。他建议以人工智能技术为核心,持续对抗未知的样本攻击。“我们希望用‘魔法’对抗‘魔法’,用人工智能打败人工智能,我们企业也在进行有益尝试。”他说。

其次,建设一体化网络安全运营中心。奇安信科技集团董事长齐向东表示,做好安全合规不能只从简单的产品堆砌入手,要配合安全体系从管理、技术、运营三个角度开展安全运营治理和防护工作,要建立“人+数据+智能”的运营体系,让安全能力真正活起来。

“只有这样才能实现多元数据的汇聚,对安全风险进行整体的态势感知,在遭到威胁和网络攻击的时候能够及时预警和响应,完成对安全事件的闭环处置。”齐向东说。

此外,还应深化国际交流,推进网络安全技术新发展。俄罗斯卡巴斯基实验室创始人尤金·卡巴斯基表示,要打击散布全球的网络罪犯,执法部门之间的国际合作至关重要。国家计算机病毒应急处理中心主任陈玉东说,网络安全是开放的而不是封闭的,只有立足开放环境,加强交流合作,吸收借鉴先进技术,网络安全水平才会不断提高。

“推动网络空间国际治理进程,需要发挥信息化对经济社会发展的引领作用,积极利用法律法规和标准规范引导新技术应用,自主创新推进网络安全技术提升,以技术创新夯实网络安全基础。”陈玉东说。

“各方应继续努力,进一步搭建合作交流的平台,共同建立更加科学完善的网络安全威胁应对处置机制,携手构建网络空间命运共同体。” 天津市副市长、市公安局长衡晓帆表示。


copyright@2018-2022 中国安全防范工程行业协会 版权所有