网安大讲堂:AI时代,筑牢网络安全防线
网信佛山 2025-08-22 22:00

8月22日上午,由中共佛山市委网信办主办佛山市网信协会承办的网络安全品牌活动“网安大讲堂”在全网直播。本次活动邀请到佛山市第一人民医院信息安全主管林晓怡以《筑牢网络安全防线,提升AI时代网络安全意识》为题,全方位剖析网络安全关键问题,吸引到五区各市直单位负责网络信息安全的技术骨干及市民朋友近3000人次参与学习。

·

·

全市五区各级单位纷纷打卡学习

·全市五区各级单位纷纷前来打卡学习

01

网络安全风险高:威胁无处不在

在网络安全事件“大爆发”时代,信息技术与产业的空前繁荣,危害信息安全的事件连年走高,据相关数据显示,全年全球监测到的网络攻击高达235亿次,造成的损失高达8万亿美元,平均每11秒,就有一家企业遭受勒索病毒攻击,网络安全已成为悬在各行业头顶的“达摩克利斯之剑”。

图源课件

从行业分布来看,某安全厂家公布的2024年中国区域勒索事件受害者所属行业分布中,制造业、互联网、服务业、营销咨询和汽车行业位列Top5,这些行业因数字化转型积累了大量核心数据,因此成为黑客的主要目标。

图源课件

不仅如此,全国范围内的APT(高级持续性威胁)攻击也主要瞄准发达地区和重要行业。2024年广东省受境外APT攻击最为突出,江苏、四川、浙江、上海、北京紧随其后。行业方面,信息技术(18.5%)、政府机构(16.3%)、科研教育(12.0%)、建筑(7.6%)、制造业(7.1%)、医疗健康(6.5%)为主要受攻击领域,能源、金融等亦受波及。

图源课件

图源课件

值得关注的是,AI技术发展带来新变量。中国AIGC市场规模呈指数级增长,预计2028年达7202亿元。2025年8月6日发布的Claude Opus 4.1模型虽在多项能力上升级,但也引发对AI安全的更多思考——网络安全风险已随AI渗透到数字生活各角落。

图源课件

02

AI 工具风险:看似便捷,实则危机四伏

AI工具的高效便利背后,隐藏着易被忽视的安全陷阱。隐私与数据泄露风险尤为突出,如职工操作deepseek时,若将本地文件原样上传,可能导致敏感信息直接暴露。

结果输出风险同样不容忽视。以DeepSeek-R1为例,其14.3%的幻觉率可能引发政策解读错误或生成误导性内容。更隐蔽的是数据投毒与算法污染,攻击者可利用CVE-2024-39720等漏洞注入虚假数据,破坏模型决策逻辑,使AI沦为攻击工具。

图源课件

今年8月,美国联邦法院电子档案系统遭大规模黑客攻击,据相关知情人士称,部分刑事案件中机密证人的身份可能已被泄露,其他敏感信息如未公开起诉书、搜查令等也可能受到影响。这起事件更是为我们敲响了警钟——即便是防护严密的权威机构,也可能防线失守。

03

应对建议:多管齐下,共筑安全屏障

面对AI时代的网络安全挑战,构建多层次防护体系势在必行。

政策层面,今年3月,国家网信办等4部门发布《人工智能生成合成内容标识办法》,规定服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应在适当位置添加显著的提示标识;此举旨在提高AI内容透明度,降低虚假信息误导风险。

图源中央网信办官网

此外,企业还可构建“三位一体”AI风险防护机制:技术上采用私有化部署实现网络隔离、加密数据、限制访问权限,确保数据在存储和传输过程中的安全性;制度上建立分级审批,比如申请—规范审批—记录审查流程,确保使用的合规性;培训上开展常态化安全技能培训,提高工作人员的安全技能水平。

图源课件

在课堂的最后,林晓怡表示:“21世纪第二个十年的网络安全,可以简单粗暴地划分为‘斯诺登前’和‘斯诺登后’两个阶段。”斯诺登事件,是指2013年美国前中情局雇员爱德华・斯诺登曝光美国国家安全局大规模秘密监控计划的事件。林晓怡介绍,在该事件曝光前,全球社会对大规模政府监控的认知较为模糊,网络安全更多被视为局部的技术问题,防护重心也多落在基础的技术层面。而斯诺登事件的爆发,让全球深刻认识到网络安全的复杂性和广泛性,此后,企业和个人对网络安全的重视程度显著提升,防护理念也发生了根本性转变。

林晓怡还表示:“如今进入AI时代,网络安全已成为全民战役,正是这种转变为我们应对新挑战奠定了基础,也让我们更加明确,唯有政府监管、企业防护、个人警惕协同发力,才能构建安全可信的网络环境,让数字生活真正成为美好生活的支撑。”

来源:佛山市网信协会

一审:佛山市新闻传媒中心 杨啸峰

二审:佛山市新闻传媒中心 梁健恒

三审:佛山市新闻传媒中心 韩林莹

审校:谢汉强、姚倩

图片版权归原作者所有,如有侵权,请联系删除

 ▊网信君推荐