
8月22日上午,由中共佛山市委网信办主办、佛山市网信协会承办的网络安全品牌活动“网安大讲堂”在全网直播。本次活动邀请到佛山市第一人民医院信息安全主管林晓怡以《筑牢网络安全防线,提升AI时代网络安全意识》为题,全方位剖析网络安全关键问题,吸引到五区各市直单位负责网络信息安全的技术骨干及市民朋友近3000人次参与学习。 全市五区各级单位纷纷打卡学习 在网络安全事件“大爆发”时代,信息技术与产业的空前繁荣,危害信息安全的事件连年走高,据相关数据显示,全年全球监测到的网络攻击高达235亿次,造成的损失高达8万亿美元,平均每11秒,就有一家企业遭受勒索病毒攻击,网络安全已成为悬在各行业头顶的“达摩克利斯之剑”。 从行业分布来看,某安全厂家公布的2024年中国区域勒索事件受害者所属行业分布中,制造业、互联网、服务业、营销咨询和汽车行业位列Top5,这些行业因数字化转型积累了大量核心数据,因此成为黑客的主要目标。 不仅如此,全国范围内的APT(高级持续性威胁)攻击也主要瞄准发达地区和重要行业。2024年广东省受境外APT攻击最为突出,江苏、四川、浙江、上海、北京紧随其后。行业方面,信息技术(18.5%)、政府机构(16.3%)、科研教育(12.0%)、建筑(7.6%)、制造业(7.1%)、医疗健康(6.5%)为主要受攻击领域,能源、金融等亦受波及。




值得关注的是,AI技术发展带来新变量。中国AIGC市场规模呈指数级增长,预计2028年达7202亿元。2025年8月6日发布的Claude Opus 4.1模型虽在多项能力上升级,但也引发对AI安全的更多思考——网络安全风险已随AI渗透到数字生活各角落。

AI 工具风险:看似便捷,实则危机四伏
AI工具的高效便利背后,隐藏着易被忽视的安全陷阱。隐私与数据泄露风险尤为突出,如职工操作deepseek时,若将本地文件原样上传,可能导致敏感信息直接暴露。
结果输出风险同样不容忽视。以DeepSeek-R1为例,其14.3%的幻觉率可能引发政策解读错误或生成误导性内容。更隐蔽的是数据投毒与算法污染,攻击者可利用CVE-2024-39720等漏洞注入虚假数据,破坏模型决策逻辑,使AI沦为攻击工具。

今年8月,美国联邦法院电子档案系统遭大规模黑客攻击,据相关知情人士称,部分刑事案件中机密证人的身份可能已被泄露,其他敏感信息如未公开起诉书、搜查令等也可能受到影响。这起事件更是为我们敲响了警钟——即便是防护严密的权威机构,也可能防线失守。
应对建议:多管齐下,共筑安全屏障
面对AI时代的网络安全挑战,构建多层次防护体系势在必行。
在政策层面,今年3月,国家网信办等4部门发布《人工智能生成合成内容标识办法》,规定服务提供者提供的生成合成服务,包括文本、音频、图片、视频、虚拟场景等,均应在适当位置添加显著的提示标识;此举旨在提高AI内容透明度,降低虚假信息误导风险。

此外,企业还可构建“三位一体”AI风险防护机制:技术上采用私有化部署实现网络隔离、加密数据、限制访问权限,确保数据在存储和传输过程中的安全性;制度上建立分级审批,比如申请—规范审批—记录审查流程,确保使用的合规性;培训上开展常态化安全技能培训,提高工作人员的安全技能水平。

来源:佛山市网信协会
一审:佛山市新闻传媒中心 杨啸峰
二审:佛山市新闻传媒中心 梁健恒
三审:佛山市新闻传媒中心 韩林莹
审校:谢汉强、姚倩
图片版权归原作者所有,如有侵权,请联系删除

