3月20日，品牌活动“网安大讲堂”在新的一年再次开启首讲，主办单位中共佛山市委网信办的干部、佛山市引进急需紧缺高层次人才陈华以《生成式人工智能大模型网络安全风险及应对》为主题，分享实用的防护技巧和应对方法，吸引到全市各级党政机关、企事业单位网络信息安全的技术骨干及市民朋友近4100人次参与学习。
全市五区各级单位纷纷前来打卡学习
自1956年达特茅斯会议定义人工智能以来，历经四次浪潮，大模型如今呈现百花齐放之势。从早期的符号主义、专家系统，发展到深度学习，再到当下的 AIGC，技术不断实现突破与创新。人工智能正从单纯地感知理解世界，逐步迈向生成创造世界。据预测，到2027年，有望进化为强人工智能，具备与人类相同的逻辑思考能力，处理复杂问题的准确率甚至超越人类，真正做到知其然且知其所以然。
图源AI大模型豆包
基于人工智能的特性，陈华强调：“不要用搜索引擎的眼光看待大模型！”。搜索引擎侧重检索功能，检索原理就像海绵吸水一样，吸进去的是水，挤出来还是水，针对的是“事实”。而大模型则侧重于生成功能，知识训练进去之后，大模型学到了知识背后的范式，可以推理、重组、变化，类比大脑神经元连接强度，该特性也为各行业带来了无限可能。
大模型在展现强大功能的同时，自身也潜藏着诸多风险，如开发与训练风险、模型运行风险以及模型管理风险。
AI 技术在给人们带来便利的同时，也成为网络犯罪分子的 “帮凶”，加剧了攻击手段升级、扩大了攻击影响范围。
恶意软件借助 AI 变得更加复杂，难以检测
钓鱼邮件和网页愈发逼真，成功率大增
DDoS 攻击经 AI 优化，精准度和破坏力惊人
此外，AI技术的攻防博弈已突破传统安全范畴，呈现三重演进态势：其一，攻击维度深度拓展，从信息系统、网络设备延伸至AI模型、训练数据及用户生成内容等核心资产；其二，攻击模式智能升级，攻击者利用AI技术针对金融、医疗、能源等高价值领域定制精准攻击方案，以追求经济利益最大化或制造社会影响；其三，安全威胁长期化加剧，通过植入隐蔽后门或自适应恶意代码，攻击者可实现对目标系统的持久控制，形成隐私泄露、数据篡改等持续性风险，造成"攻击一次、危害长期"的链式安全危机。这种AI赋能的攻击范式，正在重塑网络安全的威胁图谱与防御逻辑。
DeepSeek本地部署存在的风险提醒
面对重重风险，我们并非无计可施。比如，在技术层面，端口与访问控制、加密认证、漏洞修复更新，为模型安全筑牢根基。管理上，制定执行安全策略、部署监测响应系统、加强员工培训，提升整体防护能力。合规层面，严格遵循相关法律法规，做好隐私保护和数据安全工作，定期审计监督，确保合法合规运行。
陈华特别提醒，近期，市委网信办、市公安局等部门相继发出DeepSeek大模型本地部署存在网络安全风险的提醒，并给予了安全加固建议。
未授权访问：未授权用户能够随意访问模型，并利用特定工具直接对模型及其数据进行操作。
数据泄露：通过特定端口可访问并提取模型数据，引发数据泄露风险。
历史漏洞：攻击者可利用Ollama框架历史漏洞直接调用模型接口实施数据投毒、参数窃取、恶意文件上传及关键组件删除等操作，造成模型服务的核心数据、算法完整性和运行稳定性面临安全风险。
限制Ollama监听范围：仅允许11434端口本地访问，并验证端口状态。
配置防火墙规则：对公网接口实施双向端口过滤，阻断11434端口的出入站流量。
实施多层认证与访问控制：启用API密钥管理。定期更换密钥并限制调用频率。部署IP白名单或零信任架构，仅授权可信设备访问。
禁用危险操作接口：如push/delete/pull等，并限制chat接口的调用频率以防DDoS攻击。
历史漏洞修复：及时更新Ollama至安全版本，修复已知安全漏洞。
最后，陈华表示，在生成式人工智能大模型呈现出蓬勃发展态势的当下，风险与挑战始终与技术进步共生共长，面对这场智能时代的攻防博弈，每个个体、组织乃至国家都需承担起数字公民的责任，将安全防护意识转化为日常行动，唯有凝聚数字时代的集体智慧，方能在享受AI红利的同时，避免技术失控的深渊，共同谱写数字时代的美好篇章。
来源：佛山市网信协会
