网安大讲堂带你解锁生成式AI

网信佛山 2024-09-13 14:48

9月10日，正值网络安全宣传周，由中共佛山市委网信办主办、市网信协会承办的网络安全品牌项目“网安大讲堂”以“生成式人工智能的应用与安全”为主题，面向全社会普及生成式人工智能的最新进展、应用场景，同时提醒大家关注其潜在的安全风险，培养公众在网络空间中的安全意识，共同为构建安全、健康、可持续发展的网络环境贡献力量。

授课现场

本期网安大讲堂邀请了暨南大学网络空间安全学院教授、网络与教育技术中心副主任黄斐然进行主讲，他从人工智能的发展、生成式人工智能的发展、应用、使用以及安全风险等方面进行分享，吸引了全市党政机关、事业单位、国有企业、民营企业代表及市民超3000人进行线上线下观看。

暨南大学网络空间安全学院教授、网络与教育技术中心副主任黄斐然

全市五区各级单位纷纷前来打卡学习

人工智能，加速推动新质生产力

人工智能是模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。其研究领域包括计算机视觉、自然语言处理、强化学习、机器学习、机器人技术、生成式人工智能等等。

黄斐然指出，目前人工智能发展正处在第四个阶段，即试图模拟人类的思维过程，解决不熟悉的问题，甚至生产创造性的想法。未来将向人工智能奇点发展，不断探索宇宙和生命的新奥秘。

图源黄斐然课件

今年，《政府工作报告》首次提出“人工智能+”行动，提出“深化大数据、人工智能等研发应用，开展 ‘人工智能+’行动，打造具有国际竞争力的数字产业集群”。意味着我国正加强顶层设计，加快形成以人工智能为引擎的新质生产力。

为响应国家要求，佛山市委网信办积极举办人工智能主题培训活动、开展人工智能训练师比赛以及推动传统产业智能化升级等多项举措，为实现国家“人工智能+”行动战略贡献佛山力量。

生成式人工智能，引领飞跃式发展

生成式人工智能（Generative AI）是指基于大模型等人工智能的技术方法，通过已有数据的学习和识别，生成具有一定创意和质量的文章、图像、视频、音频等内容。其便捷的使用方式、多样的应用场景和高质量的生成内容，为内容创作、医疗诊断、工业设计等多个领域带来高效的解决方案。

中央网信办主任庄荣文近日表示，截至目前，我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个，注册用户超过6亿。

图源黄斐然课件

讲堂上，黄斐然逐一分析了国内外自然语言、图像生成、视频生成等大模型的技术与发展、能力测评情况和榜单，让大家对生成式人工智能的发展现状、应用情况和未来趋势有了更加清晰的认识。

据介绍，生成式人工智能主要有WEB端\APP使用、API调用、私有第三方部署使用、开源模型部署使用几种方式。黄斐然提醒，在使用生成式人工智能时，需要通过清晰地定义任务目标、提供具体的示例、设定明确的角色等合理的提示语，生成更加符合需求的内容。

图源黄斐然课件

生成式人工智能，伴随安全风险挑战

随着生成式人工智能的广泛应用，其伴随的安全风险挑战也不容忽视。黄斐然从国家宏观层面指出目前生成式人工智能存在滥用风险、AI竞赛风险、组织风险、失控AI风险四大方面的风险挑战。生成式人工智能不仅可能被用于制造虚假新闻、进行欺诈等不法行为，还可能被用于设计生化武器，从而对全球安全和稳定构成威胁。

习近平总书记指出，要加强人工智能发展的潜在风险研判和防范，维护人民利益和国家安全，确保人工智能安全、可靠、可控。

当前，国际上的前沿大模型实验室正探索治理实践，中国成为全球范围内首个落地生成式AI监管的主要国家。2023年8月，国家网信办会同相关部门发布《生成式人工智能服务管理暂行办法》，以鼓励创新发展为基调，以个人合法权益、公共利益、国家安全为底线，在原则理念和规制范围上统筹发展与安全，为AI治理和立法做出了有益探索。

本期的详细分享内容可以关注“佛山市网信协会”视频号-“直播回放”找到相应的主题进行观看。

网安大讲堂

为强化网络安全、数据安全保障体系建设，维护国家政权安全、制度安全、意识形态安全，中共佛山市委网信办守正创新加强网上正面宣传引导，携手佛山市网信协会推出精心打造的品牌项目——“网安大讲堂”。希望通过更加灵活、多样的形式，探讨当前网络安全领域热点和难点问题，为党政机关、企事业单位的网络安全建设出谋划策，护航市委“515”高质量发展战略目标，稳步推进网络强省、数字佛山建设。

接下来，"网安大讲堂"将围绕隐私保护、防范实战安全运维、网络攻击的危害与防范等方面陆续推出系列课程。

往期回顾