为AI大模型时代构建安全防线
时间:2025-05-24
11:29
来源:杭州日报
浏览次数:
王容峰/市政协委员,浙江泰乐通信技术有限公司董事长
杭州市作为全国数字经济先行城市,近年来在人工智能领域发展迅猛,AI大模型已在政务、医疗、金融、教育等领域广泛应用。然而,AI大模型的深度应用也伴随数据隐私泄露、算法偏见、伦理失范、虚假信息泛滥等风险。如何平衡技术创新与社会安全,已成为杭州重要课题。为此,应从政策、技术、监管等维度构建安全防线。
首先构建地方性AI大模型安全治理框架,明确数据采集边界、算法备案要求、生成内容标识义务,禁止在公共安全、舆论传播等高风险领域滥用AI生成技术。其次,建立AI生成内容全链路溯源体系,以实现文本、图像、视频的生成来源可追溯。最后,联合高校、企业、公安等部门,开发风险监测工具,对舆情操纵、诈骗话术等恶意行为实时预警。