11月20日，以“拥抱以人为本、智能向善的数字未来——携手构建网络空间命运共同体”为主题的2024年世界互联网大会乌镇峰会在浙江乌镇开幕。

　　今年是世界互联网大会新十年的开始，AI成为重要方向，安全与发展是同等重要的命题。如何看待今年AI应用的迅速生长态势？大模型本身技术发展现状在安全领域的应用程度如何？围绕这些问题，21世纪经济报道记者采访了安恒信息高级副总裁、研究院院长王欣。

　　二是技术成熟度提升，AI在特定任务上的表现越来越接近甚至超过人类水平。这使得AI能够在更多领域得到实际应用，从理论研究走向商业落地。

　　三是生态系统逐步完善，AI产业链上下游的合作日益紧密，形成了较为完整的生态系统。此外，用户对AI产品的接受度也在不断提高。政府和资本对AI技术的支持力度不断加大，这为AI技术的研发和应用提供了良好的外部环境。

　　不过，随着人工智能的迅猛发展，Deepfake等伪造技术正在延展至经济、社会更广泛领域。在王欣看来，当前技术快速发展的背景下，确保技术的正向应用，防止其被用于不正当目的，已成为整个行业乃至社会共同面临的重大挑战。面对这一问题，利用AI技术本身来对抗潜在的滥用成为了一种高效且必要的手段。

　　“从技术角度来看，通过深度学习构建的检测模型能够自动从海量数据中学习伪造内容的独特特征，如图像或视频中的异常纹理、不自然的面部动作等。这不仅实现了高精度的伪造内容识别，而且随着训练数据量的增长，模型的性能将不断提升。”王欣说。

　　王欣重点提出，对于复杂的伪造内容，引入多模态分析尤为重要。虽然伪造技术可能在某一特定模态（如视觉或听觉）上达到高度逼真的效果，但在多模态一致性方面往往存在缺陷。

　　例如，在Deepfake视频中，人物的表情与语音之间可能会出现微妙的不协调。多模态分析通过整合视觉、听觉等多种信息源，有效提高了伪造内容检测的准确率。

　　此外，鉴于伪造技术的不断演进，检测方法也需持续更新以保持有效性。采用自适应学习机制可以使检测系统基于最新的伪造案例自动调整优化策略，从而确保对新型伪造技术的及时响应和高效对抗。这种动态防御策略对于维护网络空间的安全与诚信至关重要。

　　大模型本身技术发展现状在安全领域的应用程度如何？在王欣看来whatsapp发送的消息只有一个勾，大模型技术在数据安全中的应用和潜力是一个非常重要且具有广阔前景的领域。例如，数据分类分级智能体借助 AI 对行业和业务特性的理解，将效率提升30倍；API 智能体基于对 API 接口用途的深入理解，提升了 API 资产纯净度、风险准确率和研判效率；DLP 智能体则凭借对文档内容和敏感性的鉴别，实现大模型智能全自动识别，这些都彰显了 AI 在领域的强大力量。

　　智能体的广泛应用不仅提升了效率和智能化水平，还对、隐私保护和合规性提出了更高的要求。“这种服务方式和交付方式的变革，对网络安全行业具有颠覆性的影响，促使我们必须更加注重高质量发展。这要求我们在技术创新的同时，加强安全管理，确保智能体的安全可靠。”王欣说。