AI应用是否会泄露个人隐私？数据安全亟需搭建三

中新网深圳10月17日电 (记者 左雨晴)人脸识别数据被传播，你的人脸数据被非法用于AI换脸牟利；在与虚拟 AI 伙伴聊天时，私人对话、照片、视频和交易笔记都会暴露在公共网络上…… 近年来，人工智能（AI）发展迅速，在文字处理、数据分析、个性化服务等领域展现出突出能力。 AI Agent（智能）应用需求快速增长，极大便利和丰富了人们的生活。然而，AI的爆发式增长离不开海量用户数据的支撑，这也让用户面临更高的隐私泄露风险。 今年5月，国家网络安全举报中心公布的35款违法违规收集、使用个人信息的手机应用中，不少应用涉及大型人工智能模型。同月，该中心发布预警称AI绘图工具Comfyui存在多个高危漏洞。境外黑客组织利用comfyui漏洞对我国网络资产进行网络攻击，寻找机会窃取有价值的敏感数据。 人工智能发展应如何在合理利用数据的同时，保证数据应用的合法、透明、安全，保护用户的隐私和安全？ 10月15日，在2025年OPPO开发者大会——人工智能安全与隐私分论坛上，中国信息通信研究院电话终端实验室信息安全部副主任付山表示，保护数据隐私安全需要智能终端、应用公司和用户共同努力，搭建起“协作的桥梁”。 客户端方面，西安交通大学教授林晨浩y表示，人工智能技术的发展使得数据库的攻击更加多样化，从客户端进行轻量级的综合防御变得更加困难。因此，企业在构建数据安全防护体系时，需要从硬件、系统、开发框架、数据、模型等多方面入手，甚至需要采用交互式防御手段，保证链路上充分的安全基础。 OPPO、华中科技大学、蚂蚁金服、火山引擎、阿里云、复旦大学、西安交通大学、南京邮电大学15日联合发布的《移动Agent安全技术白皮书》预计，移动Agent安全架构将发生从“外挂式”防护到“内生式”安全的根本转变。通过硬件重构、系统重构、协议重构，打造更安全、更可靠的核心技术y基地将建成。其中，端云协同的机密计算环境将是移动代理安全的主要支撑。下一代移动平台可集成独立的AI安全引擎，实现“内存加密-计算隔离-密钥轮换”的模型参数和用户数据的全流程保护。 白皮书指出，虽然移动代理安全技术前景广阔，但仍面临三大挑战：加密计算带来的计算开销影响用户体验、硬件平台和操作系统的不同导致安全解决方案难以标准化、自主决策能力可能导致不可预测的安全事件。代理安全技术需要打破现有的封闭模式和通行标准。准共建、算力端云协同、安全中间件建设形成开放协作的产学研网络生态系统。 在监管层面，近年来个人信息保护监管不断加强。相关部门通过专项整治和定期检查，加快企业数据采集向最少、必要、透明、可控方向转变。然而，由于人工智能技术的创新和实施速度很快，监管标准和政策的制定往往滞后。 对此，林晨浩表示，应尽快起草初步标准和相关规定，并随着人工智能技术的迭代不断修订。 付山还认为，从共性的角度来看，由于人工智能的快速发展和千人一面的特点，很难用人工智能来管理所有情况。单一标准。建议采取隐私分级的方式进行管理和监管。 “为了更好地执行标准并确保合规性，人工智能使用的数据需要进行分层处理，以更好地适应政策要求并创造更多创新空间。” 傅山强调，用户在尝试新功能和新应用时应仔细审查权限请求，谨慎授予通讯录、位置信息、相册、麦克风等敏感数据的访问权限，并定期检查敏感数据的使用情况。 “只有三方共同实现事前预防、事中控制、事后检查，才能更好地实现人工智能功能的安全使用。” （结语）【编辑：李岩】 国学研究与中国式现代化有何内在联系？ 中新网评论：这不是干扰“萨瓦格”案调查吗？e子”事件？ 新篇《黄河大合唱》文化旅游：文明与生态的协奏曲 黄金价格上涨，金条可以流动吗？您需要了解的本次购买规则 → 婴幼儿食品膨胀国家标准发布：灭菌率应不低于99.9% 乌镇戏剧节喜迎“岁月” 25场中外开幕 去那吧！这座城市如何为红色文化带来新的活力？ 准备剧本、上演视频……网警揭秘打击网络谣言案件规范 陈奕迅的焦虑症 探访中国“人造太阳”：聚变能源研发 基因检测可以预测未来的疾病吗？ 健身仰戈很受欢迎。其中包含哪些科学概念？ 真正的营养还是智商税？ 30种鸡蛋的“开蛋测试”来了 95万买个“学术”？警惕“校帽”沦为商品 瓦业主私自挖掘地下室导致建筑物出现裂缝，该承担什么责任？ 新增黄金资源量突破40吨！我国发现大型金矿 秋天是光子嫩肤的黄金季节吗？不信！火灾事故频发 全国长裤预警地图出现。十多个省份急需长裤保护身体。