在10月10日举办的2024 vivo开发者大会上,vivo首席安全官鲁京辉分享了vivo 在安全领域的最新进展。在AI重构系统体验,打造便捷贴心的个人化专属体验的同时,用户隐私安全始终是vivo的首要原则。vivo在提供AI服务时,采取“端侧优先、端云协同”的策略,能在端侧处理的数据绝不上云。仅在必要时使用云侧资源,以确保AI服务安全、可靠。此外,vivo利用端侧AI能力加持“千镜可信引擎”构建了全链路诈骗防护,并升级了手机丢失防护体系,包括关机定位和远程数据删除功能,以保护设备和数据安全。
vivo聚焦AIGC时代下可信OS构建与升级、安全挑战及对策,以及AIGC场景下的终端数据安全等开发者最为关注的话题,在安全与隐私专场分享了最新的技术实践探索与落地成果。
全面拥抱AI,共建透明可信的安全体验今年vivo进一步升级可信OS,和行业伙伴共建可信生态。在可信OS方向上针对三大场景进行了升级:从数据安全到设备安全,为用户提供双重保障;在权限管理上,vivo提供透明智慧的权限管控体验;同时AI加持vivo千镜,提供全链路诈骗防护。vivo也利用AI为平台工具进行提效升级,和行业伙伴共建可信生态。此外,vivo在数据安全、模型安全、内容安全及运营安全四个方面为AIGC安全保驾护航。
千镜安全架构升级,护航AI服务在给用户带来智能化体验的同时如何确保AI技术安全可控,vivo给出了一个很好的答案。 vivo推出的千镜安全架构能够从芯片层、内核层、框架层和应用层四个层面为用户的数据和隐私提供全面、系统化的保护。
同时,vivo与DARKNAVY深度合作,在手机可信执行环境(TEE)中共同推进了量化安全评估(AVSS,Adversarial Vulnerability Scoring System)的应用。AVSS作为网络安全碰撞测试,通过模拟真实的攻击场景,针对TEE中的生物特征数据的机密性、完整性和可用性,以及密钥管理和权限管理等安全保护能力进行了量化评估,评估各组件攻击成本,不断提升TEE安全能力。
另外,vivo千镜安全架构新增多端协同的数据保护能力,包括查找网络、密码保险箱云同步、支持跨设备跨生态的通行密钥三种能力,为用户提供更全面、更智能的安全保障。
同时,会上,vivo宣布正式发布《千镜安全架构技术白皮书》,详细介绍和解释了vivo定义的千镜安全架构以及对应的技术能力细节。
(注:白皮书可在vivo隐私中心官网查看,或直接点击:https://privacy.vivo.com.cn/#/overview查看详情)
基于千镜安全架构,vivo专门打造了千镜可信引擎,深度赋能生态伙伴业务场景,为用户打造更安全的用机体验。今年vivo通过AI赋能,千镜可信引擎进一步升级,推出了AI诈骗应用识别、AI识别诈骗电话、AI端决策模型三大能力。升级后的千镜可信引擎优化了检测链路,可实现风险拦截和预警,助力用户止损并协助业务进行风险控制。
在多设备全场景的智能互联中,终端风险变得分散且隐蔽,模糊的风控决策增加用户困扰。解决的关键在于确保真实用户、真实设备、真实目的和真实请求。蚂蚁终端安全通过和vivo千镜可信引擎合作,构建端上隐私计算范式,以“应用、设备、身份、业务”四大可信能力应对挑战,驱动可信互联未来。
总的来说,千镜可信引擎的升级在风险预警、智能识别和隐私保护等方面实现了重大突破,为用户提供了全面而深入的安全防护。这意味着vivo不仅仅在追求功能的多样化,还更加注重用户体验的本质安全,致力于将安全技术与用户实际需求紧密结合,实现“安全享受AI”的初衷。
积极应对安全挑战,共同促进产业发展面对AIGC带来的新安全挑战,vivo安全合规高级经理吴佳颖分享了vivo针对AIGC安全问题所带来的安全挑战以及解决策略。针对AIGC特有风险,vivo推出了《大模型安全风险评估基准》,能持续跟进大模型的迭代更新,整体度量大模型全生命周期的安全水平。
同时,vivo构建了大模型管理平台和内容安全策略平台,并针对不同的内容场景,建立了完善的内容标签体系,并据此开展内容安全质量评估并出具报告。在源头数据质量把关方面,vivo对训练数据进行严格清洗与质量监测,确保其合法性和可靠性。
在整套治理环节中,vivo与合作伙伴百度共同努力,针对数据及数据源的不同问题进行专项处理,形成了一套全面的训练语料清洗与质量监测体系,对大模型训练语料进行提质纠偏,从源头护航AIGC安全。
除了不断夯实内部安全能力外,vivo还在行业内开展广泛合作。中国信息通信研究院人工智能研究所安全部主任石霖表示,在信通院成立AIIA安全治理委员会构建人工智能安全评测体系的过程中,vivo积极参与各项工作并贡献了实践经验。2024年7月,vivo率先通过了信通院首轮AIIA大模型安全测评,携手合作伙伴共同促进AI产业健康发展。
拥抱AIGC,安全工具全面增强vivo一直致力于构建覆盖全面、检测高效的安全检测能力,以发现移动应用的安全与隐私风险。今年vivo安全工具建设的核心思想是“拥抱AI,全面增强”。vivo分享了的最新技术创新成果——千镜大模型安全检测平台,其可以保障大模型输出内容的安全,以解决AIGC带来的安全合规方向的新挑战。
同时,vivo与安势合作研究了针对Android应用跨语言场景的静态分析能力,可检测现有分析工具无法检测的复杂漏洞场景,并为人工挖掘跨语言漏洞提供了自动化工具的支持。
在把安全工具能力做好的同时,vivo进一步探索AIGC应用的边界,把其应用到数据安全治理方面。在数据安全方面,vivo对数据进行科学分类分级并建立详尽的数据资产台账,是制定有效的数据安全治理策略和实现精细化管控的基础。未来,vivo将不断提升现有的大模型和规则识别双引擎能力,努力提高识别准确率和召回率,打造分类分级智能体,赋能更多业务场景,为用户的数据安全保驾护航,持续提高vivo用户的安全体验。
坚持做正确的事,持续优化用户安全体验用户隐私安全永无止境,vivo的安全之路也没有尽头。从清晰的技术方向到紧密的技术落地,让我们看到vivo真正地做到了将用户需求放在第一位。无论是千镜安全架构、千镜可信引擎、构建可信OS,亦或者行业安全生态......虽然vivo在安全领域的动作一直在变,但其核心目标始终没有发生任何改变,那就是——持续改善和提高用户的安全体验。
对于一家拥有长期主义理想的科技企业而言,自上而下的安全战略与原则是一个必选项,同时也是一切安全工作的起点,vivo也一直在践行安全与隐私是最高的战略理念,也希望更多的企业和伙伴一起加入,共同为用户构建更安全、更可信的新数字世界。
注:
1.上文所述部分功能将陆续上线
2.文中全球AIGC 智能手机出货量数据出自MediaTek与Counterpoint联合发布的《生成式AI手机产业白皮书》