产品展示
立博官网入口蚂蚁集团日前发布大模型密算平台“隐语Cloud”
在日前举行的2024世界人工智能大会上,蚂蚁集团方面发布大模型密算平台“隐语Cloud”,旨在通过软硬件结合的可信隐私计算技术,在大模型托管和大模型推理等环节实现数据密态流转,保护模型资产、数据安全和用户隐私。
据悉,“隐语Cloud”平台首批将推出两大服务,分别为大模型密态托管和大模型密态推理。其中大模型密态托管是指模型提供方可以将模型加密后托管在平台上,一键完成云上密态部署,保护模型资产不被泄漏和盗用;大模型密态推理则是指数据以密态形式完成推理,保护用户交互时的数据安全、商业机密等。
据了解,“隐语Cloud”平台提供公有云和专有云交付方案,支持市面上主流的通用大模型。以公有云为例立博官网入口,模型提供者可以一键加密上传自己的大模型,10分钟即可完成高可用推理服务的发布。用户通过网页就可以实现对模型的加密访问,无需感知到复杂的加密过程,即开即得。
对此,蚂蚁集团副总裁兼首席技术安全官、蚂蚁密算董事长韦韬表示,“大模型真正的问题是缺数据,整个大模型技术往下一步演进,无论是在通用技术领域、还是在重点的专业领域,数据才是决定AI应用能力的上限”。
他还进一步指出,大模型之所以缺乏数据,不是因为数据短缺,是因为数据难以流动。“为什么它流不动?因为数据存在大量的泄露风险和滥用风险。数据非常容易被拷贝、分割、加工、变形,所有高价值数据,对正向业务有价值的时候,在黑产上价值往往更高”,以及“而整个数据以密算形式流通,保障它在存储计算、运维研发全链路是安全可控的,我们认为这是未来的必然趋势。只有让数据是密态方式流通的时候,才能即发挥正向价值、又控制负向风险”。
针对有说法认为密码学技术成本太高难以应用的观点,韦韬表示,“单纯使用密码学技术,成本太高了,导致难以大规模应用,所以我们要用可信芯片和机密计算技术来协同保障,从而大幅度降低成本,实现低成本密态计算,形成行业里规模化应用方案”。
据韦韬介绍,两年前蚂蚁集团方面就坚定认为整个行业将走向数据密态时代,而今天AI加速了这一趋势。据悉,近年来蚂蚁集团已申请了1000多件隐私计算相关的专利,专利数量位居全球第一。同时蚂蚁集团还与多家CPU厂商合作,提出了统一的开源开放的一致化的强安全通用的星绽机密计算接口。
在此次活动中,蚂蚁集团方面还公布了自研百灵大模型的最新研发进展。据了解,目前百灵大模型已具备能“看”会“听”、能“说”会“画”的原生多模态能力,可以直接理解并训练音频、视频、图、文等多模态数据。而且百灵大模型的多模态能力也已被应用在生活服务、搜索推荐、互动娱乐等场景立博官网入口。其中以生活服务为例,蚂蚁集团使用多模态模型实现了ACT技术,让智能体具备一定规划执行能力,比如根据用户语音指令直接在小程序中下单一杯咖啡。ladbrokes立博体育