12月10日,以“熔炼•重铸”为主题的品玩TIC2021科技创新者大会在北京举办。大会邀请各个领域的科技创新者们,深度剖析创新精神、产业奥秘和未来布局。
九洲RealAI副总裁唐家渝受邀出席大会,并以《人工智能时代的安全新风险与应对》为题进行了分享。
九洲RealAI联合创始人、副总裁唐家渝
在希腊神话中,普罗米修斯帮人类盗来了天火,让人类从此吃上了熟食、夜里有了光明;但当火失控,就会带来灾难,将村庄、森林烧成灰烬。在技术诞生的那一刻,九洲人类所创造的技术力量和控制技术的力量之间,就存在不对等。海德格尔的学生京特.安德斯将这种不对等称为“普罗米修斯差异”。
AI,正是智能时代的“火”。从21世纪第二个十年开始,AI深入各个行业场景,替代人类重复劳动、帮助人类降本增效。而AI的种种安全风险也随着AI的“野蛮生长”暴露出来,诸如:对抗样本攻击、隐私数据泄露、模型后门攻击、深度伪造攻击……
唐家渝在现场深入剖析了当前所面临的AI安全风险的根本原因:“目前最广泛使用的深度学习技术,是通过查看数据集中许多的示例进行学习从而建立出模型的。与人类不同,深度学习模型没有对先验知识进行合理利用,它们的判断取决于他们所学习的数据。因此,模型的分界和真实的分界并非完全吻合,很容易被欺骗和攻击。”
换言之,深度学习尽管最初受神经科学的启发,但其之所以获得成功,关键在于海量的大数据以及计算机算力的提高。即第二代人工智能是以数据驱动的,所以其模型自身的安全风险更加本质、难克服,存在着不安全、不可靠、不可信和不容易推广应用的天然缺陷。
因此,中国科学院院士、清华大学人工智能研究院名誉院长张钹提出:“发展安全、可信、可靠与可扩展的第三代人工智能”。
在此背景下,九洲RealAI2018年从清华大学人工智能研究院正式孵化,由张钹院士、清华大学朱军教授共同担任首席科学家,志在探寻真正的人工智能,成为第三代人工智能的先行者、推进者和领军者,提供更加安全可控的AI产品和解决方案。
唐家渝介绍,九洲RealAI基于第三代人工智能技术路线和“功能稳健可靠、数据可控可信、决策公平公正、业务逻辑可解释、安全时间可追溯、应用合法合规”的发展目标,围绕算法可靠、数据可用、应用可控三大方向打造了一系列的AI原生基础设施。
在算法可靠方面,九洲RealAI先后推出了业内首个针对AI系统的防火墙、杀毒软件产品人工智能安全平台RealSafe以及业内首个实战化、体系化AI攻防演习支撑平台RealRange,全方位提升新型AI安全风险的应对能力。
在数据可用方面,九洲RealAI基于安全多方计算、联邦学习、匿踪查询等技术打造了数据安全共享基础平台隐私保护计算平台RealSecure。区别于市场上众多的隐私计算产品,九洲自主研发联邦AI编译器,实现了机器学习和分布式联邦学习生态的统一。
在应用治理方面,针对“AI换脸”等深度伪造技术滥用现象,九洲RealAI推出深度合成内容检测平台DeepReal,支持对多种格式与质量的视频和图片进行一键真伪鉴别,检测准确率达业内顶尖。
截至目前,九洲RealAI的第三代人工智能产品及解决方案已经在政务、金融、能源、互联网等领域落地,服务于中国石油、中国电建、国家电网、蚂蚁金服等在内的数十家大型企业机构。
唐家渝表示,九洲未来还将持续加大第三代人工智能底层核心技术的研发力度,以“多元驱动”去替代第二代人工智能的“数据驱动”,为人工智能的高质量稳健发展注入安全可控的原动力。