第06版:财经周刊

让人工智能更安全

本报记者 李元丽

9月26日,一年一度的世界互联网大会再度造访浙江乌镇。大会期间,被誉为互联网界“奥斯卡”的年度领先科技成果大奖也正式揭晓,14项顶级互联网科技成果正式亮相,北京瑞莱智慧科技有限公司自主研发的“安全可控可靠的新一代人工智能平台”荣膺领先科技成果奖。

北京瑞莱智慧科技有限公司CEO田天接受记者采访时表示,这是基于第三代人工智能理论所研发的新一代人工智能基础设施,能够从根本上增强人工智能的安全性、可靠性及可控性,为高价值场景的智能化升级提供安全可靠的一站式保障。比如,瑞莱智慧基于隐私计算子平台,在多家银行之间不分享明文数据和匿踪查询的前提下,各行利用自有数据积累实现了“黑名单共享+横向联邦学习”的金融联盟风控反欺诈模式,帮助银行安全合规地引入外部数据,大幅度提高对欺诈行为的识别能力。

据了解,“安全可控可靠的新一代人工智能平台”包含隐私计算、AI攻防、深伪检测三大子平台。隐私计算子平台能够实现在数据不出库、无中间方前提下的多方模型训练,解决数据流通合作过程中的安全和隐私保护问题。AI攻防子平台能够对人工智能系统进行安全检测、系统性风险防范和智能化升级加固。深伪检测子平台支持对多种格式与质量的图像进行自动鉴别,能够应用于检测网络内容真实性合规性、打击侵害声誉行为和网络诈骗行为等场景。

“当前以深度学习为代表的第二代人工智能仍面临诸多安全风险。”在田天看来,人工智能正成为新时代的重要发展命题,但在发展热潮下,当前的人工智能仍然面临着不安全、不可靠、不可信和不易扩展等应用瓶颈。一是数据泄漏问题。人工智能能力的提升需要最大限度地挖掘数据价值,但实际应用中数据的用途和用量不受控,导致数据和隐私信息泄露风险等存在。二是算法不可靠。由于深度学习模型的黑箱性和不可解释性,使得人工智能存在着结构性的安全漏洞,在金融、自动驾驶等关键场景下,将可能引发恶意攻击等严重后果。三是应用不可控,即人工智能技术的滥用和错用,比如深度伪造、歧视性营销等人工智能应用的野蛮生长现象屡见不鲜且已造成严重后果,这给人工智能的稳健发展带来不利影响。

中国科学院院士、清华大学人工智能研究院名誉院长张钹曾提出,当前需建立可解释的人工智能理论,发展安全、可信、可靠与可扩展的第三代人工智能。

在此背景下,瑞莱智慧作为清华人工智能研究院的核心孵化企业,率先综合利用知识、数据、算法与算力四个要素构建更强大的人工智能。“未来,人工智能产业将迎来与传统产业融合发展的窗口期,在安全可控可靠的新一代人工智能平台的加持下,人工智能将在领域广度、场景深度、能力维度、价值向度上取得更高质量的发展。”田天最后说。

2021-09-28 李元丽 1 1 人民政协报 content_13196.html 1 让人工智能更安全 13,196 /enpproperty-->