如何做到自然语言预训练加速十倍

近日，由蚂蚁集团、清华大学等组织共同协办的首届「Inclusion|A-tech 科技精英赛」(以下简称 A-tech 大赛)圆满落幕。奥比中光科技集团股份有限公司 (以下简称「奥比中光」) 研究院 SDK 组负责人小蛮腰、算法工程师埼玉（均为花名）从全球 20 位优秀 AI 工程师与网络安全极客选手中脱颖而出，与战队队友共同斩获大赛头名。

首次 A-tech 科技精英赛的主题关注「科技的温暖和美好」，以「野生动物保护」作为切入点，选手需要在比赛中，分析检测 34 种可能存在的野生动物，并预测每种野生动物的位置、类别及置信度——数据中包含着大量「非正常图像」。本质上，这是一场对日常 AI 攻防的浓缩「还原」，正是在无数次的 AI 攻防的较量中，AI 安全相关技术也得到长足发展。

计算能力的万亿倍增长使得深度学习在处理各种任务中得到广泛应用，如图像分类、自然语言处理和博弈论。然而研究者发现，现有深度学习算法存在着严重的安全隐患：攻击者可以通过给良性样本添加特定噪声，轻易地欺骗深度学习模型，并且通常不会被人发现。攻击者利用人的视觉和听觉无法感知的扰动，足以使正常训练的模型输出置信度很高的错误预测。这种现象被研究者称为对抗攻击。

也可以说，我们的模型被「骗」了，这激发了人们对对抗技术的广泛兴趣。那么，什么是对抗技术呢？

举几个例子, 如图 1 所示 [1], 穿特殊图案的 T 恤可以使目前大部分行人检测器失效；给图 2[2] 中左边的大熊猫添加一个很小的干扰噪声，虽然生成的图片看起来和原始的没有什么区别, 但是却会导致系统将其误认为是长臂猿的照片。
 

随着无数企业和实体搭上数字化的快车，网络安全逐渐成为人们关注的焦点。此外，大数据、物联网、人工智能以及机器学习等新技术也正逐渐涉足我们的日常生活，随之而来的是，与网络犯罪有关的威胁也在不断攀升。同时，在处理财务信息时使用移动和Web应用程序也已使完整的数字内容暴露于网络安全漏洞中，攻击者或网络犯罪分子可以利用此类应用程序中发现的固有风险和漏洞来窃取关键的财务数据。

根据Statista公司发布的调查数据显示，在2019年，网络安全漏洞已经造成了全球2038万美元的经济损失。另外，Cybriant公司数据显示，网络犯罪已导致全球GDP在2019年折损0.80%(约2.1万亿美元)。
 

作为业界知名的云服务提供商，CDS首云及时捕捉到用户对于AI云服务的迫切需求，携手英特尔，使用OpenVINO™ Model Server为用户打造更加高效、便捷和完善的AI云服务能力，增强了竞争力。

AI能力是云服务的新领地，OpenVINO™套件是构筑AI云服务的利器。基于OpenVINO™的云服务，可以支持英特尔架构内不同硬件，支持K8S，支持主流的开源深度学习框架，提供统一的API。相信基于OpenVINO™的AI云服务将是未来演进方向，用户选择这样的AI云服务，是对投入很好的保障。

前段时间，一档名为《燃烧吧！天才程序员》的竞赛类综艺让「程序员」这一群体成功破圈，也呈现了 AI 在解决实际问题的过程中面临的一些挑战，如数据集中存在对抗样本、图像中存在噪声等。在本文中，CLS 战队（大赛头名团队）的优秀选手、奥比中光算法工程师埼玉详细解读了他们在比赛中用到的解决方案。
 

测试结果如图所示，使用OpenVINO™ Model Server的方案在所支持的用户并发数量上远超对比组，相比采用TensorFlow Serving的方案提升了2.4倍，同时每个并发客户端的延时也控制在了30毫秒以内，意味着整个检测流程能够跟上视频播放的速度，达到了实时检测的效果。

未来，OpenVINO™ Model Server方案带来的应用优势，也会在CDS首云全面走向公有云市场时转化成为竞争优势。接下来，除要在更多应用场景中进一步优化新方案的效能外，CDS首云还计划与英特尔一道，探索将基于 OpenVINO™ Model Server的AI云服务与边缘计算融合的解决方案。这类方案可将AI云服务的应用范围进一步扩展到安防、自动检测、门禁系统等应用场景中，为用户提供更具多样化、差异化优势的云服务能力。

（编辑：广元站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!