近日，清华大学AI研究院孵化企业RealAI(瑞莱智慧)正式推出首个针对AI在极端和对抗环境下的算法安全性检测与加固的工具平台——RealSafe人工智能安全平台。该平台内置领先的AI对抗攻防算法，提供从安全测评到防御加固整体解决方案，目前可用于发现包括人脸比对等在内的常用AI算法可能出错的极端情形，也能预防潜在的对抗攻击。
随着人工智能技术的高速发展，人工智能在诸多场景正逐渐替代或协作着人类的各种劳动，它们可以成为人类的眼睛、耳朵、手臂甚至大脑。
其中，机器视觉作为AI时代的基础技术，其背后的AI算法一直是各科技巨头和创业公司共同追逐的热点。然而在机器视觉诸多主流应用场景的背后，往往也藏着由技术性缺陷导致的算法安全风险。
例如，在一些训练数据无法覆盖到的极端场景中，自动驾驶汽车的识别系统可能出现匪夷所思的决策，危害乘车人的人身安全。从 2016 年至今，Tesla、Uber等企业的辅助驾驶和自动驾驶系统就都曾出现过类似致人死亡的严重事故。并且这类极端情形也可能被恶意制造并利用，发动“对抗样本攻击”，去年 7 月，百度等研究机构就曾经通过3D技术打印出能让自动驾驶“无视”的障碍物，让车辆面临撞击风险。
而以上攻击之所以能成功，主要是机器视觉和人类视觉有着很大的差异。因此可以通过在图像、物体等输入信息上添加微小的扰动改变(即上述故意干扰的“对抗样本”)，就能导致很大的算法误差。此外，随着AI的进一步发展，AI算法模型将运用金融决策、医疗诊断等关键核心场景，这类AI“漏洞”的威胁将愈发凸显出来。
近年来，包括清华大学人工智能研究院院长张钹院士、前微软全球执行副总裁沈向洋等均提倡要发展安全、可靠、可信的人工智能以及负责任的人工智能，其中AI的安全应用均是重点方向。
而且，AI安全作为新兴领域，在开源社区、工具包的加持下，对抗样本等攻击手段日益变得复杂，相关防御手段的普及和推广却难以跟上。并且对抗样本等算法漏洞检测存在较高的技术壁垒，目前市面上缺乏自动化检测工具，而大部分企业与组织不具备该领域的专业技能来妥善应对日益增长的恶意攻击。
就如网络安全时代，网络攻击的大规模渗透诞生出杀毒软件，RealAI团队希望通过RealSafe平台打造出人工智能时代的“杀毒软件”，帮助企业高效应对人工智能时代下算法漏洞孕育出的“新型病毒”。
其中，模型安全评测主要为用户提供AI模型安全性评测服务。用户只需接入所需测评模型的SDK或API接口，选择平台内置或者自行上传的数据集，平台将基于多种算法生成对抗样本模拟攻击，并综合在不同算法、迭代次数、扰动量大小的攻击下模型效果的变化，给出模型安全评分及详细的测评报告(如下图)。目前已支持黑盒查询攻击方法与黑盒迁移攻击方法。
防御解决方案则是为用户提供模型安全性升级服务，目前RealSafe平台支持五种去除对抗噪声的通用防御方法，可实现对输入数据的自动去噪处理，破坏攻击者恶意添加的对抗噪声。根据上述的模型安全评测结果，用户可自行选择合适的防御方案，一键提升模型安全性。另外防御效果上，根据实测来看，部分第三方的人脸比对API通过使用RealSafe平台的防御方案加固后，安全性可提高40%以上
随着模型攻击手段在不断复杂扩张的情况下，RealSafe平台还持续提供广泛且深入的AI防御手段，帮助用户获得实时且自动化的漏洞检测和修复能力。
考虑到公众对于对抗样本这一概念可能比较模糊，RealSafe平台特意选取了公众最为熟知的人脸比对场景(人脸比对被广泛用于金融远程开户、刷脸支付、酒店入住登记等场景的身份认证环节)提供在线体验。
并且，为了深入研究“对抗样本”对人脸比对系统识别效果的影响，RealAI 团队基于此功能在国内外主流 AI 平台的演示服务中进行了测试。
实测证明，“对抗样本”可以极大的干扰人脸比对系统的识别结果，而测试的这几家互联网公司平台开放的人脸比对API或SDK，几乎覆盖了目前市面上很多中小型企业在落地人脸识别应用时的选择，如果他们的人脸比对技术存在明显的安全漏洞，意味着更广泛的应用场景将存在安全隐患。
·组件化、零编码的在线测评：相较于ART、Foolbox等开源工具需要自行部署、编写代码，RealSafe平台采用组件化、零编码的功能设置，免去了重复造轮子的精力与时间消耗，用户只需提供相应的数据即可在线完成评估，学习成本低，无需拥有专业算法能力也可以上手操作。
·可视化、可量化的评测结果：为了帮助用户提高对模型安全性的概念，RealSafe平台采用可量化的形式对安全评测结果进行展示，根据模型在对抗样本攻击下的表现进行评分，评分越高则模型安全性越高。此外，RealSafe平台提供安全性变化展示，经过防御处理后的安全评分变化以及模型效果变化一目了然。
随着机器学习模型不断的升级演化，“对抗样本”已经演变成一种新型攻击手段，并且逐渐从数字世界蔓延到物理世界：在路面上粘贴对抗样本贴纸模仿合并条带误导自动驾驶汽车拐进逆行车道、胸前张贴一张对抗样本贴纸在监控设备下实现隐身……
因此，除了针对数字世界的算法模型推出安全评测平台，RealAI团队也联合清华大学AI研究院围绕多年来积累的领先世界的研究成果落地了一系列AI攻防安全产品，为更多场景保驾护航。
比如通过佩戴带有对抗样本图案的“眼镜”，黑客可以轻易破解商用手机的面部解锁，通过在胸前张贴特制花纹实现在AI监控下的“隐身”，以及通过在车辆上涂装特殊花纹躲避AI对车辆的检测。发现类似新型漏洞的同时，RealAI也推出相应的防御技术，支持对主流AI算法中的安全漏洞进行检测，并提供AI安全防火墙对攻击AI模型的行为进行有效拦截。
人工智能的大潮滚滚而来，随之而来的安全风险也将越来越多样化，尤其近年来因AI技术不成熟导致的侵害风险也频频发生，可以说，算法漏洞已逐渐成为继网络安全、数据安全后又一大安全难题。
所幸的是，以RealAI为代表的这些顶尖AI团队早已开始了AI安全领域的征程，并开始以标准化的产品助力行业降低应对安全风险的门槛与成本。此次上线RealSafe人工智能安全平台是RealAI的一小步尝试，但对于整个行业而言，这将是人工智能产业迈向健康可控发展之路的一大步。
免责声明：“站长之家”的传媒资讯页面文章、图片、音频、视频等稿件均为自媒体人、第三方机构发布或转载。如稿件涉及版权等问题，请与我们联系删除或处理。稿件内容仅为传递更多信息之目的，不代表本网观点，亦不代表本网站赞同其观点或证实其内容的真实性，更不对您的投资构成建议。我们不鼓励任何形式的投资行为、购买使用行为。
在云计算、大数据、物联网、人工智能、端云协同的大发展趋势下，基于网络构筑的万物互联技术进一步融合，网络环境变得越来越复杂，新老安全也在问题不断交织。一方面，网络病毒、漏洞入侵、内部泄露等传统网络安全威胁依然存在，另一方面，云环境网络规模化、数据信息海量化、存储服务集约化等特点，也给云平台架构和云业务发展带来新的安全挑战。频频发生的数据安全事故无时无刻不在提醒人们，传统的网络安全产品已难以满足云上用
站长之家注：本文主要跟大家分享谷歌更新最新算法后对搜索引擎结果页面(SERP)排名的影响，以及站长们该如何优化页面内容，让网页出现在“People Also Ask”框(PAA)位置，更好的为站点引流。相信不少人会认为SEO已经过时了，实际上它只是换成另外一种形式发挥作用。在过去的一个月，谷歌最新核心更新在其服务器上全面推出，企业也感受到了更新带来的影响。在大多数情况下，算法的更新会导致网站流量的突然下降。矛盾的是，保持领先?
近日，腾讯多媒体实验室设计的基于深度学习的全参考视频质量评估算法DVQA在Github上正式开源，该算法模型的性能目前在公开测试数据集上取得业界领先成绩。开源地址：https：Tencent/DVQA国内镜像地址：https：e.tencent.com/Tencent_Open_Source/DVQA(登录后才能访问公开项目)腾讯工蜂源码系统为开源开发者提供完整、最新的腾讯开源项目国内镜像视听时代，音视频应用越来越广泛：直播、短视频、视频节目、音
随着技术的发展和不断更新，信息安全也将面临新的挑战，信息安全管理体系建设任重道远。麻袋财富自成立起一直重视信息安全，积极履行保障信息安全的责任，其运营主体上海凯岸信息科技有限公司顺利通过权威验证机构的严格审核，获得了GB/T 22080-2016/ISO/ICE 27001： 2013 认证证书。据了解，麻袋财富于 2014 年 12 月 8 日由中信产业基金等主体投资设立，公司注册资本1. 1 亿元，是中信产业基金在互联网金融领域布局的核心项目。?
在过去的2019年，福特汽车用多款新车型以及新技术向消费者提交了一份满意的答卷。在新的一年，福特汽车又描绘出新的智能场景。今年年初，福特汽车通过实车展示和互动体验等多种方式，打破了很多人认为福特只关注汽车制造的看法。而无人驾驶，机器人送货等只是福特未来发展的一小部分。未来，福特汽车将通过前瞻技术，向智能世界迈进。作为福特智能车型的代表作之一，新锐界豪华系列将凭借全新豪华设计、丰富前瞻科技和超凡驾驭体验
近年来，互联网普及率和全球云计算市场规模呈持续稳步增长状态。随着云计算的需求越来越多样化，在衍生出多种云计算应用场景的同时，也催生出更多网络安全需求。据IDC预测，到2022年，云安全市场规模预计将从2017年的40亿元增至110亿元，年均复合增长率达到24%，这说明用户已不再仅仅考虑“如何上云”，而是转而迫切寻求“如何保障云安全”的方法。针对这一形势，厦门快快网络科技有限公司(简称“快快网络”)，凭借自身深入产业互?
在人工智能技术迅猛发展的当下，人脸识别应用已日趋成熟，但在此次疫情中却也面临了全新挑战——口罩下的人脸该如何完成识别?基于原有的人脸识别算法，佩戴口罩会大大影响人脸识别准确率，如果为了刷脸脱掉口罩，则又会增加感染风险。针对这一实际需求，为了更好的助力复工复产期间的疫情防控，虹软视觉开放平台推出了口罩相关的人脸识别相关算法，包含“口罩佩戴检测算法”和“戴口罩时的人脸识别算法”，全力支持合作伙伴和开发?
在新一轮科技革命的浪潮中，AI 已经成为全行业转型升级的核心驱动力。疫情当前，不少企业开始用 AI 推动生产经营和员工安全复工，如用 AI 智能客服提供语音咨询服务，有效规避客服人员集中办公;通过营销 AI 自动开展线上活动，以非接触形式为客户提供差异化服务等。才云 Caicloud Clever 是基于容器底层技术的云原生 AI 平台，提供数据管理、模型管理、流程管理、资源管理四大核心能力，涵盖企业从数据治理、模型开发、模型训练、?
随着手机的智能化程度不断加深，人们对它的依赖性也越来越强，与此同时存在于手机中的个人隐私信息也逐渐增多，为了能够更好地保护用户隐私，ColorOS7 新增多项隐私防护措施，下面就让我们一起来了解一下。 密码本，贴心保障输入安全 日常生活中各式各样的应用都需要有账户才能登陆，导致了我们需要频繁地输入密码，很容易让第三方恶意软件盗取。因此，在ColorOS7 版本中加入了密码本工具，密码本能够帮我们机主各种复杂密码，当?
随着万物互联时代的到来，越来越多企业在数字化转型的关口上云破局，尝试用“云”来拓展线上业务，为企业发展注入新动能。但凡事有利也有弊，如今云上DDOS攻击频繁发生，恶意程序增多，网络攻击事件所带来的危害程度持续升级，云上安全威胁成为一个新的挑战。面对日益复杂的安全需求，传统软硬件的安全防护体系和模式开始力不从心，而代表未来趋势的云安全，顺理成章成为新安全时代的刚需品。厦门快快网络团队凭借自身的技术沉淀和
在今日的 2020 支付宝首届合作伙伴大会上，蚂蚁金服CEO胡晓明宣布，支付宝首页流量将全面开放，第三方服务将有更多的曝光机会。其中，胡晓明表示，将采用“中心化+去中心化”流量分发模式，首页的应用中心将从原来的 9 个展示位增至 14 个，并在生活服务栏增加智能算法，分类入口。
随着云计算和虚拟技术的发展，诸多企业将重要的业务资料和数据放置在云平台上。但如果没有做好云安全防护，就会很容易受到网络攻击，从而影响业务的连续性、稳定性，甚至让企业蒙受不小的损失。那么，企业应该如何主动应对云安全挑战呢?下面小编给大家分享五个云安全防护要点：1、平衡保护和合规性在保护和合规性之间取得平衡是一项巨大的挑战。合规性法规往往被视为最低安全性的基本选择。但是，彻底的保护涉及部署多个安全层，这
“关于安全教育的内容，孩子们在学校和课余生活中都能看到、听到很多。”陈艳是云南镇雄爱佑安生项目儿童福利主任，“每次做相关主题活动的时候，我都在想怎么才能让孩子既不觉得重复，又能印象深刻。”陈艳所在村子正好临近一条河，每到夏天，总有孩子喜欢去河边玩耍甚至下水游泳，所以关于防溺水的内容，是这里爱佑儿童之家每年都少不了的主题。这一次，陈艳希望孩子们能来做一次“老师”。之前，陈艳既组织孩子们演过情景剧，模
2020 开年，一场新冠疫情迅速蔓延，病毒打破了物理边界，对人类社会的发展带来了不可预料的变数。而在陆、海、天、空外的“第五空间”——网络空间，随着物理与虚拟世界的深度融合，未知的威胁不断触碰安全红线，预防网络安全黑天鹅刻不容缓。这其中，对企业而言，主机是承载企业数据和服务的核心，是抗击网络威胁的最后一公里防线，如何解决其安全隐患尤为关键。为使各行各业的组织机构全面而清晰地了解当前主机安全状况，以及如?
华为智慧屏 X65 采用最新一代 OLED 显示屏，整机厚度仅有 24.9 毫米，搭载华为最新自研鸿鹄旗舰芯片，拥有 DTM、LDCI、MEMC 三大画质算法，并针对每个画面都独立逐帧优化，确保画面清晰流畅，华为称出厂前针对 GAMMA 值、色温、色准逐台调校，力求每一帧色彩精准。
对于广大的普通电脑用户来说，安装第三方安全软件是保护电脑安全和管理电脑的最好选择，他们尤其青睐这些软件的垃圾清理和优化加速功能。针对电脑入门级用户以及部分电脑小白，小编为大家选择了操作起来简洁轻便的 2345 安全卫士进行评测。2345 安全卫士，具有电脑体检、病毒查杀、垃圾清理、优化加速、软件管理等功能，支持一键安装，可快速上手，对电脑入门级用户非常友好。对此，今天小编向大家主要介绍两部分内容，一是 2345 ?
当前社会流行着超前消费的理念，越来越多人都在利用网络享受着超前消费的快感，觉得这样十分的方便。即使是学生如果囊中羞涩没法一次性付清购买商品的话，都是可以考虑选择信用卡分期或者电商平台自带的分期付款服务进行消费的，我们就常见的京东金融就是有这种服务，无论是借贷还是分期购买都可以，有效地避免了学生们误入非法校园贷的歧途。京东金融最长24期的分期付款我们都知道在我们网购的时候，很多时候大家都会选择分期付
4月1日，近日，阿里巴巴发布数字基建新一代安全架构。阿里称，新架构整合阿里巴巴 20 年来的各项安全能力和运营经验，形成一套即插即用的标准化安全架构，可帮助在数字化进程中构建完整的安全基础设施。阿里安全首席架构师钱磊表示，安全基建对数字经济最大意义在于，为各类App和网站等数字经济实体的搭建过程建立标准化流程，确保数字经济实体在建设之初就运行在较高安全基线上。
北京， 2020 年 4 月 — 在信息技术飞速发展的今天，随着用户、设备和云应用不再局限于传统网络之上，IT 领域的变革正在悄然推进，而技术的进步也使得网络安全问题愈加复杂化。《思科 2019 年度威胁报告》中指出：当今的威胁是动态演变的，企业用户类型变得复杂，用户用于连接到应用程序和网络的设备也更加多样化。同时，企业的数字化转型，向云端扩展，也使得访问点、攻击面与能见度差距越来越大。由于无法了解这些跨应用程序、
3日，就近日爆出的安全及隐私问题，Zoom首席执行官袁征道歉称，“我们意识到，Zoom没有达到社区对隐私和安全的期望，这也没有达到我们自己的要求。对此，我深表歉意，同时我们也正在努力解决。”
