创新易联欢迎您!16年高端网站建设品牌

“神奇贴纸”可愚弄计算机视觉软件,人工智能要迈过这道坎

日期:2018-01-04 | 来源:易联网站建设公司 | 阅读:

长久以来,计算机科学家们都在努力开发一些能够“愚弄”人工智能的图像类型。而这种特殊的图片和模式,就被称作“敌对图像”(adversarial images)。实际上,这么做是利用了计算机看待世界的不同方式,让人工智能的“眼睛”看到了并不存在的东西(可以理解为 AI 版本的“视觉幻象”)。比如将物理对象打印在纸张上,做出一幅“眼镜”来考验面部识别系统。现在,Google 的研究人员们又想出了新的法子,它就是“神奇贴纸”。




上个月的时候,研究人员已经发表了一篇描述“敌对图像”(Adversarial Patch)的论文。虽然算不上是突破性的进展,但至少向前又迈进了一步。这些测试图像可以在家里轻松打印出来,与其它“敌对图像”攻击不同的是,它们显得相对“柔性”一点,无需根据想要覆盖的图像、或者 AI 的视角而进行调整。


文中写到,即便不知道先前的光线条件、相机视角、分类、甚至场景里的其它物品,都可以用贴纸来创建“物理世界的攻击”。生成了这样的图像之后,还可以发布到网络上供其它攻击者打印和使用。


许多人工智能研究人员都担心,这类方法会对自动驾驶汽车等系统产生危害,比如让车载系统误以为高速公路边有个“停车”的牌子、或者一张防止个人被 AI 监视系统识别的标签。即便普通人可以注意到这些贴纸的异样,也不一定会理解它的真实意图,甚至认为这仅仅是某种艺术的展现形式。


当然,目前暂时也不用担心出现类似的攻击,毕竟随着技术的发展(打补丁),同样的套路不一定会在每一套 AI 系统上都奏效。


易联注重客户提出的每个需求并充分考虑每一个细节,积极做好服务努力开拓更好的视野;易联通过不懈的努力,赢得了业内的良好声誉,打造专业网站建设公司形象,这一切,也不断的激励着我们更好的服务客户。易联对网络产品质量提出了严格要求,确保用户能够获得优秀的互联网产品。

—— 微信公众号 ——

热门标签