公司新闻

当前位置:官网首页 > 公司新闻 >

智能or智障?OpenAI最先进计算机视觉系统被曝重大缺陷,又被一张小纸条击败

时间:2021-03-10 08:01    作者:     点击:

1

(图片来历:凯发k873.comOpenAI)

来自机器学习试验室OpenAI的研讨人员发现,他们最先进的计算机视觉系统可能会一些东西诈骗。在一次试验傍边,研讨人员将一张写有“iPod”的小纸条贴在一个青苹果上,然后系统检测该物体为“iPod”。

OpenAI的研讨人员在一篇博文中写道:“咱们将这些进犯称为排版进犯。”“经过使用模型的才能来稳健地阅览文本,咱们发现即使是手写文本的相片也常常能诈骗模型。他们指出,这类进犯类似于能够诈骗商业机器视觉系统的“对抗性图画”,但制造起来要简略得多。

对抗性图画对依靠机器视觉的系统来说是一个真实的风险。例如,研讨人员现已标明,他们能够诈骗特斯拉自动驾驶汽车上的软件,在没有正告的情况下改动车道,而这全部只需在道路上张贴某些贴纸。这种进犯对各种人工智能使用都构成了严重威胁。

但这次突击所带来的风险,至少现在没有什么可忧虑的。这个OpenAI软件是一个名为CLIP的试验系统,没有布置在任何商业产品中。事实上,CLIP不寻常的机器学习架构的实质,造成了使这次进犯成功的缺点。

该项目旨在探究人工智能系统怎么经过在巨大的图画和文本对数据库上进行练习,在没有亲近监督的情况下学会辨认物体。在这种情况下,OpenAI使用了从互联网上抓取的约4亿对图画和文本,在1月份推出了train CLIP。

这个月,OpenAI的研讨人员宣布了一篇新论文,描绘了他们怎么翻开CLIP来调查它的体现。他们发现了所谓的“多模态神经元”——机器学习网络中的单个组件,不只会对物体的图画做出反响,还会对草图、卡通和相关文本做出反响。

这令人兴奋的原因之一是,它好像反映了人类大脑对影响的反响,调查到单个脑细胞对笼统概念而不是详细比如做出反响。OpenAI的研讨标明,人工智能系统可能会像人类相同内化这些常识。

在未来,这可能会导致更杂乱的视觉系统,但现在,这类办法还处于起步阶段。只需个人就能差异苹果和一张写有“苹果”纸条之间的差异,但像CLIP这样的软件却不能。相同,答应程序在笼统层次上衔接文字和图画的才能也造成了这个共同的缺点,OpenAI将其描绘为“笼统错误”。

译/前瞻经济学人APP资讯组

参阅资料:https://www.theverge.com/2021/3/8/22319173/openai-machine-vision-adversarial-typographic-attacka-clip-multimodal-neuron

更多相关数据请参阅前瞻工业研讨院《2020-2025年我国人工智能职业商场前瞻与出资战略规划剖析陈述》。一起前瞻工业研讨院供给工业大数据、工业规划、工业申报、工业园区规划、工业招商引资、IPO募投可研等解决方案。

相关深度陈述 REPORTS

2020-2025年我国人工智能职业商场前瞻与出资战略规划剖析陈述 2020-2025年我国人工智能职业商场前瞻与出资战略规划剖析陈述

本陈述使用前瞻资讯长时间对人工智能职业商场盯梢收集的一手商场数据,选用与世界同步的科学剖析模型,全面而精确地为您从职业的全体高度来架构剖析系统。本陈述首要剖析了...

检查概况

咨询中心