人工智能会隐藏数据欺骗人类 这真的是因为计算机变聪明了吗？

在斯坦福和谷歌的一项研究中，呈现了一个让人啼笑皆非的功效。该研究中，研究职员让一呆板进修署理将航空画面转换为街道舆图，功效竟发明部门信息被署理警惕翼翼地潜匿了。

这一发明声名白计较机发现以来一向存在的一个题目，那就是计较机只会严酷执行你的呼吁。

研究职员最初的目标是加速和改造将卫星图像转换为谷歌舆图的进程，为此团队行使了CycleGAN神经收集，该收集通过大量试验，可以或许只管高效精确地将X型和Y型图片转换为其余图片。

在早期的功效中，署理都完成得不错，可能说看起来还不错。让团队留意到题目的，是在署理用街道舆图重建航空图片时，呈现了很多在街道舆图上没有的细节。好比，屋顶上的天窗就在转换进程中，从街道舆图上被隐去，但又在逆向转换后神奇地呈此刻了航空图片中。

图A为航空拍摄画面，图B为转换后的街道舆图，图C为从图B逆向转换出的航空拍摄画面，可以看出图A和C中的很多小点都没有在B中获得泛起。

固然团队很难细心搜查神经收集的转换进程，但可以调查其天生的数据。团队在一些试验中，发明CycleGAN确实让转换进程更快了。

团队原来是想让署理先辈修种种舆图的特性，并将这些特性正确地匹配到种种舆图上。但署理现实做的，是进修了航空图像与现实地貌有多相像，以及街道舆图有多清楚。

也就是说，署理着实没有进修怎样转换舆图，它学会的是怎样过细地将一种图的特性编码编入另一种更伟大的图像。航空图像的细节着实被奥秘地编入了街道舆图中，用上千种有渺小区此外颜色区分，固然计较机可以轻松区别这些颜色，但人眼无法辨认。

现实上，计较机颠末大量进修，相识了怎样将航空图像的内容编入街道舆图，它乃至都不必要“真实的”街道舆图，全部用于重建航空图像的数据都可以神不知鬼不觉地编入街道舆图，乃至可以用另一张完全差异的街道舆图还原航空图像。

上图中D就是现实编入左侧舆图中的航空图像。图C是将计较机编入的图片区别可视化的功效，可以看到可视化后的图像与航空图像有相似之处，但假如不颠末可视化，就完全看不出航空图像的影子。

这种将数据编入图像的做法并不奇怪，名为隐写术，给图片加水英给照片加元数据配置时城市用到。但计较机为了完成使命而本身缔造隐写要领，照旧相等奇怪的征象。

也许有人会以为这声名“呆板越来越智慧了”，但究竟其拭魅正好相反。呆板就是由于不足智慧，才无法现实完成将伟大图像转换为另一种的坚苦使命，以是找到了一种人类不易察觉的方法来冒充完成了使命。假如研究职员能更严酷地对署理得出的功效举办检察，那就可以停止这种环境的产生。

如往常一样，计较机做的事就是人类呼吁其做的，以是在人类下呼吁时，必需越发精准。从CycleGAN的功效可以看入迷经收集也许存在的一些瑕玷，例如说，只要计较机没有获得明晰的榨取呼吁，那就不会停止某些举动，只会只管快速、浅显地办理题目。

因此，这次研究团队发明的功效，其拭魅照旧传统的PEBKAC题目，也就是“人类呼吁到计较机办理之间的题目”，可能说HAL题目，也就是“统统只会是人类的错误”。

（编辑：湖南网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!