尽管现代人工智能经常因其日益成熟期的展现出而受到赞扬，但它与“世界末日”等的字眼扯上关系的时候更加多，即人工智能革命将使数以百万计的工作构建自动化，避免现实与技巧之间的障碍，并最后被迫人类南北绝种的边缘。不过，就目前而言，大多数人工智能的能力受限，不能在经过专门培训的特定领域简单，比如对局，或是翻译成。用一个机器人去已完成其能力之外的任务，往往不会获得滑稽可笑的结果——这才是是用于 ImageNet Roulette（基于 ImageNet的人物类别训练 AI 工具）的体验所在。艺术家兼任研究人员 Trevor Paglen 与人工智能研究人员 Kate Crawford 联合打造出了“Training Human 图像识别系统史展出”， ImageNet Roulette 也在展出中扮演着最重要角色。

针对该展出举行的目的，Trevor Paglen 说明说道，该展出目的研究人工智能当前的形式，以及它简单的学术和商业历史，而不是对其展开评判。另一位创办人 Kate Crawford 也曾回应：两年前，我们开始构想这个展出的时候就想通过计算机视觉和 AI 系统对人像的辨识来展出图像识别史。

我们对人工智能的抹黑营销，以及未来反乌托邦机器人的故事都不感兴趣，只想贯彻地理解 AI。为了超过目的，我们就必需摸明白图像识别系统的运作方式，并且严肃缜密地对待用作训练的图片——这是机器视觉发展的最重要因素。从或许上来说，这个项目意义根本性，即便 ImageNet Roulette 的展现出展出了 AI 诙谐的一面。

例如右图：测试人员回应自己不吸烟，但 ImageNet Roulette 却将其标记为 Pipe Smoker（吸烟者）(公众号：)录：上面二图来自 The Verge测试人员于是以躺在自己的办公室内，ImageNet Roulette 却指出其坐落于机舱中，并将其标记为 steward，flight attendant（空乘人员）。实质上，ImageNet Roulette 的问世就是为了让公众更为确切地理解关于机器学习系统；它的背后，也构建了来自各方的“力量”。

得知，ImageNet Roulette 用于了开源的 Caffe 深度自学框架（由加州大学伯克利分校研发），该框架针对“人员”类别中的图像和标签展开培训。当用户上载照片时，应用程序首先运营人脸检测器来定位人脸；瞄准之后，就不会将人脸信息发送到 Caffe 模型展开分类；然后在原图边界板表明检测到的人脸和分类器分配给图像的标签。该项目的启动也有一部分原因是为了引人注目 ImageNet 将人标记为“problematic”（有问题的）和 “offensive”（侮辱的）等缺失。Twitter上就有过这样的例子，一些上载照片的男性被随机标记为“强奸嫌疑人”。

Trevor Paglen 回应，这对于该项目所特别强调的主题之一至关重要，即人工智能系统的不可靠性。ImageNet 数据集中于包括了许多诸如“有问题的”、“攻击性的”和“古怪的”，甚至是“厌女症”、“种族歧视”等类别，而这些众说纷纭都来自 WordNet。

由于 ImageNet Roulette 的结果基于 ImageNet，这些类别也将在 ImageNet Roulette 的结果中经常出现。不过，从另一方面来说，这岂不是件好事——这需要解释，基于有问题的数据而展开训练，获得的结果近于有可能也是有问题的。ImageNet Roulette 让人们直观地看见机器“受罚”，这种情况很少闻，要告诉，人工智能对人类对象的分类结果完全会对被分类的对象公开发表。

小结尽管在有些时候，ImageNet Roulette 的“受罚”看上去是一种有意思的玩乐，但它传送出来的信息却让人深感些许沮丧。有一点高兴的是，这个项目最少探寻了两个至关重要的问题，即人类如何通过训练集来说明和展出信息，以及技术系统如何接管和用于信息。

原创文章，予以许可禁令刊登。下文闻刊登须知。

本文来源：万金体育-www.yuntidun.com