内容简介：MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称：“Norman遭受了长时间暴露在Reddit最黑暗的角落，并代表了一个案例研究——当有偏差的数据用于机器学习算法时，人工智能可...
MIT研究人员故意创建Norman来证明用于训练AI的数据可以显著影响其行为。研究人员解释称：“Norman遭受了长时间暴露在Reddit最黑暗的角落，并代表了一个案例研究——当有偏差的数据用于机器学习算法时，人工智能可能会出错。”
“Norman是一个人工智能，被训练执行图像字幕，这是一种流行的深度学习方法，用于生成图像的文字描述。我们从一个臭名昭著的subreddit训练Norman关于图像标题的内容，专门用于记录和观察令人不安的死亡现实。然后，我们将Norman的反应与专门用于罗夏墨迹的标准图像字幕神经网络（在MSCOCO数据集上训练）进行了比较; 一个用于检测潜在的思维障碍的测试。”
结果是令人不安的。
另一方面，这并不令人感到意外。大约两年前，微软的“Tay”AI聊天机器人在上线短短一天后就成为暗黑系种族主义者。
来源：cnbeta
【声明】文章转载自：开源中国社区 [http://www.oschina.net]
以上就是本文的全部内容，希望对大家的学习有所帮助，也希望大家多多支持 码农网
本站部分资源来源于网络，本站转载出于传递更多信息之目的，版权归原作者或者来源机构所有，如转载稿涉及版权问题，请联系我们。
