来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

栏目: 数据库 · 发布时间: 4年前

内容简介:有人把一篇来自论文的主人

挖栗子 发自 凹非寺

量子位 报道 | 公众号 QbitAI

有人把一篇来自 1976年 的论文刨了出来,仅一日的工夫已在推特上收获了 400多赞

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

论文的主人 Geoffrey Hinton ,许多年后成了神经网络之父,还获得了图灵奖。

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

如今,回看他的 第一篇论文 ,颇有一番风味。

这篇论文探索的问题是,给你一堆互相重叠的长方形,怎样才能从里面找出一只“ 人偶 (Puppet) 

举个栗子如下,标了字母的就是人形的可能组成部分:

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

所以,为什么会想做这样画风清丽的任务啊?

松弛,松弛一下

首先了解一下问题。

就像开头展现的一样,人偶都是 侧面 的,并且有许多严格的规定:

每个部位都要有 近端远端 ,近端就是离头近的那一端。

躯干必须必四肢都粗,下肢要比上肢粗,头和躯干要比脖子粗。

头要比脖子面积大……

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

我没有脖子

如果只考虑和一个方块相邻的那些方块:有些方块就可能被许多身体部位争着选,有些部位可能什么部位都选不上。

而松弛算法可以加深AI对空间的理解:从互相冲突的 局部解释 (Local Interpretations) 中,找到 最佳的全局图形 (Globally Best Figures) 。

论文还列举了这种方法的三大优点:

一是 用并行计算的话,可以快速得出最佳全局解释。花费的时间,并不是随着局部可能性的数量指数增长的,因为并没有显式 (Explicitly) 处理各种可能的组合。

二是 需要的计算空间,也只会随着可能性的数量线性增长,这样就不像广度优先的搜索那样暴力,会轻松许多。

三是 这里能得出全局最佳,而不像启发式搜索 (Heuristic Search) 那样,只找出还算不错的结果。

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

那么,来看看松弛算法的表现如何。

没用松弛的时候,会找出一大堆可能性 (下图) 。

而且各种部位都给了太多选项:比如“ 上臂GHIJK ”。

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

然后,加上松弛步骤:

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

就只剩下一种最佳可能性了。

F躯干,脖子D,上肢GE,下肢KI:

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

看上去科学了许多啊。

40多年的胶囊

看了论文,网友纷纷想到了2017年Hinton提出的 胶囊网络 ,这种新方法,也是用来解决神经网络不会自己判断空间信息的问题。

这不是胶囊吗?

原来,他一直在做胶囊啊。

蟹蟹你,胶囊。

1976论文传送门:

https://www.cs.toronto.edu/~hinton/absps/puppet.pdf

— 完 —

小程序|get更多AI学习干货

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

加入社群

量子位AI社群开始招募啦,量子位社群分:AI讨论群、AI+行业群、AI技术群;

欢迎对AI感兴趣的同学,在量子位公众号(QbitAI)对话界面回复关键字“微信群”,获取入群方式。(技术群与AI+行业群需经过审核,审核较严,敬请谅解)

来自1976,Hinton写的第一篇论文火了:胶囊网络,是40年前的胶囊?

量子位  QbitAI · 头条号签约作者

վ'ᴗ' ի 追踪AI技术和产品新动态

喜欢就点「在看」吧 !


以上就是本文的全部内容,希望本文的内容对大家的学习或者工作能带来一定的帮助,也希望大家多多支持 码农网

查看所有标签

猜你喜欢:

本站部分资源来源于网络,本站转载出于传递更多信息之目的,版权归原作者或者来源机构所有,如转载稿涉及版权问题,请联系我们

程序员代码面试指南:IT名企算法与数据结构题目最优解(第2版)

程序员代码面试指南:IT名企算法与数据结构题目最优解(第2版)

左程云 / 电子工业出版社 / 109.00元

《程序员代码面试指南:IT名企算法与数据结构题目最优解(第2版)》是一本程序员代码面试"神书”!书中对IT名企代码面试各类题目的最优解进行了总结,并提供了相关代码实现。针对当前程序员面试缺乏权威题目汇总这一痛点,本书选取将近300道真实出现过的经典代码面试题,帮助广大程序员的面试准备做到接近万无一失。"刷”完本书后,你就是"题王”!《程序员代码面试指南:IT名企算法与数据结构题目最优解(第2版)》......一起来看看 《程序员代码面试指南:IT名企算法与数据结构题目最优解(第2版)》 这本书的介绍吧!

图片转BASE64编码
图片转BASE64编码

在线图片转Base64编码工具

SHA 加密
SHA 加密

SHA 加密工具

HEX CMYK 转换工具
HEX CMYK 转换工具

HEX CMYK 互转工具