人工智能带来的启示——人生的算法,丢弃?还是跳跃

最近看到人工智能的算法,觉得非常有意思。这些算法实质上是机器选择和处理信息的抽象方法,完全可以套用在个人身上。

印象深刻的是两个算法:丢弃算法【dropout】和跳跃链接【shortcut connection】。

 

丢弃算法

丢弃算法的具体实施,是在每次培训中,给每个神经元一定的几率 (比如 50%),假装它不存在,计算中忽略不计。

丢弃算法,简单来说就是强行封印自己的部分能力,然后调用其他能力解决问题。

我对丢弃算法的理解是:每个人做事都有一套三板斧。每次都用这三板斧,就叫路径依赖;三板斧一扔,就没有别的技能了,漫画里就只能等死了。

当你克制自己部分的能力,调用其他能力解决问题时,那么人就能创造出几套三板斧,这些三板斧套用起来,招式更多了。

不过这种丢弃算法,我认为只有建立在原有三板斧已经非常好用的情况下,才能采用这种丢弃算法。不然每套三板斧都辣鸡,反而拖累处理信息的进度。

目前我认为最优的处理方法是,直接copy你见过的最好用的三板斧,找到最适合自己那套方法,再利用丢弃算法,完善自己的处理流程。这样不至于在一棵树上吊死,也不会被繁复的技能所累。

 

跳跃链接

跳跃链接是把底层的输出值每隔几层跳跃直接传递成更高层的输入,这样有效的信息不会在深层网络中被淹没。

这个就更简单了。皇帝微服私访见过吧?本来这类事情,应该由臣子呈奏折给皇帝看。但是草民跳过了过滤机制,直接将信息传递给了皇上。

 

人工智能带来的启示——人生的算法,丢弃?还是跳跃

 

传播学里面有个著名的香农-韦弗传播模式,它认为,噪音是不好的东西,干扰受众对信息的完整接收。

人工智能的算法里面,处理噪音反而能带出新的信息。

这两者的差别在于,传播学是只期望受众接收特定的信息,相当于程序中的某一个方法。人工智能,是要处理多种信息,获得最优解,相当于一个抽象接口,其中包含很多方法。

 

这种跳跃链接带来的启示是:噪音其实是另一种类型的信息。过多的噪音会使得大脑信息过载。

主动接触不同的信息源非常重要,这样可以带来不同的视角,而且一定要是一手的信息源。

兼听则明,偏听则暗,开放的心态可以容纳部分噪音,并能听到这些噪音里面的信息。

 

所以反过来说,个人的意见要尽量发表出来,万一哪天被听见了呢。

这种算法套用在自己身上就是,个人要保持开放的心态,接触一手的,多方面的信息源。同时,个人的想法、总结的经验也要分享出来,也许有人正需要你以为的、微不足道的信息。