AI大佬“互怼”：Bengio和Gary Marcus隔空对谈深度学习发展现状
ÃÂ ÃÂ ÃÂ ÃÂ ÃÂ
ç¼Âè¯Âà| AIç§ÂæÂÂ大揥ç¼Âè¾Âé¨
åºå | AIç§ÂæÂÂ大揥ï¼ÂID:rgznai100ï¼Â
ÃÂ
å»年以æÂ¥ï¼Âç±äºÂ纽约大å¦æÂÂæ Gary Marcus 对深度å¦习æ¹è¯Âï¼Â导è´ä»Âå¨社交åªÂä½Âä¸Âä¸Â许å¤ÂçÂ¥åÂÂç AI ç Â究人åÂÂ妠Facebook é¦Â帠AI ç§Âå¦家 Yann LeCun è¿Âè¡ÂäºÂä¸Âåº论æÂÂãÂÂ
ÃÂ
ÃÂ
10 æ 11æÂ¥ï¼ÂYoshua Bengio å¨ Facebook äºÂ以åÂÂåºÂï¼Â两人就 AI Ã¥ÂÂ深度å¦习çÂÂÃ¥ÂÂå±Âç°ç¶è¿Âè¡ÂäºÂä¸ÂæÂ¥ä¸ÂÃ¥ÂÂçÂÂâÂÂäºÂæ¼âÂÂãÂÂ
ÃÂ
Gary MarcusÃ¥ÂÂ欢å¨æÂÂè°Â论æÂÂç®åÂÂçÂÂç Â究计åÂÂæ¶å¼Âç¨æÂÂçÂÂè§Âç¹ï¼Â该计åÂÂè°Âå°äºÂç Â究深度å¦习系ç»ÂçÂÂå¼±ç¹, à以便å¨æ´é«Â水平认çÂ¥åÂÂæ´大ç»ÂÃ¥ÂÂ(Ã¥ÂÂç³»ç»Â)æ³ÂÃ¥ÂÂä¸Â建ç«Âæ´强çÂÂç³»ç»Â, Ã¥ÂÂæ¬å¤ÂçÂÂå æÂÂå³系åÂÂæ¨çÂÂãÂÂä»Âä¸ÂÃ¥ÂÂæÂÂYann LeCun, Geofrey HintonÃ¥ÂÂæÂÂ说è¿ÂçÂÂè§Âç¹ï¼Âå³ç¥Âç»Âç½Âç»Âç¡®å®Âå¯以æÂÂ为计ç®Âæºä¸Âæ´åÂÂæ´å¤Â认çÂ¥è½åÂÂçÂÂä¸Â个"éÂÂç¨溶åÂÂï¼Âuniversal solventï¼Â"ãÂÂÃÂ
ä»Âæ´åÂÂ欢æÂÂ深度å¦习å±ÂéÂÂäºÂæÂÂçÂÂ¥, 并éÂÂè¦Âä¸Â符å·å¤ÂçÂÂç¸ç»ÂÃ¥ÂÂï¼ÂæÂÂæÂÂç¹ä¸ÂÃ¥ÂÂæÂÂè¿Âç§Âè§Âç¹ãÂÂæÂÂÃ¥ÂÂæÂÂGOFAIçÂÂç®æ Âæ¯éÂÂè¦ÂçÂÂ(å°±åÂÂæÂÂè½åÂÂæ§è¡Âç³»ç»Â2认çÂ¥çÂÂ顺åºÂæ¨çÂÂç¹å¾Â) ï¼Âä½ÂæÂÂç¸信, ä»Â们å¯以å¨ä¿ÂæÂÂ深度å¦习æ¡Âæ¶çÂÂÃ¥ÂÂæ¶å®ÂæÂÂè¿ÂäºÂç®æ Âï¼Â尽管该æ¡Âæ¶大éÂÂ使ç¨äºÂ注æÂÂÃ¥ÂÂæºå¶ï¼ÂæÂÂçÂÂâÂÂæÂÂè¯ÂÃ¥ÂÂéªÂâÂÂç Â究计åÂÂï¼Â以åÂÂæ°æ¶æÂÂï¼Âä¾Âå¦Â模åÂÂÃ¥ÂÂï¼ÂÃ¥ÂÂè®Âç»Âæ¡Âæ¶ï¼Âä¾Âå¦ÂÃ¥ÂÂå¦习ï¼ÂãÂÂ
æÂÂæ¢æÂÂèµÂçÂÂæ¯, å°Â深度ç½Âç»ÂçÂÂè¾Âåº离æ£åÂÂç¶åÂÂä¼ éÂÂå°GOFAI符å·å¤ÂçÂÂç³»ç»ÂçÂÂç®ÂÃ¥ÂÂç»ÂÃ¥ÂÂå°Âä¸Âä¼Âå¥ÂæÂÂãÂÂ为ä»Âä¹Â? æÂÂå¾Âå¤ÂÃ¥ÂÂå ï¼Â(1)ä½ éÂÂè¦Âå¨系ç»Â2Ã¥ÂÂç³»ç»Â1ä¸Âè¿Âè¡Âå¦习, (2)ä½ è¿ÂéÂÂè¦Âå¨å¶ä¸Â表示ä¸Âç¡®å®Âæ§ï¼Â(3)è®åÂÂæÂÂç´¢(符å·å¤ÂçÂÂç³»ç»ÂçÂÂ主è¦Âæ¨çÂÂå·¥å·)æ æ³Âscale, èÂÂæ¯人类使ç¨æ æÂÂè¯Â(ç³»ç»Â1)è¿Âè¡Âå¤ÂçÂÂ, 以æÂÂ导æ¶ÂÃ¥ÂÂæ¨çÂÂçÂÂæÂÂç´¢, æÂÂ以系ç»Â1Ã¥ÂÂç³»ç»Â2éÂÂ常紧å¯Âå°éÂÂÃ¥ÂÂå¨ä¸Âèµ·, (4)ä½ çÂÂ大èÂÂä¸Âç´æ¯ä¸Â个ç¥Âç»Âç½Âç»ÂãÂÂ
ÃÂ ÃÂ ÃÂ ÃÂ ÃÂ
10 æ 13 æÂ¥ï¼ÂGary Marcus å¨ Medium ä¸ÂÃ¥ÂÂå¸ÂäºÂç» Bengio çÂÂå¬å¼Âä¿¡é¿æÂÂï¼Âä»Âä»Âè§Âç¹ä¸Âè´ï¼ÂAgreementsï¼ÂãÂÂÃ¥ÂÂæ§ï¼ÂDisagreementsï¼ÂãÂÂ鸿æ²Âï¼ÂGapsï¼ÂãÂÂäºÂ论ï¼ÂBones to Pickï¼ÂÃ¥ÂÂ个æ¹é¢表达äºÂä»ÂçÂÂè§Âç¹ãÂÂä»Â表示ï¼Âä»Â们俩人è§Âç¹ç¸åÂÂå¤ÂäºÂè§Âç¹ç¸左俩人ï¼Âä½Âæ 论è§Âç¹ä¸Âè´è¿Âæ¯åÂÂæÂÂÃ¥ÂÂæ§ï¼Âä»Âå¸ÂæÂÂä»Â们çÂÂäºÂ论è½å¤Â对 AI é¢ÂÃ¥ÂÂÃ¥ÂÂå±Â带æÂ¥å¯åÂÂãÂÂ
ÃÂ ÃÂ ÃÂ ÃÂ 
ÃÂ ÃÂ ÃÂ ÃÂ ÃÂ
以ä¸Â为å¬å¼Âä¿¡å¨æÂÂï¼ÂAIç§ÂæÂÂ大揥ï¼ÂID:rgznai100ï¼Âç¼Âè¯Âï¼Â
ÃÂ
亲ç±çÂÂYoshuaï¼Â
ÃÂ
æÂÂ谢你å¨ Facebook ä¸ÂÃ¥ÂÂåºçÂÂÃ¥ÂÂåºÂï¼ÂæÂÂå¨è¿Â份信ä¸Âå¼Âç¨äºÂé£段æÂÂÃ¥ÂÂï¼Â并表达æÂÂèª己对å®ÂçÂÂæ³æ³ÂãÂÂæÂÂ谢你æ½åºå®Âè´µæ¶é´å³注è¿ÂäºÂé®é¢ÂãÂÂ
ÃÂ
æÂÂ认为ï¼Âä½ ä¸ÂæÂÂçÂÂè§Âç¹ç¸åÂÂå¤ÂäºÂè§Âç¹ç¸左ï¼Â并ä¸ÂÃ¥ÂÂä½ ä¸Âæ ·ï¼ÂæÂÂä¹Âå¸ÂæÂÂæÂÂ们çÂÂæÂÂè§ÂÃ¥ÂÂÃ¥ÂÂæ§è½å¤Â让è¿Â个é¢ÂÃ¥ÂÂÃ¥ÂÂçÂÂãÂÂ
ÃÂ
è§Âç¹ä¸Âè´
ÃÂ
- å°±å¶æ¬身èÂÂè¨Âï¼Â深度å¦习æ¯ä¸Âç§ÂæÂÂä»·å¼çÂÂå·¥å·ï¼Âä½Âä»Âç®åÂÂçÂÂå½¢å¿æÂ¥çÂÂï¼Â深度å¦习æ¬身ä¸Â足以使æÂÂ们达å°éÂÂç¨æºè½ãÂÂ
ÃÂ
- å½ÂÃ¥ÂÂçÂÂ深度å¦习æÂÂæ¯éÂÂ常ä¼Â产çÂÂè¤æµÂçÂÂç»ÂæÂÂï¼Âä¸Âæ³ÂÃ¥ÂÂæ§è¾Âå·®ãÂÂèª1992å¹´æÂÂé¦Â次åÂÂ表æÂÂ章以æÂ¥ï¼ÂæÂÂå°±ä¸Âç´å¨表达è¿Âä¸Âç¹ï¼Â并ä¸Âå¨æ 2012 年为ãÂÂ纽约客ãÂÂÃ¥ÂÂçÂÂ第ä¸Âç¯Âå¬å¼Âè¯Â论ä¸Â就对深度å¦习å±ÂÃ¥ÂÂ表äºÂ详ç»Âè§Âç¹ãÂÂè¿Âä¹Âæ¯æÂÂ2001å¹´å³äºÂ认çÂ¥ç§Âå¦书ç±ÂçÂÂéÂÂç¹ãÂÂèÂÂä½ è¿ÂæÂÂÃ¥ÂÂ表å¨ arXiv ä¸ÂçÂÂ论æÂÂãÂÂA Meta-Transfer Objective for Learning to Disentangle Causal MechanismsãÂÂçÂÂä»Âç»Âä¹Âæ°好ä¸ÂãÂÂThe Algebraic MindãÂÂçÂÂ主æ¨ç¸å¼åºÂï¼Âé½æÂÂåºè¿Âä¸Âè§Âç¹ï¼Â对许å¤Â常è§ÂçÂÂç¥Âç»Âç½Âç»Âæ¥说ï¼Âå¨è®Âç»Â空é´ä¹Âå¤Âè¿Âè¡Âæ³ÂÃ¥ÂÂï¼Âæ¯ä¸Â项æÂÂæÂÂãÂÂ
ÃÂ
- æÂÂ们两人é½åÂÂæÂÂ纳åÂ¥å æÂÂå³系çÂÂéÂÂè¦Âæ§ãÂÂæ°åÂÂå¹´æÂ¥ï¼ÂJudea Pearl ä¹Âä¸Âç´å¨强è°Âè¿Â个é®é¢Âï¼Â2012å¹´ï¼ÂæÂÂæ³æÂÂä¹Â许æ¯第ä¸Â个å¨ãÂÂ纽约客ãÂÂçÂÂæÂÂç« ä¸ÂéÂÂ对深度å¦习é¢ÂÃ¥ÂÂ强è°Âè¿Âä¸Âé®é¢ÂçÂÂ人ãÂÂ
ÃÂ
- 对âÂÂçÂÂ解å¦Âä½Âå°Âè¿Âç»ÂçÂÂàâÂÂ第äºÂç³»ç»ÂâÂÂ[âÂÂSystem IIâ (KahnemâÂÂs term)]æ¨çÂÂï¼ÂæÂÂÃ¥ÂÂ欢称ä¹Â为审议æ¨çÂÂ[deliberative reasoning]ï¼Â纳å¥人工æºè½çÂÂå·¥ä½ÂæµÂç¨Âæ¯è³å³éÂÂè¦ÂçÂÂâÂÂè¿Âä¸ÂçÂÂæ³ÂæÂÂä¹Â认åÂÂä½ çÂÂ说æ³ÂãÂÂç»Âå¸ AI æÂÂä¾ÂäºÂä¸Âç§Âæ¹æ³Âï¼Âä½Âå¶æÂÂçÂÂæ¾èÂÂå°å±ÂéÂÂæ§ï¼Âæ¢索å¶ä»Âæ¹æ³Âè¯å®Âæ¯ä¸Â件æÂÂ趣çÂÂäºÂæÂÂãÂÂ
ÃÂ
- 你建议ç»ÂÃ¥ÂÂå¾Âå¤ÂæÂÂæ¯ï¼Âç¹å«æ¯注æÂÂÃ¥ÂÂãÂÂ模åÂÂÃ¥ÂÂÃ¥ÂÂÃ¥ÂÂå¦习ï¼Âè¿Âå¯è½ä¼Âå¾ÂæÂÂ帮å©ãÂÂæÂÂä¹ÂÃ¥ÂÂçÂÂ匸就对åÂÂå¦习æÂÂå¾Â大çÂÂå´趣ï¼ÂæÂÂä¹ÂÃ¥ÂÂä¿¡éÂÂè¦Â模åÂÂÃ¥ÂÂÃ¥ÂÂæÂÂ建æ´ç»ÂæÂÂÃ¥ÂÂçÂÂ模åÂÂï¼ÂæÂÂä¸Âç¡®å®Â你对åºäºÂ代çÂÂçÂÂè§Âå¾æÂÂä½ÂçÂÂæ³Âï¼Âå¨æÂÂçÂÂæÂ¥è¿Âæ¯åÂÂçÂÂçÂÂãÂÂ
ÃÂ
Ã¥ÂÂæ§
ÃÂ
ä½ ä¼¼ä¹Â认为æÂÂå¨æÂÂå¡ä¸Âç§ÂâÂÂç®ÂÃ¥ÂÂæ··åÂÂçÂÂæ¹æ³Âï¼Âå°Â深度å¦习ç½Âç»ÂçÂÂè¾Âåºç»ÂæÂÂ离æ£åÂÂç¶åÂÂä¼ éÂÂç» GOFAI符å·å¤ÂçÂÂç³»ç»ÂâÂÂï¼Âä½ÂæÂÂä»ÂæªæÂÂåºè¿Â类似çÂÂè§Âç¹ãÂÂæÂÂå¨åÂÂæ¯æÂÂæ··åÂÂæ¹å¼Âï¼Âä½ÂæÂÂ认为æÂÂ们éÂÂè¦Âä¸ÂäºÂæ´精å¦ÂçÂÂä¸Â西ï¼ÂæÂÂä¹Âä»Âä¸Â认为å¤ÂçÂÂçÂÂæ ¸å¿Âæ¯ GOFAI çÂÂè§Âç¹ãÂÂç¸åÂÂï¼ÂDavis Ã¥ÂÂæÂÂæÂÂè¿Âå¨书âÂÂ常è¯Âä¸Â认çÂ¥âÂÂç« èÂÂä¸Âä¹Â对æ¤æÂÂåºäºÂè´¨çÂÂï¼ÂæÂÂ们æÂÂåºäºÂä¸Âç§Âè¶Âè¶Âç°æ GOFAI Ã¥ÂÂ深度å¦习çÂÂç®ÂÃ¥ÂÂç»ÂÃ¥ÂÂçÂÂæ··åÂÂæ¹æ³ÂãÂÂæÂÂÃ¥ÂÂæÂÂæÂÂ们éÂÂè¦Â毠GOFAI æ´丰å¯ÂçÂÂãÂÂä¸Âç¡®å®Âæ§çÂÂæ¦Â念ï¼ÂÃ¥ÂÂæ¶ä¹ÂÃ¥ÂÂä½ ä¸Â样认为éÂÂè¦Âå°Âæ´å¤ÂçÂÂå¦习纳åÂÂ¥ System 2ï¼Âä½ÂæÂÂ个人ä¸Â认为深度å¦习éÂÂÃ¥ÂÂäºÂæ¤ãÂÂ
ÃÂ
ä¹Âå°±æ¯说ï¼ÂæÂÂ认为符å·å¤ÂçÂÂæÂÂæ¯æ¯è³å³éÂÂè¦ÂçÂÂï¼ÂæÂÂæ³你ä½Âä¼°äºÂå®ÂçÂÂä»·å¼ãÂÂ
ÃÂ
é¦ÂÃ¥ÂÂï¼Âä¸ÂçÂÂä¸ÂçÂÂå¾Âå¤ÂçÂ¥è¯Âé½æ¯éÂÂè¿Â符å·表达çÂÂï¼Âï¼Âå¦Âæ´个äºÂèÂÂç½Âä¸ÂçÂÂéÂÂç»ÂæÂÂÃ¥ÂÂæÂÂæ¬ï¼Âï¼Âå½ÂÃ¥ÂÂåºäºÂ深度å¦习çÂÂç³»ç»Â并没æÂÂÃ¥ÂÂÃ¥ÂÂå©ç¨çÂ¥è¯ÂãÂÂæÂÂå¯以åÂÂè¯Âå©åÂÂâÂÂæÂÂ马æ¯ä¸Âç§ÂæÂÂæ¡纹çÂÂ马âÂÂï¼Âä»Â们å¯以å¨ä¸Â次è¯ÂéªÂä¸Âå°±è·å¾Âè¿Âä¸ÂçÂ¥è¯Âï¼Â并æÂÂå®Âä¸Âä»Â们çÂÂæÂÂç¥系ç»Âç»ÂÃ¥ÂÂèµ·æÂ¥ãÂÂèÂÂç°å¨çÂÂç³»ç»Âæ æ³ÂÃ¥ÂÂå°ãÂÂ
ÃÂ
å¦ÂæÂÂ没æÂÂæÂÂç§Â符å·系ç»Âï¼ÂæÂÂä¸ÂçÂ¥éÂÂæÂÂä»Âä¹Â好æ¹æ³ÂÃ¥ÂÂèªç¶è¯Âè¨ÂçÂÂ解ï¼Âå 为è¿Âä¼¼ä¹Â忽çÂ¥äºÂ认çÂ¥ç§Âå¦ï¼Âè¯Âè¨Âå¦ï¼ÂçÂÂæ´个é¢ÂÃ¥ÂÂãÂÂè½ç¶深度å¦习å¨æºå¨翻è¯Âé¢ÂÃ¥ÂÂä¸ÂÃ¥ÂÂå¾ÂäºÂé¿足è¿Âå±Âï¼Âä½Âå¨æºè½对è¯Âé¢ÂÃ¥ÂÂÃ¥ÂÂçÂÂ并ä¸Âå¤Â好ãÂÂ
ÃÂ
èÂÂå®Â说ï¼ÂæÂÂçÂÂä¸ÂåºæÂÂä»Âä¹ÂÃ¥ÂÂÃ¥ÂÂæ§çÂÂçÂÂç±å°Â符å·系ç»ÂæÂÂé¤å¨éÂÂç¨人工æºè½çÂÂå·¥å·ä¹Âå¤Âï¼Âä½ å½Âç¶ä¹Â没è¿Â样说ãÂÂä½Âå¸Âé¢ä¸ÂçÂÂ软件ç»Â大é¨åÂÂä»Âç¶ç±符å·代ç Âç»ÂæÂÂï¼Â为ä»Âä¹Âä½ ä¼Âå¸ÂæÂÂå°Âå¦Âæ¤æÂÂæ¾æÂÂä»·å¼çÂÂå·¥å·æÂÂé¤å¨å®Âç°éÂÂç¨人工æºè½çÂÂæ¹æ³Âä¹Âå¤Âï¼Â
ÃÂ
æÂÂ认为你é«Âä¼°äºÂä¸Âç«Âå¼Âè´Âç©çÂÂæ¦Â念ãÂÂå½Âç¶ï¼Âå¦ÂæÂÂè½æÂÂä¸Â个åÂÂä¸ÂçÂÂæ¶æÂÂå¯以å®Âç°æÂÂæÂÂçÂÂ认çÂ¥æ¯å¾Â好çÂÂï¼Âä½Âæ¯æÂÂ认为è¿Âç§ÂæÂÂæÂÂæ¯ä¸Âç°å®ÂçÂÂãÂÂ认çÂÂ¥/éÂÂç¨æºè½æ¯ç±许å¤Âä¸ÂÃ¥ÂÂæÂÂæÂÂç»ÂæÂÂçÂÂå¤Âç»´äºÂç©ãÂÂç°æÂÂçÂÂ深度å¦习éÂÂ常æÂÂé¿æÂÂçÂ¥åÂÂç±»ï¼Âè¿Âæ¯任ä½Âæºè½çÂÂç©é½å¯以åÂÂçÂÂä¸Â件äºÂï¼Âä½Âä¸Â太éÂÂÃ¥ÂÂï¼Âç®åÂÂæÂÂæÂÂçÂÂï¼Âå¶ä»Âæ§质迥å¼ÂçÂÂé®é¢ÂãÂÂå°Âä¸Âç»Âå®Âä½Âæ å°Âå°ä¸Âç»Âé¢ÂÃ¥ÂÂç¡®å®ÂçÂÂç±»å«ä¸Âï¼Âæ£å¦Â深度å¦习æÂÂÃ¥ÂÂçÂÂé£样ï¼Â并ä¸ÂçÂÂÃ¥ÂÂäºÂä»Âæ éÂÂæ°éÂÂçÂÂå¥åÂÂä¸ÂçÂÂæÂÂæ°çÂÂ解éÂÂï¼Âä¹Âä¸ÂçÂÂÃ¥ÂÂäºÂå¶å®Âä¸Â个跨è¶Âå¤Â个æ¶é´尺度çÂÂ计åÂÂãÂÂæÂÂ们没æÂÂç¹å«çÂÂçÂÂç±认为深度å¦习å¯以å¾Â好å°解å³åÂÂ两类é®é¢Âï¼Âä¹Âä¸Âå¿Â认为æ¯Â个é®é¢Âé½æ¯ç¸åÂÂçÂÂãÂÂ
ÃÂ
å¨çÂÂç©å¦ä¸Âï¼ÂÃ¥ÂÂ人类è¿Âæ ·å¤ÂæÂÂçÂÂçÂÂç©ï¼ÂæÂÂ们ä¼ÂÃ¥ÂÂç°许å¤Âä¸ÂÃ¥ÂÂçÂÂ大èÂÂåºåÂÂï¼ÂæÂÂçÂÂå¾®å¦Âä¸ÂÃ¥ÂÂçÂÂåºå 表达模å¼Âï¼Â大å¤Âæ°解å³é®é¢ÂçÂÂæ¹æ³Âé½ä¾ÂèµÂäºÂç¥Âç»Âä½Âç³»ç»ÂæÂÂçÂÂä¸ÂÃ¥ÂÂÃ¥ÂÂéÂÂï¼Âè¿ÂäºÂÃ¥ÂÂéÂÂéÂÂ常éÂÂÃ¥ÂÂè¿ÂäºÂé®é¢ÂçÂÂæ§质ãÂÂå¨å·æÂÂä¸ÂÃ¥ÂÂ计ç®Â强度çÂÂç³»ç»Âä¹Âé´éÂÂéÂÂä¼¼ä¹Âæ¯人类æºè½çÂÂæ¬质ï¼Âå¨æÂÂçÂÂæÂ¥ï¼ÂæÂÂæÂÂå¤Âå¶å®Âæ´çÂÂä½Âç³»ç»ÂæÂÂä¼¼ä¹Âæ¯ä¸ÂÃ¥ÂÂå®ÂéÂÂçÂÂãÂÂ
ÃÂ
å¨你çÂÂæ¤åÂÂÃ¥ÂÂåºÂç»Âå°¾å¤Âï¼Âä½ ä¼¼ä¹ÂæÂÂ示çÂÂç±äºÂ大èÂÂæ¯ä¸Â个ç¥Âç»Âç½Âç»Âï¼ÂæÂÂ们å¯以æ¨æÂÂåºå®Âä¸Âæ¯ä¸Â个符å·æÂÂ纵系ç»ÂãÂÂä½Âæ¯ï¼ÂæÂÂ们ä¸ÂçÂ¥éÂÂ大èÂÂæ¯åªç§Âç¥Âç»Âç½Âç»Âï¼Â并ä¸ÂæÂÂ们ä»ÂÃ¥ÂÂç§Âè¯Âæ®ä¸ÂçÂ¥éÂÂç¥Âç»Âç½Âç»Âå¯以ï¼Âä¾Âå¦Âï¼Âç´æÂ¥å®Âç°ï¼Â符å·æÂÂ纵ï¼Âå¾çµæºãÂÂæÂÂ们ä¹ÂçÂ¥éÂÂï¼Â人类å¯以被è®Âç»ÂæÂÂ为符å·æÂÂ纵èÂÂãÂÂæ¯Âå½ÂÃ¥ÂÂè¿Âè®Âç»ÂçÂÂ人åÂÂè¿Âè¡Âé»è¾ÂãÂÂ代æ°æÂÂç©çÂÂå¦çÂÂå·¥ä½Âæ¶ï¼Âå¾ÂæÂÂæ¾ï¼Â人èÂÂï¼ÂæªçÂ¥ç»ÂæÂÂçÂÂç¥Âç»Âç½Âç»Âï¼Âå¯以è¿Âè¡Âä¸ÂäºÂ符å·æÂÂä½ÂãÂÂçÂÂæ£çÂÂé®é¢Âæ¯ï¼Âå®ÂæÂÂå¤ÂéÂÂè¦Âï¼Âå®Âå¦Âä½Âå¨大èÂÂä¸Âå®Âç°ï¼Â
ÃÂ
你对âÂÂç¥Âç»Âç½Âç»ÂâÂÂÃ¥ÂÂâÂÂ深度å¦习âÂÂæÂÂäºÂå«ç³Âå¶è¾ÂãÂÂæÂÂä¸Â认为两èÂÂæ¯ç¸åÂÂçÂÂæ¦Â念ï¼ÂæÂÂ认为深度å¦习åªæ¯æÂÂ建åÂÂè®Âç»Âç¥Âç»Âç½Âç»ÂçÂÂä¸Âç§Âæ¹å¼Âï¼Âä½Â并ä¸Âæ¯å¯ä¸Âä¸Âç§ÂãÂÂå®ÂÃ¥ÂÂ人类大èÂÂçÂÂå·¥ä½Âæ¹å¼Âç¸å³ï¼Âä¸ÂæªæÂ¥åÂÂ称ç¥Âç»Âç½Âç»ÂçÂÂå·¥ä½Âæ¹å¼Âç¸å³ãÂÂFodor and Pylyshynå¨å®Âç°è¿Âæ¥主ä¹Âï¼Â主张使ç¨ç¥Âç»Âç½Âç»ÂæÂÂ建å¾çµæºå¨ï¼ÂÃ¥ÂÂæ¶Âé¤è¿Âæ¥主ä¹Âï¼Âeliminative connectionistï¼Âæ¨å¨æÂÂ建ä¸Âä»Â使ç¨符å·æÂÂä½Âç³»ç»ÂæÂÂ建ç¥Âç»Âç½Âç»Âï¼Â两èÂÂé´åÂÂäºÂæÂÂç¡®çÂÂåºåÂÂãÂÂæÂÂä¸ÂæÂÂçÂÂä»»ä½Â对人工æºè½çÂÂæ¹å¼Âé½å¯以å¨ç¥Âç»Âç½Âç»Âä¸Âå®Âç°ï¼Âé®é¢ÂçÂÂå³é®æ¯âÂÂç¥Âç»Âç½Âç»ÂçÂÂæ¬质æ¯ä»Âä¹ÂâÂÂãÂÂè¿Â30å¹´æÂ¥ï¼ÂæÂÂä¸Âç´åÂÂ称ï¼Âä¸Â个å¯以æÂÂÃ¥ÂÂè·åÂÂä¸Â辺åÂÂçÂÂç¥Âç»Âç½Âç»ÂéÂÂè¦ÂÃ¥ÂÂæ¬对åÂÂéÂÂçÂÂæÂÂä½Âï¼Âå°±åÂÂæÂÂè¿Âä¸ÂäºÂå¯微ç¼Âç¨ÂæÂÂÃ¥ÂÂçÂÂä¸ÂäºÂå·¥ä½Âï¼ÂèÂÂ并éÂÂæ¯ä¸Â个ç®ÂÃ¥ÂÂå¤Âå±ÂæÂÂçÂ¥æºæÂÂÃ¥ÂÂçÂÂäºÂæÂÂãÂÂ
ÃÂ
æÂÂè§Âå¾Âä½ å³注çÂÂå æÂÂå³系太çÂÂéÂÂäºÂãÂÂ对ä¸Â个å 素对å¦ä¸Âå 素çÂÂå½±åÂÂç¨Â度è¿Âè¡Âå®ÂéÂÂ估计æ¯éÂÂè¦ÂçÂÂï¼Âä½Âä¹Âè¦ÂæÂÂè½å¾Âåºå æÂÂæ¨论çÂÂæºå¶ãÂÂä¾Âå¦Âï¼Âå¦Âä½ÂçÂÂ解奶éªåÂÂä¸Âå¨çÂÂåªä¸Âé¨åÂÂè´Âè´£å¨ä¸Âï¼Âå¨ä¸Âå¨ä¸ÂÃ¥ÂÂçÂÂå½¢ç¶å¦Âä½Âä¸Â奶éªå±Âä¹Âé´æÂÂä½Âå³系ï¼Âä»Âä»ÂæÂÂåºåÂÂæ´ÂÃ¥ÂÂ磨ç¢ÂçÂÂ奶éªé´çÂÂæÂÂå³èÂÂç¨Â度æ¯ä¸Âå¤ÂçÂÂãÂÂè¿ÂéÂÂå¯è½éÂÂè¦Âç»ÂÃ¥ÂÂæÂÂç§Âæ´丰å¯ÂçÂÂ符å·å¤ÂçÂÂç³»ç»Âï¼Âæ¯Âå¦Âå½æ°åÂÂä½ ç°å¨æÂÂä»ÂäºÂçÂÂå·¥ä½Âï¼Âç¨æ¥表示æ½象çÂÂæ¦Â念ãÂÂ
ÃÂ
鸿æ²Â
ä½ å®ÂéÂÂä¸Â并没æÂÂ说åº你对建ç«ÂÃ¥ÂÂéªÂçÂ¥è¯Âæ³æ³ÂçÂÂçÂÂæ³ÂãÂÂ对æÂÂæ¥说ï¼Âè¿Â个é®é¢Âç»Â对æ¯核å¿Âé®é¢Âï¼Âä½Âå®Âå¨æÂÂæ°çÂÂ深度å¦习ç Â究ä¸Â被忽çÂ¥äºÂã æÂÂ对你çÂÂÃ¥ÂÂ天ï¼Âinnatenessï¼ÂçÂ¥è¯ÂçÂÂçÂÂæ³Â以åÂÂä½ æ¯å¦认为åÂÂ深度å¦习å åÂ¥æ´å¤ÂçÂÂÃ¥ÂÂéªÂçÂ¥è¯ÂæÂÂ为åÂÂÃ¥ÂÂÃ¥ÂÂå±ÂçÂÂéÂÂè¦Âç»ÂæÂÂé¨åÂÂæÂÂå°好å¥ÂãÂÂ
äºÂ论
ÃÂ
æÂÂæ¶你误解äºÂæÂÂï¼ÂæÂÂ认为å¦ÂæÂÂä½ è½对æÂÂçÂÂå®ÂéÂÂç«ÂåºåÂÂåºåÂÂåºÂï¼Â对è¯Âå°Âä¼Âå¾Âå°æ¹åÂÂï¼Âè¿Â好è¿ÂäºÂ误解ãÂÂ举个ä¾ÂÃ¥ÂÂï¼Âä½ ä¼¼ä¹Â没æÂÂæÂÂè¯Âå° Rebooting AI éÂÂè¦ÂÃ¥ÂÂå¾Âå¤Âä½ åÂÂè¿ÂçÂÂäºÂæÂÂãÂÂä½ è¿Â样说ï¼Â
ÃÂ
ä¸Â个ç®ÂÃ¥ÂÂçÂÂæ··åÂÂï¼Âå¶ä¸ÂçÂÂè¾Âåºæ¯离æ£çÂÂ深度ç½Âç»Âï¼Âç¶åÂÂä¼ éÂÂå°ä¸Â个GOFAI符å·å¤ÂçÂÂç³»ç»Âå°Âä¸Âä¼ÂæÂÂæÂÂæÂÂãÂÂ为ä»Âä¹Âï¼ÂæÂÂå¾Âå¤ÂÃ¥ÂÂå ï¼Â1ãÂÂä½ éÂÂè¦Âå¨系ç»Â2Ã¥ÂÂç³»ç»Â1è¿Âè¡Âå¦习ï¼Â(2)ä½ è¿ÂéÂÂè¦Â表ç°åºä¸Âç¡®å®Âæ§â¦â¦âÂÂ
ÃÂ
å®ÂéÂÂä¸Âï¼ÂErnie Davis Ã¥ÂÂæÂÂæÂÂÃ¥ÂÂæ ·çÂÂè§Âç¹ï¼Â
ÃÂ
âÂÂâ¦â¦æÂÂå¨ç¼Âç Âæºå¨éÂÂè¦ÂçÂ¥éÂÂçÂÂæÂÂæÂÂä¸Â西å¯è½æ¯ä¸Âç°å®ÂçÂÂãÂÂæºå¨å°ÂéÂÂè¦Âèª己å¦习å¾Âå¤Âä¸Â西ãÂÂæÂÂ们å¯è½æ³è¦ÂâÂÂæÂÂå¨ç¼Âç ÂâÂÂéÂÂå©çÂÂ硬åÂÂçÂÂæÂ¥åÂÂå²æÂÂ软çÂÂæÂÂæÂÂï¼Âä½Â人工æºè½åºÂ该è½å¤ÂåºäºÂè¿Âä¸ÂçÂ¥è¯Âï¼Âå¦习åÂÂãÂÂå²èÂÂæºåÂÂæÂÂæÂÂæºçÂÂå·¥ä½ÂÃ¥ÂÂçÂÂï¼Âä½Âä¸ÂéÂÂè¦Â对è¿ÂäºÂæºå¨è¿Âè¡ÂæÂÂå¨ç¼Âç ÂãÂÂâÂÂ
ÃÂ
å³äºÂ第äºÂç¹ï¼ÂæÂÂ们ä¹Â强è°ÂäºÂä¸Âç¡®å®Âæ§åÂÂGOFAIçÂÂå¼±ç¹ï¼Â
ÃÂ
âÂÂæÂÂ们ä¸Âç´å¨讨论çÂÂé£ç§Âé»è¾ÂåªæÂÂä¸Â件äºÂÃ¥ÂÂå¾Âå¾Â好ï¼Âå®ÂÃ¥ÂÂ许æÂÂ们è·åÂÂæÂÂ们确å®ÂçÂÂçÂ¥è¯Âï¼Â并使ç¨æÂȾ¯æÂÂæÂÂçÂÂè§ÂÃ¥ÂÂæÂ¥æ¼Âç»ÂæÂÂ们ä¹Â确信çÂÂæ°çÂ¥è¯ÂãÂÂå¦ÂæÂÂæÂÂ们å®Âå¨确宠Ida æÂ¥æÂÂä¸Âé¨ iPhoneï¼ÂèÂÂä¸ÂæÂÂ们确å®Âè¹æÂÂçÂÂ产 iPhoneï¼Âé£ä¹ÂæÂÂ们就å¯以确å®ÂIdaæÂ¥æÂÂè¹æÂÂçÂÂ产çÂÂ产åÂÂãÂÂä½ÂçÂÂæ´»ä¸ÂæÂÂä»Âä¹Âæ¯ç»Â对确å®ÂçÂÂå¢ï¼Â
æ£å¦Âç½Âç´ æÂÂ说ï¼ÂâÂÂ人类æÂÂæÂÂçÂÂçÂ¥è¯Âé½æ¯ä¸Âç¡®å®ÂçÂÂãÂÂä¸Â精确çÂÂãÂÂçÂÂé¢çÂÂãÂÂâÂÂç¶èÂÂï¼ÂæÂÂ们人类æÂȾÂÂÃ¥ÂÂæ³ÂÃ¥ÂÂå°ãÂÂå½Âæºå¨æÂÂç»Âè½åÂÂÃ¥ÂÂæ ·çÂÂäºÂæÂÂï¼Âæ³人类é£样æµÂçÂÂãÂÂçµ活ãÂÂæÂÂÃ¥ÂÂå°表示åÂÂæ¨çÂÂä¸Âç¡®å®ÂãÂÂä¸ÂÃ¥ÂÂç¡®ãÂÂä¸Âå®Âæ´çÂÂçÂ¥è¯Âï¼Â广ä¹ÂçÂÂ人工æºè½å°ÂæÂÂç»Âåºç°ãÂÂâÂÂ
ÃÂ
- å¦Âä½ æÂÂè§Âï¼ÂæÂÂ们å¨è¿Âç±»é®é¢Âä¸ÂçÂÂç«Âåºæ¯ä¸Âè´çÂÂï¼Âå¨你ä¸Âé¢çÂÂÃ¥ÂÂåºÂæÂÂç« éÂÂï¼Âä½ æ¹è¯ÂçÂÂæ¯ä¸Â个稻èÂÂ人ï¼Âstrawpersonï¼Âï¼ÂèÂÂä¸Âæ¯æÂÂ们çÂÂå®ÂéÂÂç«ÂåºãÂÂ
- ä¸Âæ¤åÂÂæ¶ï¼ÂæÂÂ认为你è¿Â没æÂÂ认è¯Âå°你èª己çÂÂè§Âç¹已ç»ÂæÂÂæÂÂæ¹åÂÂï¼Âä½ å¨2016å¹´åÂÂ表çÂÂãÂÂèªç¶ãÂÂ(Nature)æÂÂå¿Âä¸ÂçÂÂ论æÂÂæ¯Âä½ ç®åÂÂçÂÂè§Âç¹å°ÂéÂÂå¾Âå¤Âï¼Âä¹Âæ¿认对深度å¦习çÂÂéÂÂå¶è¦Âå°Âå¾Âå¤ÂãÂÂ
æÂÂçÂÂè¯Âå°æÂÂ谢你å¨Facebookä¸ÂçÂÂÃ¥ÂÂåºÂï¼ÂæÂÂæ¶æÂÂçÂÂå¸ÂæÂÂä½ è½å¼Âç¨æÂÂçÂÂç Â究ï¼ÂèÂÂå®Âè½æ¸Âæ°é¢Â示你èª己çÂÂç Â究ãÂÂ举个ä¾ÂÃ¥ÂÂï¼Âå¨æÂÂè¿ÂçÂÂä¸Âç¯ÂarXiv论æÂÂä¸Âï¼Âå¨没æÂÂå¼Âç¨çÂÂæÂÂåµä¸Âï¼ÂéÂÂè¿Âå³注è¿Â个é®é¢ÂæÂ¥å¼Âå¯你çÂÂ论æÂÂ:
ÃÂ
âÂÂå½ÂÃ¥ÂÂçÂÂæºå¨å¦习æ¹æ³Âå¨éÂÂè¦Âå¨è®Âç»ÂÃ¥ÂÂå¸Âä¹Âå¤Âæ³ÂÃ¥ÂÂæ¶æ¾å¾Âå¾Âå¼±â¦â¦ä»Âä¸Âè®Âç»Âæ°æ®ç¸åÂÂçÂÂÃ¥ÂÂå¸Âä¸ÂéÂÂæ ·çÂÂæµÂè¯ÂéÂÂä¸Âè·å¾Âè¯好çÂÂæ³ÂÃ¥ÂÂè½åÂÂæ¯ä¸Âå¤ÂçÂÂâÂÂãÂÂ
ÃÂ
è¿Â个æÂÂæÂÂæ£æ¯æÂÂå¨1998å¹´æÂÂÃ¥ÂÂçÂÂ:
ÃÂ
å½ÂÃ¥ÂÂæµÂè¡ÂçÂÂæ¶Âé¤è¿Âæ¥主ä¹Âï¼Âeliminative connectionistï¼Â模åÂÂæ æ³Âå°Âå±æ§æ©å±Âå°è®Âç»Â空é´ä¹Âå¤ÂãÂÂ
ÃÂ
è¿Âæ¯2001å¹´ãÂÂ代æ°æÂÂç»´ãÂÂ第ä¸Âç« çÂÂä¸Âå¿ÂÃ¥ÂÂ容:
ÃÂ
å¤Âå±ÂæÂÂçÂ¥æºä¸Âè½å°Â[æÂÂç±»éÂÂç¨éÂÂÃ¥ÂÂçÂÂå½æ°]æ¨广å°è®Âç»Â空é´ä¹Âå¤ÂãÂÂå¨æÂÂäºÂæÂÂåµä¸Âï¼Â人类似ä¹Âå¯以èªç±å°ä»ÂÃ¥ÂÂéÂÂå¶çÂÂæ°æ®ä¸Âè¿Âè¡Âå½Â纳ï¼Â(å¨è¿ÂäºÂæÂÂåµä¸Â)éÂÂè¿ÂÃ¥ÂÂÃ¥ÂÂä¼ æÂÂè®Âç»ÂçÂÂæÂÂä¸Âç±»å¤Âå±ÂæÂÂçÂ¥æºæ¯ä¸ÂÃ¥ÂÂéÂÂçÂÂãÂÂ
ÃÂ
æÂÂæ¾å¤Â次å¨å¬å¼ÂåºåÂÂÃ¥ÂÂç§Âä¸ÂéÂÂè¯Âå¾æÂÂéÂÂ你注æÂÂè¿Âä¸Âé¢Âæ³ï¼Âä½Âä½ ä»ÂæªåÂÂåºÂæÂÂå¼Âç¨è¿Âè¿Âä¸Âå·¥ä½Âï¼Âå³使æÂÂè¯Âå¾æÂÂéÂÂä½ è¦Â注æÂÂçÂÂè§Âç¹已æÂ¥çÂÂæÂÂ为你çÂÂç Â究æ¡Âæ¶çÂÂæ ¸å¿ÂãÂÂ
ÃÂ
尽管åÂÂå¨è¿ÂäºÂÃ¥ÂÂæ§ï¼ÂæÂÂä»Âç¶æ¯你çÂÂç²Âä¸Âï¼Âè¿Âæ¢å 为你ä¸Âè´¯çÂÂãÂÂÃ¥ÂÂè¶ÂçÂÂç Â究åÂÂè´¨ï¼Âä¹Âæ¯å 为你è¯Âå®Âä¸Âæ£ç´å°æ¿认äºÂè¿Âå¹´æ¥深度å¦习çÂÂå±ÂéÂÂæ§ãÂÂæÂÂä¹Âå¾Â欣èµÂä½ å°Â人工æºè½åºÂç¨äºÂæ´ä¼Â大çÂÂ人类ç¦Âç¥ÂçÂÂæ¹å¼Âï¼Â并çÂÂè¯Âå°å¸ÂæÂÂæ´å¤ÂçÂÂ人å°Âä½ ä½Â为æ¦Âæ ·ãÂÂ
ÃÂ
å¦ÂæÂÂä½ è½æÂÂå æÂÂå³系ï¼Âæ¯Âå¦Â人类表达å æÂÂå³系çÂÂ丰å¯Âå½¢å¼Âå¼Âå¥å°深度å¦习ä¸Âï¼Âé£å°Âæ¯对ä¸Âè¬人工æºè½çÂÂæ£æÂÂä¹ÂçÂÂè´¡ç®ãÂÂæÂÂæÂÂå¾ÂçÂÂä½ ä¸Âä¸ÂæÂ¥çÂÂç Â究工ä½Âï¼Â并å¸ÂæÂÂå½ÂæÂÂä¸Â次å¨èÂÂç¹å©å°Âæ¶æÂÂæºä¼ÂæÂÂ访你ãÂÂ
ÃÂ
ç¥Â好ï¼Â
Gary Marcus
ÃÂ
ç¸å³é¾æÂ¥ï¼Â
ÃÂ
https://medium.com/@GaryMarcus/the-current-state-of-ai-and-deep-learning-a-reply-to-yoshua-bengio-77952ead7970
ÃÂ
https://medium.com/@GaryMarcus/bengio-v-marcus-and-the-past-present-and-future-of-neural-network-models-of-language-b4f795ff352b
ï¼Â*æ¾ÂÂ为 AIç§ÂæÂÂ大揥ç¼Âè¯ÂæÂÂç« ï¼Â转载请微信èÂÂç³» 1092722531ï¼Â
âÂÂ
精彩æ¨èÂÂ
âÂÂ
2019 ä¸Âå½大æ°æ®æÂÂæ¯大ä¼Âï¼ÂBDTCï¼ÂÃ¥ÂÂ度æÂ¥è¢Âï¼Â豪åÂÂ主å¸Âéµ容åÂÂç¾ä½ÂæÂÂæ¯ä¸Â家é½ÂèÂÂï¼Â15 åº精éÂÂä¸Âé¢ÂæÂÂæ¯åÂÂè¡Âä¸Â论åÂÂï¼Âè¶Â强干货+æÂÂæ¯åÂÂæÂÂ+è¡Âä¸Âå®Âè·µç«Âä½Â解读ï¼Âæ·±å¥解æÂÂçÂÂé¨æÂÂæ¯å¨è¡Âä¸Âä¸ÂçÂÂå®Âè·µè½å°ãÂÂ
å³æ¥起ï¼ÂéÂÂéÂÂà5 æÂÂ票å¼Âå®ï¼Âæ°éÂÂæÂÂéÂÂï¼Âæ«ç Âè´Âä¹°ï¼ÂÃ¥ÂÂå°åÂÂå¾Âï¼Â