(百度知é“)
百度使用数æ®åˆ†æžå¯¹2014高考作文题目预测这件事,值得å†å†™ç¯‡æ–‡ç« 。这是一次相当æˆåŠŸçš„预测,æ®æœ‰äººåˆ†æžï¼Œé¢„测“命ä¸äº†å…¨å›½18å·ä¸12å·ä½œæ–‡æ–¹å‘â€ã€‚其实在我看æ¥è¿˜ä¸æ¢å¦‚æ¤ï¼Œç”šè‡³å¯ä»¥è¯´å…¨ä¸ã€‚ä¸è¿‡è¿™äº›éƒ½ä¸é‡è¦ï¼Œç”šè‡³é«˜è€ƒä¹Ÿä¸é‡è¦ã€‚é‡è¦çš„是,大数æ®çš„è¿™ç§çŽ©æ³•ï¼Œä¼šç»™ä¸–界带æ¥ä»€ä¹ˆæ”¹å˜ã€‚
锤å和钉å
ä¸å›½é«˜è€ƒä½œæ–‡çš„å‡ºé¢˜æ–¹æ³•æœ‰ä¸ªå›ºå®šçš„å¥—è·¯ï¼šç»™ä½ è®²ä¸€æ®µå°æ•…事,然åŽè®©ä½ æ ¹æ®è¿™ä¸ªæ•…事,想想自己å—到什么å¯å‘ï¼Œå†™ç¯‡æ–‡ç« ã€‚æ¢å¥è¯è¯´ä½ 的作文é‡ç‚¹æ ¹æœ¬ä¸æ˜¯è¿™ä¸ªæ•…事,故事åªæ˜¯ä½ è¦å†™çš„ä¸»é¢˜çš„ä¸€ä¸ªç´ æ。
åŒä¸€ä¸ªç´ æ,å„人æ€è€ƒè§’度ä¸åŒï¼Œå¯ä»¥å¯¹åº”ä¸åŒçš„主题。但更é‡è¦çš„是,ä¸åŒçš„ç´ æå¯ä»¥å¯¹åº”åŒæ ·çš„主题。
比如全国å·çš„一个题目是“ä¸è¦ç»™é‡Žç”ŸåŠ¨ç‰©å–‚食,å¦åˆ™å®ƒä¼šä¸§å¤±è‡ªå·±çš„觅食能力â€ã€‚出题者的æ„图显然ä¸æ˜¯è®©äººå†™ä¸€ç¯‡å…³äºŽé‡Žç”ŸåŠ¨ç‰©å–‚å…»çš„ç§‘æ™®æ–‡ç« ã€‚
一个角度是把自己想象æˆé‡Žç”ŸåŠ¨ç‰©ï¼Œä¸»é¢˜æ˜¯å¹´è½»äººåº”该自己闯è¡ï¼Œä¸èƒ½ä¾èµ–å‰äººç»éªŒçš„çŒè¾“。这ä¸å°±æ˜¯ç™¾åº¦é¢„测“生命的多彩â€ä¸çš„“奋斗â€ã€â€œè‡ªç”±â€å’Œâ€œé’春â€å—?而使用åŒæ ·çš„主题,åªè¦æŠŠæ–‡ç« ç¨åŠ 修改,完全还å¯ä»¥å¯¹ä»˜ä¸Šæµ·å¸‚çš„ä½œæ–‡é¢˜ï¼šâ€œä½ å¯ä»¥é€‰æ‹©ç©¿è¶Šæ²™æ¼ çš„é“路和方å¼ï¼Œæ‰€ä»¥ä½ æ˜¯è‡ªç”±çš„ï¼›ä½ å¿…é¡»ç©¿è¶Šè¿™ç‰‡æ²™æ¼ ï¼Œæ‰€ä»¥ä½ åˆæ˜¯ä¸è‡ªç”±çš„。â€
å¦ä¸€ä¸ªè§’度则是把自己想象æˆé¢å¯¹é‡Žç”ŸåŠ¨ç‰©çš„人,那么主题就是è¦å°Šé‡è‡ªç„¶ï¼Œä¿æŠ¤çŽ¯å¢ƒã€‚è¿™ä¸å°±æ˜¯ç™¾åº¦é¢„测“å‘展的困惑â€ä¸çš„“自然â€ã€â€œçŽ¯å¢ƒâ€å’Œâ€œå°Šæ•¬â€å—?åŒæ ·çš„ä¸»é¢˜ä¸‹æŠŠæ–‡ç« ç¨åŠ 修改åˆå¯ä»¥å¯¹ä»˜è¾½å®çœçš„作文题:“å¯æƒœæ¼«å¤©ç¹æ˜Ÿæ²¡æœ‰äº†ï¼Œæ²§æµ·æ¡‘田转眼之间啊ï¼å½“年那些祖先山洞边点燃ç¯ç«ï¼Œçœ‹æœˆäº®åˆå‡å¤©æ±‰ç¿çƒ‚,他们欣èµçš„也许æ‰æ˜¯ç¾Žæ™¯ã€‚â€
现在我们的关键问题æ¥äº†ã€‚åˆ°åº•æ˜¯ä¸»é¢˜å¤šå‘¢ï¼Œè¿˜æ˜¯ç´ æ多?ç”æ¡ˆå½“ç„¶æ˜¯ç´ æå¤šã€‚ç´ æ怎么编都å¯ä»¥ï¼Œä½†å…¨ä½“高ä¸ç”Ÿéƒ½èƒ½æƒ³æ˜Žç™½å’Œè¯´æ˜Žç™½çš„é“ç†å°±é‚£ä¹ˆå‡ 个 — 具体说æ¥ï¼Œæ®ç™¾åº¦æ•°æ®åˆ†æžå‘现,åªæœ‰å…个方é¢è€Œå·²ã€‚
åªè¦ä¸€ä¸ªäººç†Ÿè¯»è¿™å…个方é¢å„ç§å¯èƒ½ä¸»é¢˜çš„æ–‡ç« ï¼ŒæŽŒæ¡å…¶å†™ä½œå¥—路,ä¸ç®¡é«˜è€ƒå‡ºä»€ä¹ˆç´ æ都能应对自如。
这就æ£å¦‚有å¥è°šè¯è¯´â€œå¦‚æžœä½ æ‰‹é‡Œæœ‰ä¸€æŠŠé”¤åï¼Œä½ çœ‹ä»€ä¹ˆä¸œè¥¿éƒ½æ˜¯é’‰åâ€ã€‚è¿™å¥è°šè¯æœ¬æ¥æ˜¯è´¬ä¹‰çš„,æ„æ€æ˜¯å‘Šè¯«äººä»¬ä¸è¦æŠŠä»€ä¹ˆä¸œè¥¿éƒ½å¾€è‡ªå·±æŽŒæ¡çš„有é™ç†è®ºä¸Šå¥—。比如近年æ¥äººä»¬å¦ä¼šäº†è¿›åŒ–心ç†å¦ä¹‹åŽï¼Œå°±ä¸ç®¡çœ‹åˆ°ä»€ä¹ˆç¤¾ä¼šçŽ°è±¡éƒ½æƒ³ç”¨è¿›åŒ–心ç†å¦è§£é‡Šï¼Œä»¥è‡³äºŽæˆ‘现在一å¬è¿›åŒ–心ç†å¦å°±æµ‘身起鸡皮疙瘩。
å¯æ˜¯å¦‚果把这个锤å精神用在准备考试上,那是最好ä¸è¿‡äº† — åªä¸è¿‡ä½ 需è¦æŽŒæ¡çš„ä¸æ˜¯ä¸€æŠŠï¼Œè€Œæ˜¯å…把锤å — 有了这å…把锤åå°±å¯ä»¥å¯¹ä»˜å‡ 乎所有的高考钉å。其实锤å精神还å¯ä»¥ç”¨åœ¨é¢†å¯¼è®²è¯ä¸Šï¼Œä»»ä½•äº‹æƒ…都必须“高举ä¸å›½ç‰¹è‰²ç¤¾ä¼šä¸»ä¹‰ä¼Ÿå¤§æ——帜,以邓å°å¹³ç†è®ºã€â€œä¸‰ä¸ªä»£è¡¨â€é‡è¦æ€æƒ³ä¸ºæŒ‡å¯¼ï¼Œæ·±å…¥è´¯å½»è½å®žç§‘å¦å‘展观……â€è¿™æ–¹é¢ç›®å‰ä¸€å…±æœ‰ä¸‰æŠŠå¸¸ç”¨é”¤å,它们总是åŒæ—¶å‡ºçŽ°ã€‚
那么百度å‘现这些锤å用的是什么技术呢?
主题模型
ç»™ä½ ä¸€ç¯‡æ–‡ç« ï¼Œä½ æ€Žä¹ˆèƒ½çœ‹å‡ºæ¥è¿™ç¯‡æ–‡ç« 是说什么的呢?具体说æ¥ï¼Œä½ 怎么能让机器知é“è¿™ç¯‡æ–‡ç« æ˜¯è¯´ä»€ä¹ˆçš„å‘¢ï¼Ÿè¿™ä¸ªæ€æƒ³å«åšâ€œä¸»é¢˜æ¨¡åž‹ï¼ˆtopic modeling)â€ã€‚
百度作文预测使用的主题模型技术å«åšâ€œéšå«ç‹„利克雷分布(Latent Dirichlet allocation,LDA)â€ã€‚这是一个2003å¹´æ‰è¢«æ出的新技术,它的å‘明人之一æ£æ˜¯åˆšåˆšåŠ 入百度,负责“百度大脑â€é¡¹ç›®çš„å´æ©è¾¾ã€‚
LDA的基本æ€æƒ³éžå¸¸ç®€å•ã€‚è®¡ç®—æœºè®¤ä¸ºæ–‡ç« åªä¸è¿‡æ˜¯ä¸€äº›è¯æ±‡çš„集åˆã€‚而æ¯ä¸ªä¸»é¢˜ï¼Œä¹Ÿåªæ˜¯ä¸€äº›å…³é”®è¯çš„集åˆã€‚计算机没必è¦â€œç†è§£â€æ¯ä¸ªä¸»é¢˜æˆ–者æ¯ä¸ªè¯çš„æ„æ€ï¼Œç”šè‡³æ ¹æœ¬ä¸ç”¨ç®¡è¿™äº›è¯å‡ºçŽ°çš„å…ˆåŽé¡ºåºã€‚
我们人为地设定一些主题,并且在数æ®åˆ†æžçš„帮助下给æ¯ä¸ªä¸»é¢˜è®¾å®šå¥½å…³é”®è¯ã€‚比如“狗â€çš„主题下的关键è¯å¯ä»¥åŒ…括“骨头â€ã€â€œæ±ªæ˜Ÿäººâ€ã€â€œå¿ 诚â€ã€â€œæœ‹å‹â€ç‰ç‰ï¼Œå¦‚æžœæ˜¯æœ€è¿‘çš„ç ”ç©¶æ怕还è¦åŠ 上“广西玉林â€ã€‚这些关键è¯çš„设定没必è¦éžå¸¸ä¸¥æ ¼ï¼Œåˆ°åº•å“ªä¸ªè¯æ›´é‡è¦å¯ä»¥äº¤ç»™æœºå™¨åŽ»å‘现。
è¿™æ ·æˆ‘ä»¬å°±æœ‰äº†ä¸€ä¸ªä¸»é¢˜çš„é›†åˆï¼Œæ¯ä¸ªä¸»é¢˜åˆéƒ½æ˜¯ä¸€å¤§å †å…³é”®è¯çš„集åˆã€‚åŒæ ·ä¸€ä¸ªè¯å¯ä»¥åœ¨å¤šä¸ªä¸»é¢˜ä¸å‡ºçŽ°ï¼Œä½†æ˜¯åœ¨ä¸åŒä¸»é¢˜ä¸‹å‡ºçŽ°çš„概率是ä¸åŒçš„。
计算机è¦åšçš„仅仅是使用一定的数å¦æ–¹æ³•å¯¹æ ¹æ®æ¯ç¯‡æ–‡ç« ä¸çš„è¯æ±‡è¿›è¡Œåˆ†æžã€‚ä¸€ç¯‡æ–‡ç« æ‹¿è¿‡æ¥ï¼Œä½ è¦åšçš„就是把事先设定的所有主题一个一个的过一éï¼Œè®¡ç®—è¿™ç¯‡æ–‡ç« ä¸çš„è¯æ±‡å¯¹åº”æ¯ä¸ªä¸»é¢˜çš„å¯èƒ½æ€§æ˜¯å¤šå°‘ã€‚è®¡ç®—ç»“æžœï¼Œå°±æ˜¯è¿™ç¯‡æ–‡ç« è¯´çš„æ˜¯æ¯ä¸ªä¸»é¢˜çš„概率大å°ã€‚ä¸€ç¯‡æ–‡ç« ä¹Ÿè®¸å¯ä»¥æœ‰è¶…过一个主题,这ä¸æ˜¯é—®é¢˜ã€‚关键在于,计算机å¯ä»¥åˆ¤æ–ä¸€ç¯‡æ–‡ç« æœ€æœ‰å¯èƒ½è¯´çš„是什么主题,第二å¯èƒ½è¯´çš„是什么主题……这就相当于计算机已ç»â€œè¯»æ‡‚â€äº†è¿™ç¯‡æ–‡ç« 。
百度åªè¦æŠŠæµ·é‡çš„作文都用这ç§æ–¹æ³•åˆ†æžä¸€é,就得到了å„ç§ä¸åŒä¸»é¢˜çš„出现总概率。更进一æ¥ï¼Œå†ç»“åˆå¹´åº¦é£Žäº‘æœç´¢ä¿¡æ¯å’Œå½“å¹´çš„çƒç‚¹æ–°é—»ä¿¡æ¯ï¼Œå°±å¯ä»¥åˆ¤æ–现在最æµè¡Œçš„作文主题是什么了。
LDA有很多应用。åªè¦æŠŠâ€œæ–‡ç« â€æ”¹æˆâ€œå›¾åƒâ€ï¼ŒæŠŠâ€œä¸»é¢˜â€æ”¹æˆâ€œç‰©ä½“â€ï¼Œå®ƒå°±å¯ä»¥ç”¨æ¥åˆ†æžä¸€å¼ 图片ä¸éƒ½æœ‰ä»€ä¹ˆç‰©ä½“,并用于给图åƒåˆ†ç±»ã€‚它还å¯ä»¥ç”¨æ¥åˆ†æžéŸ³ä¹çš„ä¹å¥ï¼Œå†ç»“åˆæ¯é¦–æŒçš„å—喜爱程度,就å¯ä»¥ç”¨äºŽæŒæ›²æŽ¨è。我猜主题模型的方法还å¯ä»¥ç”¨äºŽåˆ†æžæ–°é—»æŠ¥é“ã€ç”µå½±å‰§æœ¬ã€å°è¯´å’Œæ¸¸æˆæƒ…èŠ‚ï¼Œè¿™æ ·æœºå™¨å°±èƒ½æ¯”ä»»ä½•æ–‡åŒ–æ‰¹è¯„å®¶æ›´æ—©æ„识到现在æµè¡Œä»€ä¹ˆã€‚
如果机器如æ¤åŽ‰å®³ï¼Œäººåˆå½“如何呢?
未æ¥
è®¾æƒ³å‡ å¹´ä¹‹åŽï¼Œæ‰€æœ‰è€ƒç”Ÿéƒ½çŸ¥é“了百度能预测作文题。这些考生将会熟练掌æ¡ç™¾åº¦æŒ‡å‡ºçš„ä»»ä½•ä¸»é¢˜ã€‚è¿™æ ·ä¸€æ¥ï¼Œä»–们的高考作文æˆç»©å°†ä¼šéžå¸¸æŽ¥è¿‘ — 而这是出题者所ä¸æ„¿æ„çœ‹åˆ°çš„ï¼Œå› ä¸ºé«˜è€ƒçš„ä½œç”¨ä¸æ˜¯ä¸ºäº†è¯æ˜Žå¦ç”Ÿå¦å¾—好,而是为了选拔,选拔è¦æ±‚必须有比分差è·ã€‚
å‡ºé¢˜è€…æ€Žä¹ˆåŠžï¼Ÿä»–ä»¬å¿…é¡»æ‰“ç ´ä¿—å¥—ï¼Œå‘明全新主题ï¼ä»Žè¿™ä¸ªæ„义上讲数æ®åˆ†æžå¸¦æ¥äº†ç¤¾ä¼šè¿›æ¥ã€‚
但这有一个问题。数æ®åˆ†æžä¼šè¿…速å‘现这个新主题,并且促使它以比以往快得多的速度æµè¡Œå¼€æ¥ã€‚ç‰åˆ°æ‰€æœ‰è€ƒç”Ÿéƒ½æŽŒæ¡äº†æ–°çš„主题,这个新主题就åˆæ²¡ç”¨äº†ã€‚
所以数æ®åˆ†æžçš„真æ£ä½œç”¨æ˜¯èƒ½è®©å¥½ä¸œè¥¿è¿…速æµä¼ å¼€æ¥â€¦â€¦ç„¶åŽè¿…速消亡。这里说的当然ä¸åªæ˜¯é«˜è€ƒä½œæ–‡ï¼Œæ›´é‡è¦çš„是电影剧情之类。
åŽå°”街的金èžå…¬å¸ä½¿ç”¨å„ç§æ•°å¦æ¨¡åž‹è¿›è¡Œè‚¡ç¥¨äº¤æ˜“。这些模型的特点是一开始如果åªæœ‰ä½ åœ¨ç”¨ï¼Œä½ ä¹Ÿè®¸å¯ä»¥éžå¸¸èµšé’±ï¼Œå¯æ˜¯ä¸€æ—¦åˆ«äººä¹Ÿå¼€å§‹ç”¨åŒæ ·çš„模型,那么市场就会在这方é¢å˜å¾—越æ¥è¶Šæœ‰æ•ˆçŽ‡ï¼Œä»¥è‡³äºŽè¿™ä¸ªæ¨¡åž‹çš„回报率就越æ¥è¶Šä½Žã€‚äºŽæ˜¯ä½ å°±åªèƒ½å†åŽ»å‘明一个新模型,一个更å¤æ‚的模型。直到这个模型也å˜å¾—ä¸å¥½ä½¿ã€‚
结果åŽå°”街就永远需è¦æ–°æ¨¡åž‹ï¼Œè€Œä¸”越æ¥è¶Šå¤æ‚,越æ¥è¶Šä¸å®¹æ˜“赚钱。这是一场军备竞赛。
主题也是如æ¤ã€‚ä¸€ä¸ªå¥½ä½¿çš„ä¸»é¢˜ä¼šå› ä¸ºæœ‰å¤ªå¤šäººä½¿ç”¨è€Œå˜å¾—ä¸å†å¥½ä½¿ï¼Œäººä»¬è¢«è¿«å‘明新主题,但新主题也将会å˜å¾—ä¸å¥½ä½¿ã€‚
这都是互è”网和数æ®åˆ†æžå¸¦æ¥çš„。整个过程的节å¥å¯èƒ½ä¼šè¶Šæ¥è¶Šå¿«ã€‚历å²å¿…ç„¶åŠ é€Ÿå‰è¿›ï¼Œç›´åˆ°â€¦â€¦