(百度知é“)
百度使用数æ®åˆ†æžå¯¹2014高考作文题目预测这件事,值得å†å†™ç¯‡æ–‡ç« 。这是一次相当æˆåŠŸçš„é¢„æµ‹ï¼Œæ®æœ‰äººåˆ†æžï¼Œé¢„测“命ä¸äº†å…¨å›½18å·ä¸12å·ä½œæ–‡æ–¹å‘â€ã€‚其实在我看æ¥è¿˜ä¸æ¢å¦‚æ¤ï¼Œç”šè‡³å¯ä»¥è¯´å…¨ä¸ã€‚ä¸è¿‡è¿™äº›éƒ½ä¸é‡è¦ï¼Œç”šè‡³é«˜è€ƒä¹Ÿä¸é‡è¦ã€‚é‡è¦çš„æ˜¯ï¼Œå¤§æ•°æ®çš„è¿™ç§çŽ©æ³•ï¼Œä¼šç»™ä¸–ç•Œå¸¦æ¥ä»€ä¹ˆæ”¹å˜ã€‚
锤å和钉å
ä¸å›½é«˜è€ƒä½œæ–‡çš„å‡ºé¢˜æ–¹æ³•æœ‰ä¸ªå›ºå®šçš„å¥—è·¯ï¼šç»™ä½ è®²ä¸€æ®µå°æ•…事,然åŽè®©ä½ æ ¹æ®è¿™ä¸ªæ•…事,想想自己å—到什么å¯å‘ï¼Œå†™ç¯‡æ–‡ç« ã€‚æ¢å¥è¯è¯´ä½ 的作文é‡ç‚¹æ ¹æœ¬ä¸æ˜¯è¿™ä¸ªæ•…äº‹ï¼Œæ•…äº‹åªæ˜¯ä½ è¦å†™çš„ä¸»é¢˜çš„ä¸€ä¸ªç´ æã€‚
åŒä¸€ä¸ªç´ æï¼Œå„人æ€è€ƒè§’度ä¸åŒï¼Œå¯ä»¥å¯¹åº”ä¸åŒçš„主题。但更é‡è¦çš„æ˜¯ï¼Œä¸åŒçš„ç´ æå¯ä»¥å¯¹åº”åŒæ ·çš„主题。
比如全国å·çš„一个题目是“ä¸è¦ç»™é‡Žç”ŸåŠ¨ç‰©å–‚é£Ÿï¼Œå¦åˆ™å®ƒä¼šä¸§å¤±è‡ªå·±çš„觅食能力â€ã€‚出题者的æ„å›¾æ˜¾ç„¶ä¸æ˜¯è®©äººå†™ä¸€ç¯‡å…³äºŽé‡Žç”ŸåŠ¨ç‰©å–‚å…»çš„ç§‘æ™®æ–‡ç« ã€‚
一个角度是把自己想象æˆé‡Žç”ŸåŠ¨ç‰©ï¼Œä¸»é¢˜æ˜¯å¹´è½»äººåº”è¯¥è‡ªå·±é—¯è¡ï¼Œä¸èƒ½ä¾èµ–å‰äººç»éªŒçš„çŒè¾“。这ä¸å°±æ˜¯ç™¾åº¦é¢„测“生命的多彩â€ä¸çš„“奋斗â€ã€â€œè‡ªç”±â€å’Œâ€œé’春â€å—ï¼Ÿè€Œä½¿ç”¨åŒæ ·çš„主题,åªè¦æŠŠæ–‡ç« ç¨åŠ ä¿®æ”¹ï¼Œå®Œå…¨è¿˜å¯ä»¥å¯¹ä»˜ä¸Šæµ·å¸‚çš„ä½œæ–‡é¢˜ï¼šâ€œä½ å¯ä»¥é€‰æ‹©ç©¿è¶Šæ²™æ¼ çš„é“路和方å¼ï¼Œæ‰€ä»¥ä½ æ˜¯è‡ªç”±çš„ï¼›ä½ å¿…é¡»ç©¿è¶Šè¿™ç‰‡æ²™æ¼ ï¼Œæ‰€ä»¥ä½ åˆæ˜¯ä¸è‡ªç”±çš„。â€
å¦ä¸€ä¸ªè§’度则是把自己想象æˆé¢å¯¹é‡Žç”ŸåŠ¨ç‰©çš„äººï¼Œé‚£ä¹ˆä¸»é¢˜å°±æ˜¯è¦å°Šé‡è‡ªç„¶ï¼Œä¿æŠ¤çŽ¯å¢ƒã€‚è¿™ä¸å°±æ˜¯ç™¾åº¦é¢„测“å‘展的困惑â€ä¸çš„“自然â€ã€â€œçŽ¯å¢ƒâ€å’Œâ€œå°Šæ•¬â€å—ï¼ŸåŒæ ·çš„ä¸»é¢˜ä¸‹æŠŠæ–‡ç« ç¨åŠ ä¿®æ”¹åˆå¯ä»¥å¯¹ä»˜è¾½å®çœçš„ä½œæ–‡é¢˜ï¼šâ€œå¯æƒœæ¼«å¤©ç¹æ˜Ÿæ²¡æœ‰äº†ï¼Œæ²§æµ·æ¡‘田转眼之间啊ï¼å½“年那些祖先山洞边点燃ç¯ç«ï¼Œçœ‹æœˆäº®åˆå‡å¤©æ±‰ç¿çƒ‚,他们欣èµçš„ä¹Ÿè®¸æ‰æ˜¯ç¾Žæ™¯ã€‚â€
现在我们的关键问题æ¥äº†ã€‚åˆ°åº•æ˜¯ä¸»é¢˜å¤šå‘¢ï¼Œè¿˜æ˜¯ç´ æå¤šï¼Ÿç”æ¡ˆå½“ç„¶æ˜¯ç´ æå¤šã€‚ç´ ææ€Žä¹ˆç¼–都å¯ä»¥ï¼Œä½†å…¨ä½“高ä¸ç”Ÿéƒ½èƒ½æƒ³æ˜Žç™½å’Œè¯´æ˜Žç™½çš„é“ç†å°±é‚£ä¹ˆå‡ 个 — 具体说æ¥ï¼Œæ®ç™¾åº¦æ•°æ®åˆ†æžå‘çŽ°ï¼Œåªæœ‰å…个方é¢è€Œå·²ã€‚
åªè¦ä¸€ä¸ªäººç†Ÿè¯»è¿™å…个方é¢å„ç§å¯èƒ½ä¸»é¢˜çš„æ–‡ç« ,掌æ¡å…¶å†™ä½œå¥—路,ä¸ç®¡é«˜è€ƒå‡ºä»€ä¹ˆç´ æéƒ½èƒ½åº”对自如。
这就æ£å¦‚有å¥è°šè¯è¯´â€œå¦‚æžœä½ æ‰‹é‡Œæœ‰ä¸€æŠŠé”¤åï¼Œä½ çœ‹ä»€ä¹ˆä¸œè¥¿éƒ½æ˜¯é’‰åâ€ã€‚è¿™å¥è°šè¯æœ¬æ¥æ˜¯è´¬ä¹‰çš„ï¼Œæ„æ€æ˜¯å‘Šè¯«äººä»¬ä¸è¦æŠŠä»€ä¹ˆä¸œè¥¿éƒ½å¾€è‡ªå·±æŽŒæ¡çš„æœ‰é™ç†è®ºä¸Šå¥—。比如近年æ¥äººä»¬å¦ä¼šäº†è¿›åŒ–心ç†å¦ä¹‹åŽï¼Œå°±ä¸ç®¡çœ‹åˆ°ä»€ä¹ˆç¤¾ä¼šçŽ°è±¡éƒ½æƒ³ç”¨è¿›åŒ–å¿ƒç†å¦è§£é‡Šï¼Œä»¥è‡³äºŽæˆ‘现在一å¬è¿›åŒ–心ç†å¦å°±æµ‘身起鸡皮疙瘩。
坿˜¯å¦‚果把这个锤å精神用在准备考试上,那是最好ä¸è¿‡äº† — åªä¸è¿‡ä½ éœ€è¦æŽŒæ¡çš„䏿˜¯ä¸€æŠŠï¼Œè€Œæ˜¯å…把锤å — æœ‰äº†è¿™å…æŠŠé”¤åå°±å¯ä»¥å¯¹ä»˜å‡ 乎所有的高考钉å。其实锤å精神还å¯ä»¥ç”¨åœ¨é¢†å¯¼è®²è¯ä¸Šï¼Œä»»ä½•事情都必须“高举ä¸å›½ç‰¹è‰²ç¤¾ä¼šä¸»ä¹‰ä¼Ÿå¤§æ——帜,以邓å°å¹³ç†è®ºã€â€œä¸‰ä¸ªä»£è¡¨â€é‡è¦æ€æƒ³ä¸ºæŒ‡å¯¼ï¼Œæ·±å…¥è´¯å½»è½å®žç§‘å¦å‘展观……â€è¿™æ–¹é¢ç›®å‰ä¸€å…±æœ‰ä¸‰æŠŠå¸¸ç”¨é”¤åï¼Œå®ƒä»¬æ€»æ˜¯åŒæ—¶å‡ºçŽ°ã€‚
那么百度å‘现这些锤å用的是什么技术呢?
主题模型
ç»™ä½ ä¸€ç¯‡æ–‡ç« ï¼Œä½ æ€Žä¹ˆèƒ½çœ‹å‡ºæ¥è¿™ç¯‡æ–‡ç« 是说什么的呢?具体说æ¥ï¼Œä½ 怎么能让机器知é“è¿™ç¯‡æ–‡ç« æ˜¯è¯´ä»€ä¹ˆçš„å‘¢ï¼Ÿè¿™ä¸ªæ€æƒ³å«åšâ€œä¸»é¢˜æ¨¡åž‹ï¼ˆtopic modeling)â€ã€‚
百度作文预测使用的主题模型技术å«åšâ€œéšå«ç‹„利克雷分布(Latent Dirichlet allocation,LDA)â€ã€‚这是一个2003å¹´æ‰è¢«æå‡ºçš„æ–°æŠ€æœ¯ï¼Œå®ƒçš„呿˜Žäººä¹‹ä¸€æ£æ˜¯åˆšåˆšåŠ å…¥ç™¾åº¦ï¼Œè´Ÿè´£â€œç™¾åº¦å¤§è„‘â€é¡¹ç›®çš„å´æ©è¾¾ã€‚
LDAçš„åŸºæœ¬æ€æƒ³éžå¸¸ç®€å•ã€‚è®¡ç®—æœºè®¤ä¸ºæ–‡ç« åªä¸è¿‡æ˜¯ä¸€äº›è¯æ±‡çš„集åˆã€‚而æ¯ä¸ªä¸»é¢˜ï¼Œä¹Ÿåªæ˜¯ä¸€äº›å…³é”®è¯çš„集åˆã€‚计算机没必è¦â€œç†è§£â€æ¯ä¸ªä¸»é¢˜æˆ–者æ¯ä¸ªè¯çš„æ„æ€ï¼Œç”šè‡³æ ¹æœ¬ä¸ç”¨ç®¡è¿™äº›è¯å‡ºçŽ°çš„å…ˆåŽé¡ºåºã€‚
我们人为地设定一些主题,并且在数æ®åˆ†æžçš„帮助下给æ¯ä¸ªä¸»é¢˜è®¾å®šå¥½å…³é”®è¯ã€‚比如“狗â€çš„主题下的关键è¯å¯ä»¥åŒ…括“骨头â€ã€â€œæ±ªæ˜Ÿäººâ€ã€â€œå¿ 诚â€ã€â€œæœ‹å‹â€ç‰ç‰ï¼Œå¦‚æžœæ˜¯æœ€è¿‘çš„ç ”ç©¶ææ€•还è¦åŠ ä¸Šâ€œå¹¿è¥¿çŽ‰æž—â€ã€‚这些关键è¯çš„设定没必è¦éžå¸¸ä¸¥æ ¼ï¼Œåˆ°åº•å“ªä¸ªè¯æ›´é‡è¦å¯ä»¥äº¤ç»™æœºå™¨åŽ»å‘现。
è¿™æ ·æˆ‘ä»¬å°±æœ‰äº†ä¸€ä¸ªä¸»é¢˜çš„é›†åˆï¼Œæ¯ä¸ªä¸»é¢˜åˆéƒ½æ˜¯ä¸€å¤§å †å…³é”®è¯çš„集åˆã€‚åŒæ ·ä¸€ä¸ªè¯å¯ä»¥åœ¨å¤šä¸ªä¸»é¢˜ä¸å‡ºçŽ°ï¼Œä½†æ˜¯åœ¨ä¸åŒä¸»é¢˜ä¸‹å‡ºçŽ°çš„æ¦‚çŽ‡æ˜¯ä¸åŒçš„。
计算机è¦åšçš„ä»…ä»…æ˜¯ä½¿ç”¨ä¸€å®šçš„æ•°å¦æ–¹æ³•å¯¹æ ¹æ®æ¯ç¯‡æ–‡ç« ä¸çš„è¯æ±‡è¿›è¡Œåˆ†æžã€‚ä¸€ç¯‡æ–‡ç« æ‹¿è¿‡æ¥ï¼Œä½ è¦åšçš„就是把事先设定的所有主题一个一个的过一éï¼Œè®¡ç®—è¿™ç¯‡æ–‡ç« ä¸çš„è¯æ±‡å¯¹åº”æ¯ä¸ªä¸»é¢˜çš„å¯èƒ½æ€§æ˜¯å¤šå°‘ã€‚è®¡ç®—ç»“æžœï¼Œå°±æ˜¯è¿™ç¯‡æ–‡ç« è¯´çš„æ˜¯æ¯ä¸ªä¸»é¢˜çš„æ¦‚率大å°ã€‚ä¸€ç¯‡æ–‡ç« ä¹Ÿè®¸å¯ä»¥æœ‰è¶…è¿‡ä¸€ä¸ªä¸»é¢˜ï¼Œè¿™ä¸æ˜¯é—®é¢˜ã€‚关键在于,计算机å¯ä»¥åˆ¤æ–ä¸€ç¯‡æ–‡ç« æœ€æœ‰å¯èƒ½è¯´çš„æ˜¯ä»€ä¹ˆä¸»é¢˜ï¼Œç¬¬äºŒå¯èƒ½è¯´çš„æ˜¯ä»€ä¹ˆä¸»é¢˜â€¦â€¦è¿™å°±ç›¸å½“于计算机已ç»â€œè¯»æ‡‚â€äº†è¿™ç¯‡æ–‡ç« 。
百度åªè¦æŠŠæµ·é‡çš„ä½œæ–‡éƒ½ç”¨è¿™ç§æ–¹æ³•分æžä¸€é,就得到了å„ç§ä¸åŒä¸»é¢˜çš„出现总概率。更进一æ¥ï¼Œå†ç»“åˆå¹´åº¦é£Žäº‘æœç´¢ä¿¡æ¯å’Œå½“å¹´çš„çƒç‚¹æ–°é—»ä¿¡æ¯ï¼Œå°±å¯ä»¥åˆ¤æ–现在最æµè¡Œçš„作文主题是什么了。
LDA有很多应用。åªè¦æŠŠâ€œæ–‡ç« â€æ”¹æˆâ€œå›¾åƒâ€ï¼ŒæŠŠâ€œä¸»é¢˜â€æ”¹æˆâ€œç‰©ä½“â€ï¼Œå®ƒå°±å¯ä»¥ç”¨æ¥åˆ†æžä¸€å¼ 图片ä¸éƒ½æœ‰ä»€ä¹ˆç‰©ä½“,并用于给图åƒåˆ†ç±»ã€‚它还å¯ä»¥ç”¨æ¥åˆ†æžéŸ³ä¹çš„ä¹å¥ï¼Œå†ç»“åˆæ¯é¦–æŒçš„å—喜爱程度,就å¯ä»¥ç”¨äºŽæŒæ›²æŽ¨è。我猜主题模型的方法还å¯ä»¥ç”¨äºŽåˆ†æžæ–°é—»æŠ¥é“ã€ç”µå½±å‰§æœ¬ã€å°è¯´å’Œæ¸¸æˆæƒ…èŠ‚ï¼Œè¿™æ ·æœºå™¨å°±èƒ½æ¯”ä»»ä½•æ–‡åŒ–æ‰¹è¯„å®¶æ›´æ—©æ„识到现在æµè¡Œä»€ä¹ˆã€‚
如果机器如æ¤åŽ‰å®³ï¼Œäººåˆå½“如何呢?
未æ¥
è®¾æƒ³å‡ å¹´ä¹‹åŽï¼Œæ‰€æœ‰è€ƒç”Ÿéƒ½çŸ¥é“了百度能预测作文题。这些考生将会熟练掌æ¡ç™¾åº¦æŒ‡å‡ºçš„ä»»ä½•ä¸»é¢˜ã€‚è¿™æ ·ä¸€æ¥ï¼Œä»–们的高考作文æˆç»©å°†ä¼šéžå¸¸æŽ¥è¿‘ — è€Œè¿™æ˜¯å‡ºé¢˜è€…æ‰€ä¸æ„¿æ„çœ‹åˆ°çš„ï¼Œå› ä¸ºé«˜è€ƒçš„ä½œç”¨ä¸æ˜¯ä¸ºäº†è¯æ˜Žå¦ç”Ÿå¦å¾—å¥½ï¼Œè€Œæ˜¯ä¸ºäº†é€‰æ‹”ï¼Œé€‰æ‹”è¦æ±‚必须有比分差è·ã€‚
å‡ºé¢˜è€…æ€Žä¹ˆåŠžï¼Ÿä»–ä»¬å¿…é¡»æ‰“ç ´ä¿—å¥—ï¼Œå‘æ˜Žå…¨æ–°ä¸»é¢˜ï¼ä»Žè¿™ä¸ªæ„义上讲数æ®åˆ†æžå¸¦æ¥äº†ç¤¾ä¼šè¿›æ¥ã€‚
但这有一个问题。数æ®åˆ†æžä¼šè¿…速å‘现这个新主题,并且促使它以比以往快得多的速度æµè¡Œå¼€æ¥ã€‚ç‰åˆ°æ‰€æœ‰è€ƒç”Ÿéƒ½æŽŒæ¡äº†æ–°çš„ä¸»é¢˜ï¼Œè¿™ä¸ªæ–°ä¸»é¢˜å°±åˆæ²¡ç”¨äº†ã€‚
所以数æ®åˆ†æžçš„真æ£ä½œç”¨æ˜¯èƒ½è®©å¥½ä¸œè¥¿è¿…速æµä¼ å¼€æ¥â€¦â€¦ç„¶åŽè¿…速消亡。这里说的当然ä¸åªæ˜¯é«˜è€ƒä½œæ–‡ï¼Œæ›´é‡è¦çš„æ˜¯ç”µå½±å‰§æƒ…之类。
åŽå°”街的金èžå…¬å¸ä½¿ç”¨å„ç§æ•°å¦æ¨¡åž‹è¿›è¡Œè‚¡ç¥¨äº¤æ˜“ã€‚è¿™äº›æ¨¡åž‹çš„ç‰¹ç‚¹æ˜¯ä¸€å¼€å§‹å¦‚æžœåªæœ‰ä½ åœ¨ç”¨ï¼Œä½ ä¹Ÿè®¸å¯ä»¥éžå¸¸èµšé’±ï¼Œå¯æ˜¯ä¸€æ—¦åˆ«äººä¹Ÿå¼€å§‹ç”¨åŒæ ·çš„æ¨¡åž‹ï¼Œé‚£ä¹ˆå¸‚场就会在这方é¢å˜å¾—è¶Šæ¥è¶Šæœ‰æ•ˆçŽ‡ï¼Œä»¥è‡³äºŽè¿™ä¸ªæ¨¡åž‹çš„å›žæŠ¥çŽ‡å°±è¶Šæ¥è¶Šä½Žã€‚äºŽæ˜¯ä½ å°±åªèƒ½å†å޻呿˜Žä¸€ä¸ªæ–°æ¨¡åž‹ï¼Œä¸€ä¸ªæ›´å¤æ‚的模型。直到这个模型也å˜å¾—ä¸å¥½ä½¿ã€‚
结果åŽå°”è¡—å°±æ°¸è¿œéœ€è¦æ–°æ¨¡åž‹ï¼Œè€Œä¸”è¶Šæ¥è¶Šå¤æ‚,越æ¥è¶Šä¸å®¹æ˜“赚钱。这是一场军备竞赛。
主题也是如æ¤ã€‚ä¸€ä¸ªå¥½ä½¿çš„ä¸»é¢˜ä¼šå› ä¸ºæœ‰å¤ªå¤šäººä½¿ç”¨è€Œå˜å¾—ä¸å†å¥½ä½¿ï¼Œäººä»¬è¢«è¿«å‘明新主题,但新主题也将会å˜å¾—ä¸å¥½ä½¿ã€‚
这都是互è”网和数æ®åˆ†æžå¸¦æ¥çš„。整个过程的节å¥å¯èƒ½ä¼šè¶Šæ¥è¶Šå¿«ã€‚历å²å¿…ç„¶åŠ é€Ÿå‰è¿›ï¼Œç›´åˆ°â€¦â€¦