《數(shù)學(xué)之美》讀書筆記
當(dāng)看完一本著作后,你有什么總結(jié)呢?這時(shí)最關(guān)鍵的讀書筆記不能忘了哦。可是讀書筆記怎么寫才合適呢?下面是小編收集整理的《數(shù)學(xué)之美》讀書筆記,供大家參考借鑒,希望可以幫助到有需要的朋友。
《數(shù)學(xué)之美》是一本領(lǐng)域相關(guān)的數(shù)學(xué)概念書,生動形象地講解了關(guān)于數(shù)據(jù)挖掘、文本檢索等方面的基礎(chǔ)知識,可以作為數(shù)據(jù)挖掘、文本檢索的入門普及書。另外,就像作者吳軍老師提到的,關(guān)鍵是要從中學(xué)到道————解決問題的方法,而不僅僅是術(shù)。書中也啟發(fā)式的引導(dǎo)讀者形成自己解決問題的道。
下面記錄一下自己讀這本書的一些感想:
第一章《文字和語言vs數(shù)字和信息》:文字和語言中天然蘊(yùn)藏著一些數(shù)學(xué)思想,數(shù)學(xué)可能不僅僅的是一門非常理科的知識,也是一種藝術(shù)。另外,遇到一個(gè)復(fù)雜的問題時(shí),可能生活中的一些常識,一些簡單的思想會?給你帶來解決問題的靈感。
第二章《自然語言處理————從規(guī)則到統(tǒng)計(jì)》:試圖模擬人腦處理語言的模式,基于語法規(guī)則,詞性等進(jìn)行語法分析、語義分析的自然語言處理有著很大的復(fù)雜度,而基于統(tǒng)計(jì)的語言模型很好的解決了自然語言處理的諸多難題。人們認(rèn)識這個(gè)過程,找到統(tǒng)計(jì)的方法經(jīng)歷了20多年,非常慶幸我們的前輩已經(jīng)幫我們找到了正確的方法,不用我們再去苦苦摸索。另外,這也說明在發(fā)現(xiàn)真理的過程中是充滿坎坷的,感謝那些曾經(jīng)奉獻(xiàn)了青春的科學(xué)家。自己以后遇到問題也不能輕易放棄,真正的成長是在解決問題的過程中。事情不可能一帆風(fēng)順的,這是自然界的普遍真理吧!
第三章《統(tǒng)計(jì)語言模型》:自然語言的處理找到了一種合適的方法———基于統(tǒng)計(jì)的模型,概率論的知識開始發(fā)揮作用。二元模型、三元模型、多元模型,模型元數(shù)越多,計(jì)算量越大,簡單實(shí)用就是最好的。對于某些不出現(xiàn)或出現(xiàn)次數(shù)很少的詞,會有零概率問題,這是就要找到一數(shù)學(xué)方法給它一個(gè)很小的概率。以前學(xué)概率論的時(shí)候覺的沒什么用,現(xiàn)在開始發(fā)現(xiàn)這些知識可能就是你以后解決問題的利器。最后引用作者本章的最后一句話:數(shù)學(xué)的魅力就在于將復(fù)雜的問題簡單化。
第四章《談?wù)勚形姆衷~》:中文分詞是將一句話分成一些詞,這是以后進(jìn)一步處理的基礎(chǔ)。從開始的查字典到后來基于統(tǒng)計(jì)語言模型的分詞,如今的中文分詞算是一個(gè)已經(jīng)解決的問題。然而,針對不同的系統(tǒng)、不同的要求,分詞的粒度和方法也不盡相同,還是針對具體的問題,提出針對該問題最好的方法。沒有什么是絕對的,掌握其中的道才是核心。
第五章《隱馬爾科夫模型》:隱馬爾科夫模型和概率論里面的馬爾科夫鏈相似,就是該時(shí)刻的狀態(tài)僅與前面某幾個(gè)時(shí)刻的狀態(tài)有關(guān);诖罅繑(shù)據(jù)訓(xùn)練出相應(yīng)的隱馬爾科夫模型,就可以解決好多機(jī)器學(xué)習(xí)的問題,訓(xùn)練中會涉及到一些經(jīng)典的算法(維特比算法等)。關(guān)于這個(gè)模型,沒有實(shí)際實(shí)現(xiàn)過,所以感覺好陌生,只是知道了些概率論講過的原理而已。
第六章《信息的度量和作用》:信息論給出了信息的度量,它是基于概率的,概率越小,其不確定性越大,信息量就越大。引入信息量就可以消除系統(tǒng)的不確定性,同理自然語言處理的大量問題就是找相關(guān)的信息。信息熵的物理含義是對一個(gè)信息系統(tǒng)不確定性的度量,這一點(diǎn)與熱力學(xué)中的熵概念相同,看似不同的學(xué)科之間也會有著很強(qiáng)的相似性。事務(wù)之間是存在聯(lián)系的,要學(xué)會借鑒其他知識。
第七章《賈里尼克和現(xiàn)代語言處理》:賈里尼克是為世界級的大師,不僅在于他的學(xué)術(shù)成就,更在于他的風(fēng)范。賈里尼克教授少年坎坷,也并非開始就投身到自然語言方面的研究,關(guān)鍵是他的思想和他的道。賈里克尼教授治學(xué)嚴(yán)謹(jǐn)、用心對待自己的學(xué)生,對于學(xué)生的教導(dǎo),教授告訴你最多的是“什么方法不好”,這很像聽到的一句話“我不贊同你,但我支持你”。賈里克尼教授一生專注學(xué)習(xí),最后在辦公桌前過世了。讀了這章我總結(jié)出的一句話是“思想決定一個(gè)人的高度”。在這章中對于少年時(shí)的教育,以下幾點(diǎn)值得借鑒:1、少年時(shí)期其實(shí)沒有必要花那么多時(shí)間讀書,他們的社會經(jīng)驗(yàn)、生活能力以及在那時(shí)樹立起的志向?qū)椭麄円簧?、中學(xué)時(shí)花大量時(shí)間學(xué)會的內(nèi)容,在大學(xué)用非常短的時(shí)間就可以讀完,因?yàn)樵诖髮W(xué)階段,人的理解力要強(qiáng)很多。3、學(xué)習(xí)(和教育)是一個(gè)人一輩子的過程。4、書本的內(nèi)容可以早學(xué),也可以晚學(xué),但是錯過了成長階段卻是無法補(bǔ)回來的。
第八章《簡單之美————布爾代數(shù)和搜索引擎的索引》:布爾是19世紀(jì)英國的一位中學(xué)教師,但他的公開身份是啤酒商,提出好的思想的人不一定是大師。簡單的建立索引可以根據(jù)一個(gè)詞是否在一個(gè)網(wǎng)頁中出現(xiàn)而設(shè)置為0和1,為了適應(yīng)索引訪問的速度、附加的信息、更新要快速,改進(jìn)了索引的建立,但原理上依然簡單,等價(jià)于布爾運(yùn)算。牛頓的一句話“(人們)發(fā)覺真理在形式上從來是簡單的,而不是復(fù)雜和含混的”。做好搜索,最基本的要求是每天分析10—20個(gè)不好的搜索結(jié)果,積累一段時(shí)間才有感覺。有時(shí)候,學(xué)習(xí)、處理問題,可以從不好的方面入手,效果可能更好。
第九章《圖論和網(wǎng)絡(luò)爬蟲》:圖的遍歷分為“廣度優(yōu)先搜索(Breadth—First Search,簡稱BFS)”和“深度優(yōu)先搜索(Depth—First Search,簡稱DFS);ヂ(lián)網(wǎng)上有幾百億的網(wǎng)頁,需要大量的服務(wù)器用來下載網(wǎng)頁,需要協(xié)調(diào)這些服務(wù)器的任務(wù),這就是網(wǎng)絡(luò)設(shè)計(jì)和程序設(shè)計(jì)的藝術(shù)了。另外對于簡單的網(wǎng)頁,沒必要下載。還需要存儲一張哈希表來記錄哪些網(wǎng)頁已經(jīng)存儲過(如果記錄每個(gè)網(wǎng)頁的url,數(shù)量太多,這里可以用后面提到的信息指紋,只需要一個(gè)很多位的數(shù)字即可),避免重復(fù)下載。另外,在圖論出現(xiàn)的很長一段時(shí)間里,實(shí)際需求的圖只有幾千個(gè)節(jié)點(diǎn),那時(shí)圖的遍歷很簡單,人們都沒有怎么專門研究這個(gè)問題,隨著互聯(lián)網(wǎng)的出現(xiàn),圖的遍歷一下子有了用武之地,很多數(shù)學(xué)方法就是這樣,看上去沒有什么用途,等到具體的應(yīng)用出來了一下子開始派上大用場了,這可能就是世界上很多人畢生研究數(shù)學(xué)的原因吧。一個(gè)系統(tǒng)看似整體簡單,但里面的每個(gè)東西都可能是一個(gè)復(fù)雜的東西,需要很好的設(shè)計(jì)。
第十章《PageRank————Google的民主表決式網(wǎng)頁排名技術(shù)》:搜索返回了成千上萬條結(jié)果,如何為搜索結(jié)果排名?這取決與兩組信息:關(guān)于網(wǎng)頁的質(zhì)量信息以及這個(gè)查詢和每個(gè)網(wǎng)頁的相關(guān)性信息。PageRank算法來衡量一個(gè)網(wǎng)頁的質(zhì)量,該算法的思想是如果一個(gè)網(wǎng)頁被很多其他網(wǎng)頁所鏈接,說明它收到普遍的承認(rèn)和信賴,那么它的排名就高。谷歌的創(chuàng)始人佩奇和布林提出了該算法并用迭代的方法解決了這個(gè)問題。PageRank在Google所有的算法中依然是至關(guān)重要的。該算法并不難,可是當(dāng)時(shí)只有佩奇和布林想到了,為什么呢?
第十一章《如何確定網(wǎng)頁和查詢的相關(guān)性》:構(gòu)建一個(gè)搜索引擎的四個(gè)方面:如何自動下載網(wǎng)頁、如何建立索引、如何衡量網(wǎng)頁的質(zhì)量以及確定一個(gè)網(wǎng)頁和某個(gè)查詢的相關(guān)性。搜索關(guān)鍵詞權(quán)重的科學(xué)度量TF—IDF,TF衡量一個(gè)詞在一個(gè)網(wǎng)頁中的權(quán)重,即詞頻。IDF衡量一個(gè)詞本身的權(quán)重,對主題的預(yù)測能力。一個(gè)查詢和該網(wǎng)頁的相關(guān)性公式由詞頻的簡單求和變成了加權(quán)求和,即TF1*IDF1 + TF2*IDF2 + 。。。 + TFN*IDFN?此茝(fù)雜的搜索引擎,里面的原理竟是這么簡單!
第十二章《地圖和本地搜索的最基本技術(shù)——有限狀態(tài)機(jī)和動態(tài)規(guī)劃》:地址的解析依靠有限狀態(tài)機(jī),當(dāng)用戶輸入的地址不太標(biāo)準(zhǔn)或有錯別字時(shí),希望進(jìn)行模糊匹配,提出了一種基于概率的有限狀態(tài)機(jī)。通用的有限狀態(tài)機(jī)的程序不是很好寫,要求很高,建議直接采用開源的代碼。圖論中的動態(tài)規(guī)劃問題可以用來解決兩點(diǎn)間的最短路徑問題,可以將一個(gè)“尋找全程最短路線”的問題,分解成一個(gè)個(gè)尋找局部最短路線的小問題。有限狀態(tài)機(jī)和動態(tài)規(guī)劃問題需要看相關(guān)的算法講解,才能深入理解,目前對其并未完全理解。
第十三章《Google AK—47的設(shè)計(jì)者——阿米特·辛格博士》:辛格堅(jiān)持選擇簡單方案的一個(gè)原因是容易解釋每一個(gè)步驟和方法背后的道理,這樣不僅便于出了問題時(shí)查錯,而且容易找到今后改進(jìn)的目標(biāo)。辛格要求對于搜索質(zhì)量的改進(jìn)方法都要能說清楚理由,說不清楚理由的改進(jìn)即使看上去有效也不會采用,因?yàn)檫@樣將來可能是個(gè)隱患。辛格非常鼓勵年輕人要不怕失敗,大膽嘗試。遵循簡單的哲學(xué)。
第十四章《余弦定理和新聞的分類》:將新聞根據(jù)詞的TF—IDF值組成新聞的特征向量,然后根據(jù)向量之間的余弦距離衡量兩個(gè)特征之間的相似度,將新聞自動聚類。另外根據(jù)詞的不同位置,權(quán)重應(yīng)該不同,比如標(biāo)題的詞權(quán)重明顯應(yīng)該大點(diǎn)。大數(shù)據(jù)量的余弦計(jì)算也要考慮很多簡化算法。
第十五章《矩陣運(yùn)算和文本處理中的.兩個(gè)分類問題》:將大量的文本表示成文本和詞匯的矩陣,然后對該矩陣進(jìn)行奇異值SVD分解,可以得到隱含在其中的一些信息。計(jì)算余弦相似度的一次迭代時(shí)間和奇異值分解的時(shí)間復(fù)雜度在一個(gè)數(shù)量級,但計(jì)算余弦相似度需要多次迭代。另外,奇異值分解的一個(gè)問題是存儲量大,而余弦定理的聚類則不需要。奇異值分解得到的結(jié)果略顯粗糙,實(shí)際工作中一般先進(jìn)行奇異值分解得到粗分類結(jié)果,在利用余弦計(jì)算得到比較精確地結(jié)果。我覺得這章講的SVD有些地方不是很清楚,已向吳軍老師請教了,等待回信。
第十六章《信息指紋及其應(yīng)用》:信息指紋可以作為信息的唯一標(biāo)識。有很多信息指紋的產(chǎn)生方法,互聯(lián)網(wǎng)加密要使用基于加密的偽隨機(jī)數(shù)產(chǎn)生器,常用的算法有MD5或者SHA—1等標(biāo)準(zhǔn)。信息指紋可以用來判定集合相同或基本相同。YouTobe就用信息指紋來反盜版。128位的指紋,1。8*10^19次才可能重復(fù)一次,所以重復(fù)的可能性幾乎為0。判定集合是否相同,從簡單的逐個(gè)比對到利用信息指紋,復(fù)雜度降低了很多很多。啟發(fā)我們有時(shí)候要用變通的思想來解決問題。
第十七章《由電視劇《暗算》所想到的——談?wù)劽艽a學(xué)的數(shù)學(xué)原理》:RSA加密算法,有兩個(gè)完全不同的鑰匙,一個(gè)用于加密,一個(gè)用于解密。該算法里面蘊(yùn)含著簡單但不好理解的數(shù)學(xué)思想。信息論在密碼設(shè)計(jì)中的應(yīng)用:當(dāng)密碼之間分布均勻并且統(tǒng)計(jì)獨(dú)立時(shí),提供的信息最少。均勻分布使得敵人無從統(tǒng)計(jì),而統(tǒng)計(jì)獨(dú)立能保證敵人即使知道了加密算法,也不能破譯另一段密碼。
第十八章《閃光的不一定是金子——談?wù)勊阉饕娣醋鞅讍栴}》:把搜索反作弊看成是通信模型,作弊當(dāng)做是加入的噪聲,解決噪聲的方法:從信息源出發(fā),增強(qiáng)排序算法的抗干擾能力;過濾掉噪聲,還原信息。只要噪聲不是完全隨機(jī)并且前后有相關(guān)性,就可以檢測到并消除。作弊者的方法不可能是隨機(jī)的,且不可能一天換一種方法,及作弊是時(shí)間相關(guān)的。因此在搜集一段時(shí)間的作弊信息后,就可以將作弊者抓出來,還原原有的排名。一般作弊都是針對市場份額較大的搜索引擎做的,因此,一個(gè)小的搜索引擎作弊少,并不一定是它的反作弊技術(shù)好,而是到它那里作弊的人少。
第十九章《談?wù)剶?shù)學(xué)模型的重要性》:早期的行星運(yùn)行模型用大圓套小圓的方法,精確地計(jì)算出了所有行星運(yùn)行的軌跡。但其實(shí)模型就是簡單的橢圓而已。一個(gè)正確的數(shù)學(xué)模型應(yīng)該在形式上是簡單的;一個(gè)正確的模型可能開始還不如一個(gè)精雕細(xì)琢過的錯誤模型來的準(zhǔn)確,但是,如果我們認(rèn)定大方向是對的,就應(yīng)該堅(jiān)持下去;大量準(zhǔn)備的數(shù)據(jù)對研發(fā)很重要;正確的模型可能受到噪聲干擾,而顯得不準(zhǔn)確,這是不應(yīng)該用一種湊合的修正方法來彌補(bǔ)它,要找到噪聲的根源,這也許能通往重大的發(fā)現(xiàn)。
第二十章《不要把雞蛋放在一個(gè)籃子里——談?wù)勛畲箪啬P汀罚簩σ粋(gè)隨機(jī)事件預(yù)測時(shí),當(dāng)各種情況概率相等時(shí),信息熵達(dá)到最大,不確定性最大,預(yù)測的風(fēng)險(xiǎn)最小。最大熵模型的訓(xùn)練非常復(fù)雜,需要時(shí)查看資料做進(jìn)一步的理解。
第二十一章《拼音輸入法的數(shù)學(xué)原理》:輸入法經(jīng)歷了以自然音節(jié)編碼,到偏旁筆畫拆字輸入,再回歸自然音節(jié)輸入的過程。任何事物的發(fā)展,螺旋式的回歸不是簡單的重復(fù),而是一種升華。輸入法的速度取決于編碼的場地*尋找這個(gè)鍵的時(shí)間。傳統(tǒng)的雙拼,記住編碼太難,尋找每個(gè)鍵的時(shí)間太長,并且增加了編碼上的歧義。根據(jù)香農(nóng)第一定理可以計(jì)算理論上每個(gè)漢字的平均最短碼長。全拼不僅編碼平均長度較少,而且根據(jù)上下文的語言模型可以很好的解決歧義問題。利用統(tǒng)計(jì)語言模型可是實(shí)現(xiàn)拼音轉(zhuǎn)漢字的有效算法,而且可以轉(zhuǎn)換為動態(tài)規(guī)劃求最短路徑問題。如今各家輸入法的效率基本在一個(gè)量級,進(jìn)一步提升的關(guān)鍵就在于建立更好的語言模型?梢愿鶕(jù)每個(gè)用戶建立個(gè)性化的語言模型。輸入的過程本身就是人和計(jì)算機(jī)的通信,好的輸入法會自覺或者不自覺的的遵循通信的數(shù)學(xué)模型。要做出最有效的輸入法,應(yīng)該自覺使用信息論做指導(dǎo)。
第二十二章《自然語言處理的教父馬庫斯和他的優(yōu)秀弟子們》:將自然語言處理從基于規(guī)則到基于統(tǒng)計(jì),貢獻(xiàn)最大的兩個(gè)人,一個(gè)是前面介紹的賈里尼克教授,他是一個(gè)開創(chuàng)性任務(wù);另一個(gè)是將這個(gè)方法發(fā)揚(yáng)光大的米奇·馬庫斯。馬庫斯的貢獻(xiàn)在于建立了造福全世界研究者的賓夕法尼亞大學(xué)LDC語料庫以及他的眾多優(yōu)秀弟子。馬庫斯的影響力很大程度上是靠他的弟子傳播出去的。馬庫斯教授有很多值得欽佩的地方:給予他的博士研究生自己感興趣的課題的自由,高屋建瓴,給學(xué)生關(guān)鍵的指導(dǎo);寬松的管理方式,培養(yǎng)各有特點(diǎn)的年輕學(xué)者;是一個(gè)有著遠(yuǎn)見卓識的管理者。他的學(xué)生為人做事風(fēng)格迥異,但都年輕有為,例如追求完美的邁克爾·柯林斯和尋求簡單美的艾克爾·布萊爾。大師之所以能成為大師,肯定有著一些優(yōu)秀的品質(zhì)和追求。
第二十三章《布隆過濾器》:判斷一個(gè)元素是否在一個(gè)集合當(dāng)中時(shí),用到了布隆過濾器,存儲量小而且計(jì)算快速。其原理是:建立一個(gè)很長的二進(jìn)制,將每個(gè)元素通過隨機(jī)數(shù)產(chǎn)生器產(chǎn)生一些信息指紋,再將這些信息指紋映射到一些自然數(shù)上,最后在建立的那個(gè)很長的二進(jìn)制上把這些自然數(shù)的位置都置為1。布隆過濾器的不足之處是它可能把不在集合中的元素錯判成集合中的元素,但在某些條件下這個(gè)概率是很小的,補(bǔ)救措施是可以建立一個(gè)小的白名單,存儲那些可能誤判的元素。布隆過濾器背后的數(shù)學(xué)原理在于完全隨機(jī)的數(shù)字其沖突的可能性很小,可以用很少的空間存儲大量的信息,并且由于只進(jìn)行簡單的算術(shù)運(yùn)算,因此速度非常快。《編程珠璣》中第一章的那個(gè)例子就是布隆過濾器的思想。開闊思維,尋找更好更簡單的方法。
第二十四章《馬爾科夫鏈的擴(kuò)展——貝葉斯網(wǎng)絡(luò)》:貝葉斯網(wǎng)絡(luò)是馬爾科夫鏈的擴(kuò)展,由簡單的線性鏈?zhǔn)疥P(guān)系擴(kuò)展為網(wǎng)絡(luò)的關(guān)系,但貝葉斯網(wǎng)絡(luò)仍然假設(shè)每一個(gè)狀態(tài)只與它直接相連的狀態(tài)相關(guān)。確定貝葉斯網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu)和各個(gè)狀態(tài)之間相關(guān)的概率也需要訓(xùn)練。在詞分類中,可以建立文章、主題和關(guān)鍵詞的貝葉斯網(wǎng)絡(luò),用來得到詞的分類。貝葉斯網(wǎng)絡(luò)的訓(xùn)練包括確定拓?fù)浣Y(jié)構(gòu)和轉(zhuǎn)移概率,比較復(fù)雜,后者可以參考最大熵訓(xùn)練的方法。貝葉斯網(wǎng)絡(luò)導(dǎo)出的模型是非常復(fù)雜的。
第二十五章《條件隨機(jī)場和句法分析》:句法分析是分析出一個(gè)句子的句子結(jié)構(gòu),對于不規(guī)則的句子,對其進(jìn)行深入的分析是很復(fù)雜的,而淺層的句法分析在很多時(shí)候已經(jīng)可以滿足要求了。條件隨機(jī)場就是進(jìn)行淺層句法分析的有效的數(shù)學(xué)模型。條件隨機(jī)場與貝葉斯網(wǎng)絡(luò)很像,不用之處在于,條件隨機(jī)場是無向圖,而貝葉斯網(wǎng)絡(luò)是有向圖。條件隨機(jī)場的訓(xùn)練很復(fù)雜,簡化之后可以參考最大熵訓(xùn)練的方法。對于條件隨機(jī)場的詳細(xì)參數(shù)及原理還不理解。
第二十六章《維特比和他的維特比算法》:維特比算法是一個(gè)動態(tài)規(guī)劃算法,凡是使用隱馬爾科夫模型描述的問題都可以用它來解碼。維特比算法采用逐步漸進(jìn)的方法,計(jì)算到每步的最短距離,到下步的最短距離只用接著本步的計(jì)算即可,相比窮舉法,大大縮短了計(jì)算的時(shí)間,并且基本可以實(shí)現(xiàn)實(shí)時(shí)的輸出,這看似簡單,但在當(dāng)時(shí)確是很了不起的。維特比并不滿足停留在算法本身,他將算法推廣出去,并應(yīng)用到了實(shí)際中,創(chuàng)立了高通公司,成為了世界上第二富有的數(shù)學(xué)家。高通公司在第二代移動通信中并不占很強(qiáng)的市場地位,而其利用CDMA技術(shù)霸占了3G的市場,可見遠(yuǎn)見的洞察力是多么的重要。
第二十七章《再談文本分類問題——期望最大化算法》:該章講的其實(shí)就是K均值聚類問題,設(shè)置原始聚類中心,然后不斷迭代,直至收斂,將每個(gè)點(diǎn)分到一個(gè)類中。其實(shí)隱馬爾科夫模型的訓(xùn)練和最大熵的訓(xùn)練都是期望最大化算法(EM)。首先,根據(jù)現(xiàn)有的模型,計(jì)算各個(gè)觀測數(shù)據(jù)輸入到模型中的計(jì)算結(jié)果,這個(gè)過程稱為期望值計(jì)算過程,或E過程;接下來,重新計(jì)算模型參數(shù),以最大化期望值,這個(gè)過程稱為最大化的過程,或M過程。優(yōu)化的目標(biāo)函數(shù)如果是個(gè)凸函數(shù),則一定有全局最優(yōu)解,若不是凸函數(shù),則可能找到的是局部最優(yōu)解。在以后的一些問題求解過程中,應(yīng)該考慮其是否是EM問題,也可以考慮參考這種思想,不斷迭代以優(yōu)化目標(biāo)的過程。
第二十八章《邏輯回歸和搜索廣告》:雅虎和百度的競價(jià)排名廣告并不比谷歌的根據(jù)廣告的預(yù)估點(diǎn)擊率來客觀的推送廣告收入多。點(diǎn)擊預(yù)估率有很多影響因素,一種有效的方法是邏輯回歸模型,邏輯回歸模型是一種將影響概率的不同因素結(jié)合在一起的指數(shù)模型。其訓(xùn)練方法和最大熵模型相似。同樣不是很理解其具體內(nèi)涵。
第二十九章《各個(gè)擊破和Google云計(jì)算的基礎(chǔ)》:分而治之,各個(gè)擊破是一個(gè)很好的方法,Google開發(fā)的MapReduce算法就應(yīng)用了該方法。將一個(gè)大任務(wù)分成幾個(gè)小任務(wù),這個(gè)過程叫Map,將小任務(wù)的結(jié)果合并成最終結(jié)果,這個(gè)過程叫Reduce,該過程如何調(diào)度、協(xié)調(diào)就是工程上比較復(fù)雜的事情了?梢姶罅坑玫降摹⒄嬲杏玫姆椒ㄍ唵味謽銓(shí)。
附錄《計(jì)算復(fù)雜度》:計(jì)算機(jī)中復(fù)雜度是以O(shè)()來表示的,如果一個(gè)算法的計(jì)算量不超過N的多項(xiàng)式函數(shù),則稱算法為多項(xiàng)式函數(shù)復(fù)雜度的(P問題),是可以計(jì)算的。若比N的多項(xiàng)式函數(shù)還高,則是非多項(xiàng)式問題,實(shí)際上是不可計(jì)算的。非多項(xiàng)式問題中一種非確定的多項(xiàng)式問題(簡稱NP),是科學(xué)家研究的焦點(diǎn),因?yàn)楝F(xiàn)實(shí)中好多問題都是NP問題。另外還有NP—Complete問題(NP問題可以在多項(xiàng)式時(shí)間內(nèi)規(guī)約到該問題)和NP—Hard問題,對于這兩種問題,需要簡化找到近似解。
整體上,《數(shù)學(xué)之美》這本書讓我了解了很多文本處理,數(shù)據(jù)挖掘相關(guān)的知識,學(xué)到了很多。其中,簡單美以及一些科學(xué)家的大師風(fēng)范讓我印象深刻!書中提到的一些思想(即道)讓我受益匪淺!
【《數(shù)學(xué)之美》讀書筆記】相關(guān)文章:
發(fā)現(xiàn)綠色之美12-23
發(fā)現(xiàn)生活之美01-24
音樂之美650字11-03
領(lǐng)略自然之美初中作文11-06
聲音之美600字作文01-15
語文之美高考優(yōu)秀作文06-07
感受創(chuàng)文之美_600字01-26
四季之美話題作文02-07
四季之美_500字02-07