一、機器學(xué)習(xí)十大算法 是哪些 知乎

還記得我剛來算法組的時候，我不懂tfidf是什么，更不要說什么svd,lda了聽都沒聽過，不懂user-based和item-based的區(qū)別，甚至連貝葉斯公式都寫不全。在最初的一段時間，我看別人的代碼

二、對于軌跡特征采用什么機器學(xué)習(xí)方法

通過深度學(xué)習(xí)來進(jìn)行特征選擇；通過對特征打分獲得相關(guān)性來訓(xùn)練最終模型，如Logistic Regression能對特征模型打分；聯(lián)合L2,1范數(shù)正則約束的選擇特征；計算皮爾遜系數(shù)和互信息系數(shù)來獲取每一個特征與響應(yīng)變量的相關(guān)性后排序選擇特征；最小角回歸（。

三、機器學(xué)習(xí)中，有哪些特征選擇的工程方法

特征選擇是特征工程中的重要問題（另一個重要的問題是特征提取），坊間常說：數(shù)據(jù)和特征決定了機器學(xué)習(xí)的上限，而模型和算法只是逼近這個上限而已。由此可見，特征工程尤其是特征選擇在機器學(xué)習(xí)中占有相當(dāng)重要的地位。通常而言，特征選擇是指選擇獲得相應(yīng)模型和算法最好性能的特征集，工程上常用的方法有以下：1. 計算每一個特征與響應(yīng)變量的相關(guān)性：工程上常用的手段有計算皮爾遜系數(shù)和互信息系數(shù)，皮爾遜系數(shù)只能衡量線性相關(guān)性而互信息系數(shù)能夠很好地度量各種相關(guān)性，但是計算相對復(fù)雜一些，好在很多toolkit里邊都包含了這個工具（如sklearn的MINE），得到相關(guān)性之后就可以排序選擇特征了；2. 構(gòu)建單個特征的模型，通過模型的準(zhǔn)確性為特征排序，借此來選擇特征，另外，記得JMLR'03上有一篇論文介紹了一種基于決策樹的特征選擇方法，本質(zhì)上是等價的。當(dāng)選擇到了目標(biāo)特征之后，再用來訓(xùn)練最終的模型；3. 通過L1正則項來選擇特征：L1正則方法具有稀疏解的特性，因此天然具備特征選擇的特性，但是要注意，L1沒有選到的特征不代表不重要，原因是兩個具有高相關(guān)性的特征可能只保留了一個，如果要確定哪個特征重要應(yīng)再通過L2正則方法交叉檢驗；4. 訓(xùn)練能夠?qū)μ卣鞔蚍值念A(yù)選模型：RandomForest和Logistic Regression等都能對模型的特征打分，通過打分獲得相關(guān)性后再訓(xùn)練最終模型；5. 通過特征組合后再來選擇特征：如對用戶id和用戶特征最組合來獲得較大的特征集再來選擇特征，這種做法在推薦系統(tǒng)和廣告系統(tǒng)中比較常見，這也是所謂億級甚至十億級特征的主要來源，原因是用戶數(shù)據(jù)比較稀疏，組合特征能夠同時兼顧全局模型和個性化模型，這個問題有機會可以展開講。6. 通過深度學(xué)習(xí)來進(jìn)行特征選擇：目前這種手段正在隨著深度學(xué)習(xí)的流行而成為一種手段，尤其是在計算機視覺領(lǐng)域，原因是深度學(xué)習(xí)具有自動學(xué)習(xí)特征的能力，這也是深度學(xué)習(xí)又叫unsupervised feature learning的原因。從深度學(xué)習(xí)模型中選擇某一神經(jīng)層的特征后就可以用來進(jìn)行最終目標(biāo)模型的訓(xùn)練了。整體上來說，特征選擇是一個既有學(xué)術(shù)價值又有工程價值的問題，目前在研究領(lǐng)域也比較熱，值得所有做機器學(xué)習(xí)的朋友重視。

四、大數(shù)據(jù)，數(shù)據(jù)挖掘，機器學(xué)習(xí)三者什么區(qū)別和聯(lián)系

1、大數(shù)據(jù)就是許多數(shù)據(jù)的聚合；

2、數(shù)據(jù)挖掘就是把這些數(shù)據(jù)的價值發(fā)掘出來，比如說你有過去10年的氣象數(shù)據(jù)，通過數(shù)據(jù)挖掘，你幾乎可以預(yù)測明天的天氣是怎么樣的，有較大概率是正確的；

3、機器學(xué)習(xí)嘛說到底它是人工智能的核心啦，你要對大數(shù)據(jù)進(jìn)行發(fā)掘，靠你人工肯定是做不來的，那就得靠機器，你通過一個模型，讓計算機按照你的模型去執(zhí)行，那就是機器學(xué)習(xí)啦。

五、用于數(shù)據(jù)挖掘的分類算法有哪些，各有何優(yōu)劣

1. C4.5

C4.5算法是機器學(xué)習(xí)算法中的一種分類決策樹算法,其核心算法是ID3算法.

2. The k-means algorithm 即K-Means算法

k-means algorithm算法是一個聚類算法，把n的對象根據(jù)他們的屬性分為k個分割，k < n。它與處理混合正態(tài)分布的最大期望算法很相似，因為他們都試圖找到數(shù)據(jù)中自然聚類的中心。它假設(shè)對象屬性來自于空間向量，并且目標(biāo)是使各個群組內(nèi)部的均 方誤差總和最小。

3. Support vector machines

支持向量機，英文為Support Vector Machine，簡稱SV機（論文中一般簡稱SVM）。它是一種監(jiān)督式學(xué)習(xí)的方法，它廣泛的應(yīng)用于統(tǒng)計分類以及回歸分析中。支持向量機將向量映射到一個更 高維的空間里，在這個空間里建立有一個最大間隔超平面。在分開數(shù)據(jù)的超平面的兩邊建有兩個互相平行的超平面。分隔超平面使兩個平行超平面的距離最大化

4.The Apriori algorithm

Apriori算法是一種最有影響的挖掘布爾關(guān)聯(lián)規(guī)則頻繁項集的算法。其核心是基于兩階段頻集思想的遞推算法。該關(guān)聯(lián)規(guī)則在分類上屬于單維、單層、布爾關(guān)聯(lián)規(guī)則。在這里，所有支持度大于最小支持度的項集稱為頻繁項集，簡稱頻集。

5.最大期望(EM)算法

在統(tǒng)計計算中，最大期望（EM，Expectation–Maximization）算法是在概率（probabilistic）模型中尋找參數(shù)最大似然 估計的算法，其中概率模型依賴于無法觀測的隱藏變量（Latent Variabl）。最大期望經(jīng)常用在機器學(xué)習(xí)和計算機視覺的數(shù)據(jù)集聚（Data Clustering）領(lǐng)域。