
1. 下面哪個程序負責(zé) HDFS 數(shù)據(jù)存儲。
a)NameNode
b)Jobtracker
c)Datanode
d)secondaryNameNode
e)tasktracker
2. HDfS 中的 block 默認保存幾份?
a)3 份
b)2 份
c)1 份
d)不確定
3. 下列哪個程序通常與 NameNode 在一個節(jié)點啟動?
a)SecondaryNameNode
b)DataNode
c)TaskTracker
d)Jobtracker
4. Hadoop 作者
a)Martin Fowler
b)Kent Beck
c)Doug cutting
5. HDFS 默認 Block Size
a)32MB
b)64MB
c)128MB
6. 下列哪項通常是集群的最主要瓶頸
a)CPU
b)網(wǎng)絡(luò)
c)磁盤
d)內(nèi)存
7. 關(guān)于 SecondaryNameNode 哪項是正確的?
a)它是 NameNode 的熱備
b)它對內(nèi)存沒有要求
c)它的目的是幫助 NameNode 合并編輯日志,減少 NameNode 啟動時間
d)SecondaryNameNode 應(yīng)與 NameNode 部署到一個節(jié)點
8. 下列哪項可以作為集群的管理工具
a)Puppet
b)Pdsh
c)Cloudera Manager
d)d)Zookeeper
9. 配置機架感知的下面哪項正確
a)如果一個機架出問題,不會影響數(shù)據(jù)讀寫
b)寫入數(shù)據(jù)的時候會寫到不同機架的 DataNode 中
c)MapReduce 會根據(jù)機架獲取離自己比較近的網(wǎng)絡(luò)數(shù)據(jù)
10. Client 端上傳文件的時候下列哪項正確
a)數(shù)據(jù)經(jīng)過 NameNode 傳遞給 DataNode
b)Client 端將文件切分為 Block,依次上傳
c)Client 只上傳數(shù)據(jù)到一臺 DataNode,然后由 NameNode 負責(zé) Block 復(fù)制工作
11. 下列哪個是 Hadoop 運行的模式
a)單機版
b)偽分布式
c)分布式
12. Cloudera 提供哪幾種安裝 CDH 的方法
a)Cloudera manager
b)Tar ball
c)Yum d)Rpm
13. Ganglia 不僅可以進行監(jiān)控,也可以進行告警。( )
14. Block Size 是不可以修改的。( )
15. Nagios 不可以監(jiān)控 Hadoop 集群,因為它不提供 Hadoop 支持。( )
16. 如果 NameNode 意外終止,SecondaryNameNode 會接替它使集群繼續(xù)工作。( )
17. Cloudera CDH 是需要付費使用的。( )
18. Hadoop 是 Java 開發(fā)的,所以 MapReduce 只支持 Java 語言編寫。( )
19. Hadoop 支持數(shù)據(jù)的隨機讀寫。( )
20. NameNode 負責(zé)管理 metadata,client 端每次讀寫請求,它都會從磁盤中讀取或則會寫入 metadata 信息并反饋 client 端。( )
21. NameNode 本地磁盤保存了 Block 的位置信息。( )
22. DataNode 通過長連接與 NameNode 保持通信。( )
23. Hadoop 自身具有嚴格的權(quán)限管理和安全措施保障集群正常運行。( )
24. Slave 節(jié)點要存儲數(shù)據(jù),所以它的磁盤越大越好。( )
25. hadoop dfsadmin –report 命令用于檢測 HDFS 損壞塊。( )
26. Hadoop 默認調(diào)度器策略為 FIFO( )
27. 集群內(nèi)每個節(jié)點都應(yīng)該配 RAID,這樣避免單磁盤損壞,影響整個節(jié)點運行。( )
28. 因為 HDFS 有多個副本,所以 NameNode 是不存在單點問題的。( )
29. 每個 map 槽就是一個線程。( )
30. Mapreduce 的 input split 就是一個 block。( )
31. NameNode 的 Web UI 端口是 50030,它通過 jetty 啟動的 Web 服務(wù)。( )
32. Hadoop 環(huán)境變量中的 HADOOP_HEAPSIZE 用于設(shè)置所有 Hadoop 守護線程的內(nèi)存。它默認是 200 GB。( )
33. DataNode 首次加入 cluster 的時候,如果 log 中報告不兼容文件版本,那需要 NameNode執(zhí)行“Hadoop namenode -format”操作格式化磁盤。( )
別走開,答案在后面哦!
1. 下面哪個程序負責(zé) HDFS 數(shù)據(jù)存儲。答案C datanode
a)NameNode
b)Jobtracker
c)Datanode
d)secondaryNameNode
e)tasktracker
2. HDfS 中的 block 默認保存幾份? 答案A默認3分
a)3 份
b)2 份
c)1 份
d)不確定
3. 下列哪個程序通常與 NameNode 在一個節(jié)點啟動?答案D
a)SecondaryNameNode
b)DataNode
c)TaskTracker
d)Jobtracker
此題分析:
hadoop的集群是基于master/slave模式,namenode和jobtracker屬于master,datanode和tasktracker屬于slave,master只有一個,而slave有多個SecondaryNameNode內(nèi)存需求和NameNode在一個數(shù)量級上,所以通常secondary NameNode(運行在單獨的物理機器上)和NameNode運行在不同的機器上。
JobTracker和TaskTracker
JobTracker 對應(yīng)于 NameNode
TaskTracker 對應(yīng)于 DataNode
DataNode 和NameNode 是針對數(shù)據(jù)存放來而言的
JobTracker和TaskTracker是對于MapReduce執(zhí)行而言的
mapreduce中幾個主要概念,mapreduce整體上可以分為這么幾條執(zhí)行線索:obclient,JobTracker與TaskTracker。
1、JobClient會在用戶端通過JobClient類將應(yīng)用已經(jīng)配置參數(shù)打包成jar文件存儲到hdfs,并把路徑提交到Jobtracker,然后由JobTracker創(chuàng)建每一個Task(即MapTask和ReduceTask)并將它們分發(fā)到各個TaskTracker服務(wù)中去執(zhí)行。
2、JobTracker是一個master服務(wù),軟件啟動之后JobTracker接收Job,負責(zé)調(diào)度Job的每一個子任務(wù)task運行于TaskTracker上,并監(jiān)控它們,如果發(fā)現(xiàn)有失敗的task就重新運行它。一般情況應(yīng)該把JobTracker部署在單獨的機器上。
3、TaskTracker是運行在多個節(jié)點上的slaver服務(wù)。TaskTracker主動與JobTracker通信,接收作業(yè),并負責(zé)直接執(zhí)行每一個任務(wù)。TaskTracker都需要運行在HDFS的DataNode上。
4. Hadoop 作者 答案C Doug cutting
a)Martin Fowler
b)Kent Beck
c)Doug cutting
5. HDFS 默認 Block Size 答案:B
a)32MB
b)64MB
c)128MB
(因為版本更換較快,這里答案只供參考)
6. 下列哪項通常是集群的最主要瓶頸:答案:C磁盤
a)CPU
b)網(wǎng)絡(luò)
c)磁盤IO
d)內(nèi)存
該題解析:
首先集群的目的是為了節(jié)省成本,用廉價的pc機,取代小型機及大型機。小型機和大型機有什么特點?
1.cpu處理能力強
2.內(nèi)存夠大
所以集群的瓶頸不可能是a和d
3.網(wǎng)絡(luò)是一種稀缺資源,但是并不是瓶頸。
4.由于大數(shù)據(jù)面臨海量數(shù)據(jù),讀寫數(shù)據(jù)都需要io,然后還要冗余數(shù)據(jù),hadoop一般備3份數(shù)據(jù),所以IO就會打折扣。
7. 關(guān)于 SecondaryNameNode 哪項是正確的?答案C
a)它是 NameNode 的熱備
b)它對內(nèi)存沒有要求
c)它的目的是幫助 NameNode 合并編輯日志,減少 NameNode 啟動時間
d)SecondaryNameNode 應(yīng)與 NameNode 部署到一個節(jié)點。
多選題:
8. 下列哪項可以作為集群的管理?答案:ABD
a)Puppet
b)Pdsh
c)Cloudera Manager
d)Zookeeper
9. 配置機架感知的下面哪項正確:答案ABC
a)如果一個機架出問題,不會影響數(shù)據(jù)讀寫
b)寫入數(shù)據(jù)的時候會寫到不同機架的 DataNode 中
c)MapReduce 會根據(jù)機架獲取離自己比較近的網(wǎng)絡(luò)數(shù)據(jù)
10. Client 端上傳文件的時候下列哪項正確?答案B
a)數(shù)據(jù)經(jīng)過 NameNode 傳遞給 DataNode
b)Client 端將文件切分為 Block,依次上傳
c)Client 只上傳數(shù)據(jù)到一臺 DataNode,然后由 NameNode 負責(zé) Block 復(fù)制工作
該題分析:
Client向NameNode發(fā)起文件寫入的請求。NameNode根據(jù)文件大小和文件塊配置情況,返回給Client它所管理部分DataNode的信息。
Client將文件劃分為多個Block,根據(jù)DataNode的地址信息,按順序?qū)懭氲矫恳粋€DataNode塊中。
11. 下列哪個是 Hadoop 運行的模式:答案ABC
a)單機版
b)偽分布式
c)分布式
12. Cloudera 提供哪幾種安裝 CDH 的方法?答案:ABCD
a)Cloudera manager
b)Tarball
c)Yum
d)Rpm
判斷題:
13. Ganglia 不僅可以進行監(jiān)控,也可以進行告警。( 正確)
分析:此題的目的是考Ganglia的了解。嚴格意義上來講是正確。ganglia作為一款最常用的Linux環(huán)境中的監(jiān)控軟件,它擅長的的是從節(jié)點中按照用戶的需求以較低的代價采集數(shù)據(jù)。但是ganglia在預(yù)警以及發(fā)生事件后通知用戶上并不擅長。最新的ganglia已經(jīng)有了部分這方面的功能。但是更擅長做警告的還有Nagios。Nagios,就是一款精于預(yù)警、通知的軟件。通過將Ganglia和Nagios組合起來,把Ganglia采集的數(shù)據(jù)作為Nagios的數(shù)據(jù)源,然后利用Nagios來發(fā)送預(yù)警通知,可以完美的實現(xiàn)一整套監(jiān)控管理的系統(tǒng)。
14. Block Size 是不可以修改的。(錯誤 )
分析:它是可以被修改的Hadoop的基礎(chǔ)配置文件是hadoop-default.xml,默認建立一個Job的時候會建立Job的Config,Config首先讀入hadoop-default.xml的配置,然后再讀入hadoop-site.xml的配置(這個文件初始的時候配置為空),hadoop-site.xml中主要配置需要覆蓋的hadoop-default.xml的系統(tǒng)級配置。
15. Nagios 不可以監(jiān)控 Hadoop 集群,因為它不提供 Hadoop 支持。(錯誤 )
分析:Nagios是集群監(jiān)控工具,而且是云計算三大利器之一
16. 如果 NameNode 意外終止,SecondaryNameNode 會接替它使集群繼續(xù)工作。(錯誤 )
分析:SecondaryNameNode是幫助恢復(fù),而不是替代,如何恢復(fù),可以查看
17. Cloudera CDH 是需要付費使用的。(錯誤 )
分析:第一套付費產(chǎn)品是Cloudera Enterpris,Cloudera Enterprise在美國加州舉行的 Hadoop 大會 (Hadoop Summit) 上公開,以若干私有管理、監(jiān)控、運作工具加強 Hadoop 的功能。收費采取合約訂購方式,價格隨用的 Hadoop 叢集大小變動。
18. Hadoop 是 Java 開發(fā)的,所以 MapReduce 只支持 Java 語言編寫。(錯誤 )
分析:rhadoop是用R語言開發(fā)的,MapReduce是一個框架,可以理解是一種思想,可以使用其他語言開發(fā)。
19. Hadoop 支持數(shù)據(jù)的隨機讀寫。(錯 )
分析:lucene是支持隨機讀寫的,而hdfs只支持隨機讀。但是HBase可以來補救。HBase提供隨機讀寫,來解決Hadoop不能處理的問題。HBase自底層設(shè)計開始即聚焦于各種可伸縮性問題:表可以很“高”,有數(shù)十億個數(shù)據(jù)行;也可以很“寬”,有數(shù)百萬個列;水平分區(qū)并在上千個普通商用機節(jié)點上自動復(fù)制。表的模式是物理存儲的直接反映,使系統(tǒng)有可能提高高效的數(shù)據(jù)結(jié)構(gòu)的序列化、存儲和檢索。
20. NameNode 負責(zé)管理 metadata,client 端每次讀寫請求,它都會從磁盤中讀取或則會寫入 metadata 信息并反饋 client 端。(錯誤)
此題分析:
NameNode 不需要從磁盤讀取 metadata,所有數(shù)據(jù)都在內(nèi)存中,硬盤上的只是序列化的結(jié)果,只有每次 namenode 啟動的時候才會讀取。
1)文件寫入
Client向NameNode發(fā)起文件寫入的請求。
NameNode根據(jù)文件大小和文件塊配置情況,返回給Client它所管理部分DataNode的信息。
Client將文件劃分為多個Block,根據(jù)DataNode的地址信息,按順序?qū)懭氲矫恳粋€DataNode塊中。2)文件讀取
Client向NameNode發(fā)起文件讀取的請求。
21. NameNode 本地磁盤保存了 Block 的位置信息。( 個人認為正確,歡迎提出其它意見)
分析:DataNode是文件存儲的基本單元,它將Block存儲在本地文件系統(tǒng)中,保存了Block的Meta-data,同時周期性地將所有存在的Block信息發(fā)送給NameNode。NameNode返回文件存儲的DataNode的信息。
Client讀取文件信息。
22. DataNode 通過長連接與 NameNode 保持通信。( )
這個有分歧:具體正在找這方面的有利資料。下面提供資料可參考。
首先明確一下概念:
(1).長連接
Client方與Server方先建立通訊連接,連接建立后不斷開,然后再進行報文發(fā)送和接收。這種方式下由于通訊連接一直存在,此種方式常用于點對點通訊。
(2).短連接
Client方與Server每進行一次報文收發(fā)交易時才進行通訊連接,交易完畢后立即斷開連接。此種方式常用于一點對多點通訊,比如多個Client連接一個Server.
23. Hadoop 自身具有嚴格的權(quán)限管理和安全措施保障集群正常運行。(錯誤 )
hadoop只能阻止好人犯錯,但是不能阻止壞人干壞事
24. Slave 節(jié)點要存儲數(shù)據(jù),所以它的磁盤越大越好。( 錯誤)
分析:一旦Slave節(jié)點宕機,數(shù)據(jù)恢復(fù)是一個難題
25. hadoop dfsadmin –report 命令用于檢測 HDFS 損壞塊。(錯誤 )
26. Hadoop 默認調(diào)度器策略為 FIFO(正確 )
27. 集群內(nèi)每個節(jié)點都應(yīng)該配 RAID,這樣避免單磁盤損壞,影響整個節(jié)點運行。(錯誤 )
分析:首先明白什么是RAID,可以參考百科磁盤陣列。這句話錯誤的地方在于太絕對,具體情況具體分析。題目不是重點,知識才是最重要的。因為hadoop本身就具有冗余能力,所以如果不是很嚴格不需要都配備RAID。具體參考第二題。
28. 因為 HDFS 有多個副本,所以 NameNode 是不存在單點問題的。(錯誤 )
29. 每個 map 槽就是一個線程。(錯誤 )
分析:首先我們知道什么是map 槽,map 槽->map slotmap slot 只是一個邏輯值 ( org.apache.hadoop.mapred.TaskTracker.TaskLauncher.numFreeSlots ),而不是對應(yīng)著一個線程或者進程
30. Mapreduce 的 input split 就是一個 block。(錯誤 )
31. NameNode 的 Web UI 端口是 50030,它通過 jetty 啟動的 Web 服務(wù)。(錯誤 )
32. Hadoop 環(huán)境變量中的 HADOOP_HEAPSIZE 用于設(shè)置所有 Hadoop 守護線程的內(nèi)存。它默認是 200 GB。( 錯誤)
hadoop為各個守護進程(namenode,secondarynamenode,jobtracker,datanode,tasktracker)統(tǒng)一分配的內(nèi)存在hadoop-env.sh中設(shè)置,參數(shù)為HADOOP_HEAPSIZE,默認為1000M。
33、33. DataNode 首次加入 cluster 的時候,如果 log 中報告不兼容文件版本,那需要 NameNode執(zhí)行“Hadoop namenode -format”操作格式化磁盤。(錯誤 )
分析:
首先明白介紹,什么ClusterID
ClusterID
添加了一個新的標識符ClusterID用于標識集群中所有的節(jié)點。當(dāng)格式化一個Namenode,需要提供這個標識符或者自動生成。這個ID可以被用來格式化加入集群的其他Namenode。
二次整理
有的同學(xué)問題的重點不是上面分析內(nèi)容:內(nèi)容如下:
這個報錯是說明 DataNode 所裝的Hadoop版本和其它節(jié)點不一致,應(yīng)該檢查DataNode的Hadoop版本
數(shù)據(jù)分析咨詢請掃描二維碼
若不方便掃碼,搜微信號:CDAshujufenxi
LSTM 模型輸入長度選擇技巧:提升序列建模效能的關(guān)鍵? 在循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)家族中,長短期記憶網(wǎng)絡(luò)(LSTM)憑借其解決長序列 ...
2025-07-11CDA 數(shù)據(jù)分析師報考條件詳解與準備指南? ? 在數(shù)據(jù)驅(qū)動決策的時代浪潮下,CDA 數(shù)據(jù)分析師認證愈發(fā)受到矚目,成為眾多有志投身數(shù) ...
2025-07-11數(shù)據(jù)透視表中兩列相乘合計的實用指南? 在數(shù)據(jù)分析的日常工作中,數(shù)據(jù)透視表憑借其強大的數(shù)據(jù)匯總和分析功能,成為了 Excel 用戶 ...
2025-07-11尊敬的考生: 您好! 我們誠摯通知您,CDA Level I和 Level II考試大綱將于 2025年7月25日 實施重大更新。 此次更新旨在確保認 ...
2025-07-10BI 大數(shù)據(jù)分析師:連接數(shù)據(jù)與業(yè)務(wù)的價值轉(zhuǎn)化者? ? 在大數(shù)據(jù)與商業(yè)智能(Business Intelligence,簡稱 BI)深度融合的時代,BI ...
2025-07-10SQL 在預(yù)測分析中的應(yīng)用:從數(shù)據(jù)查詢到趨勢預(yù)判? ? 在數(shù)據(jù)驅(qū)動決策的時代,預(yù)測分析作為挖掘數(shù)據(jù)潛在價值的核心手段,正被廣泛 ...
2025-07-10數(shù)據(jù)查詢結(jié)束后:分析師的收尾工作與價值深化? ? 在數(shù)據(jù)分析的全流程中,“query end”(查詢結(jié)束)并非工作的終點,而是將數(shù) ...
2025-07-10CDA 數(shù)據(jù)分析師考試:從報考到取證的全攻略? 在數(shù)字經(jīng)濟蓬勃發(fā)展的今天,數(shù)據(jù)分析師已成為各行業(yè)爭搶的核心人才,而 CDA(Certi ...
2025-07-09【CDA干貨】單樣本趨勢性檢驗:捕捉數(shù)據(jù)背后的時間軌跡? 在數(shù)據(jù)分析的版圖中,單樣本趨勢性檢驗如同一位耐心的偵探,專注于從單 ...
2025-07-09year_month數(shù)據(jù)類型:時間維度的精準切片? ? 在數(shù)據(jù)的世界里,時間是最不可或缺的維度之一,而year_month數(shù)據(jù)類型就像一把精準 ...
2025-07-09CDA 備考干貨:Python 在數(shù)據(jù)分析中的核心應(yīng)用與實戰(zhàn)技巧? ? 在 CDA 數(shù)據(jù)分析師認證考試中,Python 作為數(shù)據(jù)處理與分析的核心 ...
2025-07-08SPSS 中的 Mann-Kendall 檢驗:數(shù)據(jù)趨勢與突變分析的有力工具? ? ? 在數(shù)據(jù)分析的廣袤領(lǐng)域中,準確捕捉數(shù)據(jù)的趨勢變化以及識別 ...
2025-07-08備戰(zhàn) CDA 數(shù)據(jù)分析師考試:需要多久?如何規(guī)劃? CDA(Certified Data Analyst)數(shù)據(jù)分析師認證作為國內(nèi)權(quán)威的數(shù)據(jù)分析能力認證 ...
2025-07-08LSTM 輸出不確定的成因、影響與應(yīng)對策略? 長短期記憶網(wǎng)絡(luò)(LSTM)作為循環(huán)神經(jīng)網(wǎng)絡(luò)(RNN)的一種變體,憑借獨特的門控機制,在 ...
2025-07-07統(tǒng)計學(xué)方法在市場調(diào)研數(shù)據(jù)中的深度應(yīng)用? 市場調(diào)研是企業(yè)洞察市場動態(tài)、了解消費者需求的重要途徑,而統(tǒng)計學(xué)方法則是市場調(diào)研數(shù) ...
2025-07-07CDA數(shù)據(jù)分析師證書考試全攻略? 在數(shù)字化浪潮席卷全球的當(dāng)下,數(shù)據(jù)已成為企業(yè)決策、行業(yè)發(fā)展的核心驅(qū)動力,數(shù)據(jù)分析師也因此成為 ...
2025-07-07剖析 CDA 數(shù)據(jù)分析師考試題型:解鎖高效備考與答題策略? CDA(Certified Data Analyst)數(shù)據(jù)分析師考試作為衡量數(shù)據(jù)專業(yè)能力的 ...
2025-07-04SQL Server 字符串截取轉(zhuǎn)日期:解鎖數(shù)據(jù)處理的關(guān)鍵技能? 在數(shù)據(jù)處理與分析工作中,數(shù)據(jù)格式的規(guī)范性是保證后續(xù)分析準確性的基礎(chǔ) ...
2025-07-04CDA 數(shù)據(jù)分析師視角:從數(shù)據(jù)迷霧中探尋商業(yè)真相? 在數(shù)字化浪潮席卷全球的今天,數(shù)據(jù)已成為企業(yè)決策的核心驅(qū)動力,CDA(Certifie ...
2025-07-04CDA 數(shù)據(jù)分析師:開啟數(shù)據(jù)職業(yè)發(fā)展新征程? ? 在數(shù)據(jù)成為核心生產(chǎn)要素的今天,數(shù)據(jù)分析師的職業(yè)價值愈發(fā)凸顯。CDA(Certified D ...
2025-07-03