Map-Task分割

2018-04-04 11:19 更新

Map-Task分割

默認(rèn)的 HBase MapReduce Splitter

當(dāng) TableInputFormat 用于在 MapReduce 作業(yè)中發(fā)送 HBase 表時(shí),其分割器將為表的每個(gè)區(qū)域創(chuàng)建一個(gè)映射任務(wù)。因此,如果表格中有 100 個(gè)區(qū)域,則無論在“掃描(Scan)”中選擇多少個(gè)列族,該作業(yè)都會有 100 個(gè) map-task。 

自定義分配器

對于那些有興趣在實(shí)現(xiàn)自定義的分割器的人,請參見 TableInputFormatBase 中 getSplits 的方法。這是 map-task 分配的邏輯所在。

以上內(nèi)容是否對您有幫助:
在線筆記
App下載
App下載

掃描二維碼

下載編程獅App

公眾號
微信公眾號

編程獅公眾號