Créons une table HBase simple à partir de zéro !
Il existe plusieurs façons de créer une table HBase et de la remplir :chargement en bloc, shell hbase, ruche avec HBaseStorageHandler, etc.
Ici, nous allons utiliser la classe ImportTsv qui vise à analyser le fichier .tsv pour l'insérer dans un table HBase existante.
Tout d'abord, récupérons quelques données !
Téléchargez access.tsv sur n'importe quelle machine de votre cluster :il s'agit d'un fichier compressé de 2 Go contenant des exemples de données séparées par des tabulations, contenant des colonnes rowkey, date, refer-url et http-code, et placez-le sur HDFS.
[root@sandbox ~]# gunzip access.tsv.gz
[root@sandbox ~]# hdfs dfs -copyFromLocal ./access.tsv /tmp/
Nous devons maintenant créer la table dans le shell HBase ; il ne contiendra qu'une seule ColumnFamily pour cet exemple
[root@sandbox ~]# hbase shell
hbase(main):001:0> create 'access_demo','cf1'
0 row(s) in 14.2610 seconds
Et lancez l'import avec la classe ad hoc, sélectionnez les colonnes (n'oubliez pas la HBASE_ROW_KEY qui pourrait être n'importe laquelle des colonnes, c'est donc la première ici).
La syntaxe est hbase JAVA_CLASS -DPARAMETERS TABLE_NAME FILE
Notez que vous pouvez spécifier le séparateur tsv '-Dimporttsv.separator=,' et que vous pouvez évidemment ajouter différentes familles de colonnes cf1:field1,cf1:field2,cf2:field3,cf2:field4
[root@sandbox ~]# hbase org.apache.hadoop.hbase.mapreduce.ImportTsv -Dimporttsv.columns=HBASE_ROW_KEY,cf1:date,cf1:refer-url,cf1:http-code access_demo /tmp/access.tsv
2015-05-21 19:55:38,144 INFO [main] mapreduce.Job: Job job_1432235700898_0002 running in uber mode : false
2015-05-21 19:55:38,151 INFO [main] mapreduce.Job: map 0% reduce 0%
2015-05-21 19:56:00,718 INFO [main] mapreduce.Job: map 7% reduce 0%
2015-05-21 19:56:03,742 INFO [main] mapreduce.Job: map 21% reduce 0%
2015-05-21 19:56:06,785 INFO [main] mapreduce.Job: map 65% reduce 0%
2015-05-21 19:56:10,846 INFO [main] mapreduce.Job: map 95% reduce 0%
2015-05-21 19:56:11,855 INFO [main] mapreduce.Job: map 100% reduce 0%
2015-05-21 19:56:13,948 INFO [main] mapreduce.Job: Job job_1432235700898_0002 completed successfully
Vérifions :
[root@sandbox ~]# hbase shell
hbase(main):001:0> list
TABLE
access_demo
iemployee
sales_data
3 row(s) in 9.7180 seconds
=> ["access_demo", "iemployee", "sales_data"]
hbase(main):002:0> scan 'access_demo'
ROW COLUMN+CELL
# rowkey column=cf1:date, timestamp=1432238079103, value=date
# rowkey column=cf1:http-code, timestamp=1432238079103, value=http-code
# rowkey column=cf1:refer-url, timestamp=1432238079103, value=refer-url
74.201.80.25/san-rafael-ca/events/sho column=cf1:date, timestamp=1432238079103, value=2008-01-25 16:20:50
w/80343522-eckhart-tolle
74.201.80.25/san-rafael-ca/events/sho column=cf1:http-code, timestamp=1432238079103, value=200
w/80343522-eckhart-tolle
74.201.80.25/san-rafael-ca/events/sho column=cf1:refer-url, timestamp=1432238079103, value=www.google.com/search
w/80343522-eckhart-tolle
calendar.boston.com/ column=cf1:date, timestamp=1432238079103, value=2008-01-25 19:35:50
calendar.boston.com/ column=cf1:http-code, timestamp=1432238079103, value=200
Ça y est !