ConoHaでお手軽Hadoop＆Spark開発

筆者が所属している次世代システム研究室では，Hadoopを活用したビッグデータシステムを開発しています。以前の案件では，弊社のサービスであるGMOアプリクラウドを使用していましたが，新規案件では新しくなったConoHaを使用し，Hadoopクラスタの構築と周辺のアプリケーション開発を行いました。以下，その設計と料金の具体的な事例を紹介したいと思います。

ConoHaで構築するHadoopクラスタのインスタンス構成と料金

試験などのための開発環境として，図1に示す構成を設計しました。Hadoopディストリビューションは，Hortonworks社のHortonworks Data Platform（HDP）2.3を使用しています。HDPにあらかじめ用意されているAmbari，YARN，HBase，Hive，SparkなどのHadoopエコシステムをフル活用しています（表1）⁠。

リージョンは「日本」⁠，OSはゲートウェイがCentOS 7.1，それ以外はCentOS 6.6を使用します。Hadoopのノード系インスタンスにはメモリ8GBは必要です。インスタンス14台，ロードバランサ1台で，合計67,640円でHadoopクラスタを使用したシステムがConoHaで構築できます（表2）⁠。Hadoopクラスタを使ったサービスを月額7万以下で作れるのは割安だと思います。ConoHaは転送料金など使用量に関する追加料金は発生しないので，この値段が固定の月額料金となります。

システム構築作業の際にインスタンスを作って壊すことも何度かはあるため，プラス数千円が予算を通す際の値段になるでしょう。請求は1時間単位で，明細書に詳細に記載されます。

HadoopクラスタでのSparkの活用

構築したクラスタで，spark-shellのYARNクライアントモードを試してみます（YARNを使ってSparkの処理をクラスタで分散させます）⁠。レコメンドの元ネタとなるデータとしてWebページのアクセスログを解析し，「⁠ユーザごとの閲覧Webページの一覧」を算出するためSpark SQLを利用します。

1．ダミーデータの作成（1,000万レコード）

データベーステーブルの元となるアクセスログのダミーデータ（TSV）をPerlで作成します（リスト1）⁠。

#!/usr/bin/perl
for ($i=0; $i < $ARGV[0]; $i++) {
 $user_id = "uid_".int(rand ($ARGV[1]));
 $page_url = "http://maru/page/".int(rand $ARGV[2]);
 print $user_id."\t".$page_url."\n";
}

あるサイトに1万ページのURLがあり，そのサイトにアクセスした100万人のユーザが合計1,000万アクセスしたと仮定し，ログ（TSV）を生成します。

[hive@slave_node1]$./dummy.pl 10000000 1000000 10000 > dummy10m.tsv

生成したログデータは次のようなものです。

uid_1    http://maru/page/1
uid_1    http://maru/page/2
uid_2    http://maru/page/3
uid_3    http://maru/page/4
uid_3    http://maru/page/5

このデータをリスト2のようなデータ形式にSpark SQLで変換してみます。

uid_1    http://maru/page/1    http://maru/page/2
uid_2    http://maru/page/3
uid_3    http://maru/page/4    http://maru/page/5

2．テーブルにデータ（TSV）を登録

spark-sqlを起動し，データベースとテーブルを作成します。

spark-sql>
create database noda_conoha_sd4;
use noda_conoha_sd4;

CREATE TABLE raw_log_data (
  uid STRING,
  url STRING
)
ROW FORMAT DELIMITED
  FIELDS TERMINATED BY '\t'
  LINES TERMINATED BY '\n'
STORED AS TEXTFILE;

CREATE TABLE log_data (
  uid STRING,
  url STRING
)
STORED AS ORC tblproperties ("orc.compress"="SNAPPY");

TSVファイルをTEXTFILEフォーマットテーブルにロードしたあと，処理が最適化されたORCフォーマットテーブルに変換します。

spark-sql>
LOAD DATA LOCAL INPATH "./dummy10m.tsv" into table raw_log_data;
INSERT OVERWRITE TABLE log_data select uid, url from raw_log_data;

select * from log_data limit 10;
uid_387616	http://maru/page/2197
uid_734748	http://maru/page/6714
uid_982660	http://maru/page/6854