という主旨で、下記のようなエントリを書いたのですが、それからさらに Google の中の人である @kazunori_279 さんにも直接お問い合わせして頂いた結果、 temporary table には料金が掛からない 、ということがわかりました。
.@a_know @hogedigo 一時テーブルには課金されない、が正解でしたー #gcpja
— Kazunori Sato (@kazunori_279) 2014年9月17日
@a_know @hogedigo いまdaigoさんのケース見てたのですが、サポート担当が最初間違って回答したみたいですね。今朝方修正メールが届いているはずです。ですので正解は、一時テーブルは課金されない、ですね。
— Kazunori Sato (@kazunori_279) 2014年9月17日
正確なところがわかって、本当に良かった!^^ これで本当の意味で安心して、アドホックに・気軽にクエリを投げることができますね♪(もちろんスキャンサイズには引き続き注意して...w)
@hogedigo さん、 @kazunori_279 さん、ありがとうございました!
以下、元エントリ
前日のエントリの続きっぽい内容だけど。
最近大きく盛り上がっている BigQuery。いわゆるビッグデータと呼ばれるデータの解析に対しては、パフォーマンス面・コスト面において非常に大きなアドバンテージを持っていることはもう周知の事実だと思うんだけど、その手軽さ故についつい行ってしまうクエリの投げ過ぎには、注意したほうが良さそう...という話。
下記ドキュメントを読んでも書いてあるとおり、BigQuery に対してクエリを投げた結果はすべて、lifetime が 24時間の Temporary Table に出力される(別途 destinaton table を指定したときは、その指定した名前で、永続的な table が作成される)。
All synchronous query results are saved to an anonymous table with a lifetime of about 24 hours. If you want to save the data for longer than that, re-run the query asynchronously and specify a permanent destination table.
データのクエリ | BigQuery | Google Cloud
で、この temporary table が専有する領域も使用料金に加算されるかどうか、が前から気になっていて、昨日の gcp ja night で Google の中の人にも確認してみたんだけど、その場では即答は頂けなかった。
で、そのことを前日のエントリに書いておいたんだけど、それを見て頂いた @hogedigo さんが、ご自身の有料サポートを活用して、このことを質問してくれた。
@a_know 一時テーブル、やはり課金対象みたいです。24時間でちゃんと削除されて対象外になるのかは確認中。
— Daigo Ikeda (@hogedigo) 2014年9月17日
@hogedigo さんは「やはり」とおっしゃっているが、僕はどちらかというと「対象外かな〜」と楽観的に考えていたw。
ともあれ、この事実は、 BigQuery を扱う際にはアタマの片隅には置いておいたほうがいいと思う。いくら BigQuery のデータ保持費用が安い($0.026/GB)からといって、例えば「一回のクエリの結果が100MB」のクエリを「一日1000回」などというレベルで投げていると、それだけで 100GB、 $2.6 のコストだ......、、あれ、安いな?w (ちなみに、僕の記憶が定かなら、destination table を指定しない場合のクエリの結果の最大サイズは、128MB。)
それと、何気に怖いのが、 @hogedigo さんが追加で確認してくれている「 24時間でちゃんと削除されて対象外になるのか 」というところ。これの正確なところは続報を待つしかないんだろうけど、もしこれが「24時間経過すると、その temporary table は削除される」ではなく「 24時間以上経過した場合の temporary table の存在は保証しない 」程度の意味合いだと、また若干変わってくる。
たしかにBigQueryの一時テーブル、もしちゃんと24hで削除されてないと余計に課金されてそうで怖い。明示的に削除する方法なかったよね。。
— Daigo Ikeda (@hogedigo) 2014年9月17日
ということで、この点での続報が気になる方は、ぜひ @hogedigo さんをフォローしましょう。w
- 作者: Jordan Tigani,Siddartha Naidu,Sky株式会社玉川竜司
- 出版社/メーカー: オライリージャパン
- 発売日: 2015/03/23
- メディア: 大型本
- この商品を含むブログを見る