たにみず@BigQuery初心者向けアカウント @bqtanimizu
DWH設計/開発/保守/利活用支援をやってるフリーランスのシステムエンジニア。 主にGCPのBigQuery。経験5年。 企画から製品開発・品質管理まで幅広く携わっています。 Joined September 2022-
Tweets34
-
Followers3
-
Following1
-
Likes37
当アカウントは2022年09月からスタートし、ブログ構築の可能性を検討してきました。 公開準備が整いつつあるので、近日、Twitter上でのテスト運用を終了し、本来のアカウントの運用にシフトします。
初心者は、自分が書いたクエリが本当に正しいのか、確認することに苦労するはず。 まずはWITH句を使って適切に処理を区切りましょう。 そのWITH句それぞれについて、デバッグするためのクエリを書きましょう。 実はコツがあるんですが、まずはそこから。 #BigQuery
エラーの文言に注目する癖を付けましょう。 特に初期は、この文言だったらこの辺に問題無いか見直す、といった対応方法までメモして書き溜めることが大事。 見慣れない構文エラーが表示されたら、表示されている行番号とは別のところに問題があることが多いです。 #BigQuery
クエリを書く時は、WITH句で最初の方に、使うテーブルを全部書き出しきってしまうことをオススメします。 クエリを読む人は最初に、このクエリはどんなテーブルを使ってるのかを読み解くので。 最後まで全部読まないと分からないのはツラい。 ※パフォーマンス面では最善手ではないです。 #BigQuery
テーブルの誤削除は一週間以内であれば復旧可能です。 ビューなどは現状、INFORMATION_SCHEMAなど使ってバックアップを取ってないと復旧できません。 リスク対策の一つとしてご検討ください。 #BigQuery
初心者あるある。 NULLの挙動を思い違いしてて、間違った抽出結果を出してしまう。特にWHERE句。 使おうとしているカラムにはNULLが含まれるのか、ちゃんと確認してから使いましょう。 google.com/search?q=sql+n… #BigQuery
大きいテーブル同士をJOINしようとした時、結合キーのばらつき具合によっては、パフォーマンスが大きく下がります。 クエリの最適化を行う時に見落としがちなポイント。 クエリが重くてやってらんない時に見直してみましょう。 #BigQuery
組織でBigQueryを運用する上で思ってること。 料金をがっつり下げなきゃいけない状況じゃない限り、クエリの可読性を優先した方が良い、と思ってます。 もちろん両立が理想。 ただ現実では、料金も可読性も放っておいて抽出結果だけ優先される場面が多いですよね。 #BigQuery
CURRENT_DATE()を使ってる方は多いでしょうけど、年末ですし、抽出対象期間を見直してみませんか? 過去N年分といった動的期間指定ならば、年越しでレポートが壊れないかご確認を。 20XX/01/01以降といった静的期間指定ならば、時間経過でクエリが重くなっていないかご確認を。 #BigQuery
「予約語」ってご存じでしょうか? 想定外の挙動の元なので、AS句で別名を付ける時には予約語を使わないように普段から気を付けましょう。 google.com/search?q=SQL+%… 予約語だと文字色が変わるので、それで判断してもOK。 #SQL #BigQuery
勉強し始めたばかりの方向け。 頑張って書いたクエリでエラーが出ると心折れそうになりますよね。 その時のエラーメッセージと、どうやって解消したかはメモしておきましょう。 自分のためだけでなく、今後後輩に教える時の資産になりますよ! #BigQuery
SQL初心者の方にはハードル高いですが、リファレンスを読解できると独学で成長し易いです。 一字一句理解するのはほぼ無理。 使いたい関数を探せること、どんな風に書けば使えるかなんとなく分かること、以上2点を目標にしましょう。 cloud.google.com/bigquery/docs/… #BigQuery
すーぷ @consomme_jp
202 Followers 337 Followingmochiko @mochiko23651342
42 Followers 160 Following データ加工、BIツールを使った可視化を中心にしています。Python、PowerBI、Tableau、SQLなど。SE→Webディレクター→データ関連Satoshi Kaiki Arai (�.. @Sebastian0112
59 Followers 176 Following ・外資企業のデータマネジャー&社内SE ・パソコン一緒に買いに行く人 大分市出身 鉄道とQMAとゲーム実況と自作PCが好きな某北欧外資の変人。スタートアップを思い立って、未だに何もしていない人。 秋葉原に良く出没 Tech Camp103期卒 お仕事はDMへ やりだしたら止まらないがやるまでが長いGoogle Cloud Japan @googlecloud_jp
70K Followers 92 Following Google の企業向けクラウド ソリューションです。Google 各種サービスを支えるインフラ、ツール、プラットフォームを提供する Google Cloud Platform や、業務効率化を支援する Google Workspace、Google Maps Platform 等を提供しています。今日もお疲れさまでした🌒 #今日の積み上げ #BigQuery #SQL これが読めば読むほど神書だった。本当に、これからBigQuery触る人全員買うべきだと思う。1ヶ月前に戻って、1文ずつググってたわたしに与えたい🙌ルーティンも全部こなせたし、幸先良い週のスタートでした☺️ amzn.to/3Z0Za8u
BigQueryの少し凝った使い方メモ(プログラミング) #BigQuery #GCP #SQL #データ分析 kwbtblog.com/entry/2023/02/…
BigQueryの少し凝った使い方メモ(スケジュールされたクエリ) #BigQuery #GCP #SQL #データ分析 kwbtblog.com/entry/2023/03/…
備忘録 BigQueryのカラム名を変更する方法 カラム名変えられるの今まで知らなかった。。。 一瞬でできるんですねーーー ALTER TABLE `テーブルID` RENAME COLUMN "元のカラム名" TO "変更するカラム名"; #bigquery
京橋付近で用事がありましたが、 なんか疲れたので来週にスキップかなあ GoogleCloud、触ったことないのでちょっと触れてみる。ムズいサービスではなく、#BigQuery から #GoogleCloud
久しぶりにQiita書こう! 最近は全然アウトプットできてなかったから、どんどん出して行こう。 #Qiita #Lookerstudio #BigQuery
某社員の #BigQuery 使用料が通常より20万円/月増えたので、昔話題になったBigQueyで150万円を思い出した。 ちなみに理由はTableauがライブ接続していたため。テーブルが大きすぎて抽出できないからライブにしたらしい。 そんな重いデータ量使うほど重要なレポートじゃないのに。。。
GAの並べ替えの裏側を手書きしているような感じがする。 細かいデータをとってこれそうな予感がする。 #BigQuery
クライアントのBigqueryに蓄積する場合、権限ってどのロールでもらえばいいんだろう。 権限周り、全然わからん #Lookerstudio #Bigquery
#BigQuery と戦ってる... データ解析や可視化するときにリージョン跨いだ複数のDatasetsを一度一つにまとめるべきか、バラけたままクエリを打って運用していいか悩んでおる。
GCPの強みはデータ分析とゆうことで代表サービスにBigQueryが有名です。 特に有利だと感じたのは分析時に都度必要なコンピュータ量をGCP側で計算してジャストインタイムで提供してくれるためAWSやAzureのように常時コンピュータリソースを張る必要がないからコスト的にも非常に有利。 #BigQuery
BigQueryのデータをLookerStudioで可視化してみたが、思っていたよりも簡単 ちょっと癖があるところもあるけど 30分くらいで作った割には好評だったし、これからもたまにやってみよ まずは課題設定、目的設定から! #BigQuery #LookerStudio #見える化
どなたかSQLとBigQueryに詳しい方いませんか? すでにあるテーブルにカラムを一つ追加する方法を教えてほしいです。。 #駆け出しエンジニアと繋がりたい #エンジニア #SQL #BigQuery
BigQueryの無料枠を使っていきたく、試しにクエリを実行したはずですが現在の利用状況みたいなのはどこで確認できるのだろう #BigQuery #LookerStudio
BigQueryの勉強をしたいと思い、無料のサンドボックス環境を作成しました。その手順をまとめましたので、BigQueryを試してみたい方は是非ご覧ください。 mochi-mochi-mochiko.com/google-bigquer… #BigQuery #GCP #SQL