Treasure Data - Support Engineering Team blog

トレジャーデータのサポートエンジニアリングチームのブログです。

データ連携

Could not load private key によるジョブの失敗

こんにちは。Treasure Dataサポートチームの小嶋です。 SFTP のインポートあるいはエクスポートジョブにて、Could not load private key ~ というエラーで失敗した場合の原因と確認すべき点を紹介します。 事例 このエラーは公開鍵/秘密鍵で SFTP の認証を行…

NumberFormatExceptionによりファイルをインポートできない

こんにちは。Treasure Dataの小嶋です。 今回はお問合せいただくことが多い NumberFormatException というエラーについて解説します。 事例 原因 対策 カラムを文字列としてインポートするよう定義する CSVファイルを修正して数値以外の文字を取り除く 無効…

カラム名が重複してるので外部サービスに出力できない

こんにちは。Treasure Data サポートの大村です。 今回はTreasure Data から外部サービスに出力する際にエラーとなる例の1つであるカラム名の重複についてご紹介していきます。 このタイプのエラーではクエリ単体で実行するとエラーにはならないのですが、そ…

Assume Roleのすすめ

みなさん、こんにちは本記事ではS3 v2コネクターにて実装されたAssume Roleでの認証について説明をしていきます。 実は6月頃からS3 v2でサポートされていたのですが、より多くの人に知ってもらい使ってもらうためにも こちらのブログでも紹介いたします。Tre…

インポート時に意図していないカラムができてしまう現象の原因・回避方法

なぜこのような事象が発生するのか どのように対応すれば良いのか 未然にこの事象を防ぐには 既にカラム名_1が発生してしまった場合の対応 補足:GUI上のSourceからカラム名を変更する こんにちは。Treasure Dataサポートの佐藤です。 日頃Treasure Dataを使…

文字コードについて

こんにちは、Treasure Data(TD) サポートの伊藤です。 今回はTDを利用する上で気にすることがあるであろう、文字コードについて取り上げたいと思います。 文字コードとは ASCII(シングルバイト文字) UTF-8 や S-JIS(マルチバイト文字) TDを取り扱う上での文…

Incremental Loading とは

こんにちは、Treasure Data(TD) サポートの伊藤です。 今回は差分インポートするための機能である Incremental Loading 機能について触れようと思います。 差分インポートとは Incremental Loadingを使うには 差分判定ロジックについて 辞書式ソートによる判…

Treasure Data 概要 - Export編

こんにちは、Treasure Data(TD) サポートの伊藤です。 前回のインポート編に続き、エクスポート編として記事を書こうと思います。 インポートとは異なりエクスポートは機能数が少ないので、とっつきやすく読みやすいと思います。 エクスポートとは Result Ex…

Treasure Data 概要 - Import編

こんにちは、Treasure Data(以後TD) サポートの伊藤です。 TDは様々な機能を提供しており、利用者ができることが多岐に渡る反面、施策を実現しようとしたときにどういった選択肢があるのか把握しづらい面があるかと思います。 そこで、今さらではありますが…

Data ConnectorのJobでskipped lineがでる理由

トレジャーデータサポートの橘です。 最初のエントリーを書くことになりやや緊張しております。 このエントリーではよくお問い合わせを受ける想定よりも件数が少ない、または1件もデータがインポートされていないという事象についてお話をしたいと思います。…