のた犬のうまい猫めし

どら猫が作る、のた犬のための飯、略称、どら飯について語りつつ、各種技術、経済系セミナーに参加した報告、OSSいじってみた等のネタを入れていきます。更新情報はtwitterの@nota_inuにて。

セミナー「オープンソースBI勉強会 #18 Pentaho CTools」

<前置き>

ちょっとBIツール(BusinessInteligence)についてなんとかしなきゃいけなくなっているので、OSS関連のBIツールの状況について確認してみたく参加。Pentahoは入れてみてちょっと試しているところなう。当勉強会は初参加。


いくつかのテーマでグルグルと回しているらしい。定形レポートはあまり人気がなさそうで飛ばすかも、とかw。

<Pentaho前置き>

Webdetail社が開発していて2013年にPentahoに買収された。ソフトは無料で提供し、チュートリアル部分を有償で提供するビジネスモデル。

<デモ@CDE>

Webブラウザからログイン。右上のアイコンでもろもろ操作(レイアウト、データソース(書類型)、コンポーネントパネル(三角形の))。HTML、JavaScriptの知識があれば自由に表現できる。JavaScriptのライブラリを用いて表現できるものになっている。jQueryとかいろいろ入っているのを利用しつつ。なんかいろいろと追加もできるとか。
テーブルやグラフ(折れ線とか円とか)はインタラクティブ。TwitterBootstrapがデフォルトで入っている。CSSとかも書くスペースがある。

<質問>

ソース管理どうする? → サーバのほうで管理できる。GitHubとかと親和性が良い。あまり管理していなかったりするが。

 

<ハンズオン>

注:Saika導入部分以降、ついていけなくなった(泣)

*****

CDEはCommunity Dashboard Editorの略。

ログイン後、HomeのMarketplace選択。Saiku Analyticsを選択肢、Versionを2.6を選択し(デフォルトは3.xx)、installボタンを押す。一度停止し、再度起動する。

SteelWheelsSalesデモ選択。MeasureからQuantity、Sales、DimensionsからCountry選択。
サンプルデータをPentahoにUploadする。BrowseFilesに変更し、Foldersのadminを選択肢、右の方にあるNewFolderで、フォルダ名をdashboard_sample2に。フォルダを選び、右のUploadを選択し、配布物のdashboard_sample.zipを選択。Filesにずらずら出てくるので、dashboard_sample1選択(CDEと書かれた青いアイコンあるもの)。グラフが出てくる。
右の方に国別フィルタ、売上年度フィルタがある。フィルタを変更するとチャートの内容が切り替わる。
Newで新規のダッシュボード。タブを右クリックし、Open Tab in New WindowでYesで、余計なウインドウがない状態で表示される。(ブラウザの新しいタブで表示される)
右上のアイコンのDBっぽいものを選択。Add DowはクリックするとどんどんRowが増える。バツアイコンで削除できる。
Rowの中にColumnを2つ作る。右側でNameを指定し、filter1、filter2。さらにRowにColumnにmainChart、さらにRowにColumnにdetail1作る。(画面をいくつかの区分に分割している。縦に3つ、横に2、1,1。そこまでできたら画面上の「Save」。home/admin/にsample3と名前つけて保存。
右上に、目っぽいアイコンがあるので、押す。これだけでは真っ白な画面が出てくる。右上バツでClose。
Datasourceパネル(右上のノート2つ重なったようなアイコン)をクリック。一番左上のWizardsからOpen Selector Wizard選択。Cubeが表示されているので、SteelWheels選択。2つ目は自動的に選択される。下のMarketsを展開し、Countryをドラッグし、Rowsの中に放り込む。すると国別フィルタができる。クリックすると上にPreview出る。右上でNameでcountrySelector記入しておく。OKボタンで保存。戻ってSave。
再度目のアイコンでPreviewすると、フィルタが登場している。閉じる。
コンポーネントパネル(右上のアイコンで三角形の)選択。ComponentsにOLAP Parameter、Select Componentがある。Select Component選択し、右側のPropertiesでHtmlObjectで選択肢からfilter1を選択。
DataSourceに戻る。countrySelectorと同様にyearSelector作成。再度SteelWheels選択、Time内のYears選択肢、Rowsにドラッグ。名前をyearSelectorにする。HtmlObjectはfilter2指定。TopCountは無し選択。OKボタン押し、Save。
OLAP QueryはMDX。SaikuのGUIGUI指定もできる。DataSourceに戻り、Saiku OLAP Wizard選択。New Saiku Query選択肢、SteelWheelsSales選択。ColumnsにYear、Quantity選択。ProductのLineをRowsに。FilterにMarketsのCountryを追加。国一覧が出るのでJapan選択して右側にしておく。OKボタンを押す。名前を、orapQuery_TimeDataにする。
右側のPropertyからjndiを選択し、SampleData、Mondrian schemaはSteelWheels選択。
コンポーネントパネル(△)を選択。左のChartsを選択肢、Stacked Area Chart選択。NameはoverviewTimeChart選択。DatasourceはolapQuery_TimeData選択。一度保存し、Preview。国と年とのセレクタが表示されている。
コンポーネントパネルに戻り、Heightを300に指定。HtmlObjectsをmainChartに。すると、Previewでグラフが描画されているのを確認できる。
DataSourceで、olapQuery_TimeDataを選択肢、Queryを選択肢て編集ボタンを押し、WHEREを切り取り、一度保存しておき(Markets.Japan.Japanとか書かれている)、{${country}}に変更する。Parametersをクリックし、Addボタンを押し、Nameはcountry、Valueはテキストに保存した値(ダッシュボード起動した初期値)を入れ、OK。
コンポーネントで、Stacked Area Chartを選び、PropertyでParameterで、Argにcountry、ValueはCountrySelector選択。ListenersはcountrySelector選択。すると、国の選択肢を変更するとグラフが変わるようになった。(プレビューで。)
プレビューはグラフがアニメーションするが、アニメーションを変えたい場合、コンポーネントで、プロパティの右、Advanced Propertiesで、一番下の方、animateをFalseに変更。するとアニメーションされずにサクッと切り替わる。


チュートリアルビデオが、「HOWTO Pentaho Modeling and Dashboards」として上がっている。今回のハンズオンはそこのビデオ参考にしてあるので、見てほしい、とのこと。

www.youtube.com

 


<ライトニングトーク@Saiku Chart Plus>

都道府県で色を付ける時に、都道府県のおしりを切るように修正する。と、京都が認識されなくなる。

 

 

 <ライトニングトーク@SQLServer2016(de:codeにて)>

de:code(http://www.microsoft.com/ja-jp/events/decode/2015/default.aspx)に参加しての報告。
業務系・分析系の統合、クラウド拡張あたりが大きいところか。R言語の分析サービス。インメモリ。ストレッチテーブル(一つのテーブルがオンプレミスと離れたところとまたがっている)。DBの暗号化とかセキュリティ的拡張。
イベントとしてはかなり盛り上がっているとか。マウスコンピュータがWindows Phone展示していたとか。

Jedoxロードショー2015東京 参加レポート

BIツール調査の一環として、Jedoxロードショー2015東京に参加。(http://ksk-anl.com/archives/998) Jedox社ワールドツアーイベントらしい。(KSKアナリティクス)
東京での開催は3年連続三回目だとか。

 

【製品紹介セッション】

Jedox社(ドイツ)のCTO Matthias Krämer氏の講演。

  • Jedoxに関する8つの数字の紹介。2002年ドイツ設立、40%/年の成長。140000ユーザ、1500組織、25の言語、125国のユーザ、150のビジネスパートナー、1つのBIでの提供。
  • Jedoxが成功した理由:Excelのインタフェース。BI&PerformanceManagement(PM)。BIは過去データ分析、PMは将来の予測、の両方を提供。Innovative(インメモリDB、ParallelProcessing、Cloud、Mobile)。Money(LowCost、FastResults(短期実装)、MinimalRisk(リスクが低い))。
  • Excel:現在最も使われているBI&PMツール。LowCost、Simple、Accessible、Fast、Flexible。ただ整合性、一貫性、エラー、など問題もある。Jedox Philosophyとして、Excelの利点をキープしつつ、問題をなくしていく。
  • Excelだけでは、Create Template, Load Initial Data, Distribute Sheets ,Data Entry, Collect Data, Monitor Progress ,Validate Submissions,ConsolidateResults,Analysis,Adjust Scenarios,Finalize Trackの手順が必要。(Excel複数のシートに分かれたり、人によってフォーマットとかが違ったりして、まとめるのが大変。)これを繰り返す必要がある。Jedoxを使うことで、単一のデータベースにデータを統合し、Create Planning Model, Email Nortification, Online Completion, Process Monitoring, Online Scenarios and Analysis, Reportingの手順となる。メールで送ってオンラインで入力して進捗管理ができオンラインで分析し、好きな形式でレポート出力。主導での作業や修正が減りスムーズに。
  • データからはJedox Integrator経由でOLAP Serverへ。SAPとのコネクタもある。OLAP ServerとはAccelerator,XMLA、Excel Add-in、Web、Mobileが連携する。
  • 今後、CloudBI&Analytics、MobilityFirst(モバイルへの展開)、BigData。
    Stand Alone、ClientServer、PrivateCloud、PublicCloudなどさまざまな形式で使える。SalesForceとのCloudConnectorもあり(? 作る予定?)
  • DataGravity(データのある場所にBIを作る??)
  • Twitterの分析もできる(? できる予定?)。Twitter Analytics。なんか検索するとどこでつぶやかれているか地図上に表示したり? (……世界地図……。)
  • Demo Cloudは40日間無料で利用できる。現在JedoxSuite6開発中。(2015-3Q→2017-1Q?)

<デモ>

  • Webインタフェース。スタート画面は図を入れたりロゴを入れたりしてカスタマイズできたり、メニューによってダッシュボードを切り替えられたり。インタラクティブな棒・折れ線グラフ、地図、マウス選択での範囲絞込みとほかのグラフとの連携、表形式(昇順降順並べ替え)、フィルタリング。表+グラフ(マイクロチャート)、円グラフ、棒グラフに数値、複数の棒グラフ、男女比、スピードメーター、塗りつぶし折れ線、PDFによる画面の出力、……のようなことができる。
  • 作るのはExcel。アドインを追加し、キューブモデルを作成。モデラーが……(?)。ピボットテーブルのように見えるがなんか違う表を作成し、ダイナミックな操作が可能な表を入れられる。ウォーターフォールモデルのようなExcelにない表もできる。copy actualと入力すると……(?)。copyと入力すると、過去データが表示され、predictと入力すると、複数年を考慮した予測(?)ができる。(……なんかちょこちょこと出てくるウィンドウが何やっているのか良くわからない……。もろもろのコマンドっぽいものをセルに入力していくのはかなり理解しないと厳しそう?? 覚えると簡単????)なんか適当に考えて貼り付ける機能があるとか。PublishボタンでWebにUPできる。

 

【事例紹介セッション】

KSKでは、2012年2月にJedox社とパートナー契約締結、サービス開始。12月に日本語版v4、2013年4月にv5.0リリース。

  • 事例1:アパレルでの予算計画。30Excelファイル、8万関数。部門追加ごとに30のExcelを修正。コピペでレポート作成。Jedox導入して60ユーザ、Oracleデータ、でレポート、分析、予算計画に利用。
  • 事例2:環境エネルギーの可視化。100万円台。(SmallEditionなら100万円からスタート可能。)5ユーザ+20閲覧ユーザ、db2ExcelCsvのデータ。
  • 事例3:SAPデータとの統合。ヘルスケア用品の製造業。65ユーザ。月単位での情報収集を週単位にすること、年間数百万円の保守料を何とかしたい、の課題解決。
  • 事例4:ロッテ韓国のSAP。
  • 事例5:BMW中国。3900人の社員で、200のJedoxUser。データの一貫性確保。
  • 事例6:C&A(ヨーロッパの洋服製造業)。組織の規模が大きい。1500店、21カ国。プランニングにかかる時間が1/3に。

 

【パートナーセッション(OpenStream)】

OpenStreamワタナベ氏から事例紹介。豆蔵HDのクラウドサービス、パッケージソフトの企画、開発、販売などを行っている会社。
BizBrowser、Jedox、pentaho、tableauなどサービスを行っている。DWHとしてはAmazonRedshift、INFOBRIGHTなど。

  • 事例7:16カ国、1600店舗のアパレル企業。国別全体売り上げより商品分類、シーズンなど構成比を指定して分離、予実再分析、シーズン別売り上げ、在庫帳票。基幹系、店舗、分析系システムからETLでデータ連携して、OLAPサーバに格納し、JedoxWeb、JedoxExcel。日別解析の実施。(日別での計画変更。)アイディアを形にするまでのスピードが早く、コスパに優れていることから採用された。(予算管理パッケージソフトでは汎用性が△、スクラッチ開発ではコスト、開発期間が△。)

 

【パートナーセッション(TechMatrix)】

TechMatrixサトウ氏からの事例紹介。医療向け画像処理パッケージ、リスク管理エンジン、CRM、ソフトウェア品質保証、ネットワークインフラなどを提供。JedoxをBIソリューションとして提供している。医療の固体別症例分析とか。

  • 事例8:ウェブクルー。専用の比較用ポータルサイトを運営(引越し、保険、結婚式場、教育……)。クライアント企業が商品を掲載し、客はいろいろな企業の見積もりを一括で取得できる。商品の反響を確認するための集計がExcelベースだった。データの持ち方、整形方法が違うのをcsvにして手でExcel化していた(日次でかなりの労力がかかる)。Jedoxでマスタからの全自動集計、サイト別自動計算、請求金額算出、Excelファイル管理。6名、週3日、手作業、を、2名で数分まで落とせた。
  • 事例9:通信販売会社(健康食品リピート通販型)。オペレータに電話で注文。FastHelpというコンタクトセンター用システムを入れている。顧客に向けたキャンペーンDMを最適化できているか、が課題のひとつ。Jedoxでターゲティング分析、リスト作成。メール配信後のクリックログ、Webアクセスログの収集で効果分析。

 

Qlik View(Personal版)試してみた2 サンプルとして気象庁からオープンデータを取得する

QlikView、QlikSenseを試してみるために、手っ取り早いデータとして気象庁の情報(オープンデータ)を使ってみることにした。http://www.data.jma.go.jp/gmd/risk/obsdl/index.php から、各地の気象情報をcsvでダウンロードできる。

f:id:notainu:20150502173813p:plain


地図から神奈川を選ぶ。地図上から横浜を選んでみる。(地図上にチェックがつく。)右側で、どんなデータが取られているかの確認ができる。

f:id:notainu:20150502173853p:plain

 

「項目を選ぶ」をクリックし、データの種類を選ぶ。ここでは、「データの種類」は「日別値」、「過去の平均値との比較オプション」では「平年値も表示」に チェック、「項目」で「気温」タブの「日平均気温」、「降水」タブの「降水量の日合計」、「風」タブの「日平均風速」を選んでみる。「期間を選ぶ」タブで 「連続した期間で表示する」をチェックし、2012/1/1-2014/12/31を選択。表示オプションはデフォルトのままにする。

f:id:notainu:20150502173920p:plain

 

f:id:notainu:20150502173942p:plain

 

f:id:notainu:20150502174006p:plain

 

f:id:notainu:20150502174037p:plain

 

右側の「CSVファイルをダウンロード」ボタンをクリック。デフォルトで「data.csv」というファイル名でダウンロード、保存できる。

f:id:notainu:20150502173953p:plain


58kb。こんな感じ。H:\HDrive\OpenDatadata2012Yokohama.csv として保存する。一度LibreOfficeで開き、Excel2007形式(拡張子xlsx)で保存しておく。(QlikViewがcsv形式ではだめらしい。)

f:id:notainu:20150502174231p:plain

 

f:id:notainu:20150502174315p:plain

Qlik View(Personal版)試してみた1 インストール

無料のデータ分析ソフト、QlikView。なんかいろいろと自由にグラフとか書けたり分析できたりするらしい。

公式サイト(http://www.qlik.com/)よりダウンロード。利用者登録が必要。登録後メールでURLが送られてくる。「Download Now」ボタンでダウンロード開始。ダウンロード画面にTutorialもあるので、「Download Tutorial」リンクをクリックし、ついでにダウンロードしておく。

f:id:notainu:20150502172738p:plain

 

 

f:id:notainu:20150502172829p:plain

 

f:id:notainu:20150502172838p:plain

 

f:id:notainu:20150502172858p:plain

 

f:id:notainu:20150502172909p:plain

 

f:id:notainu:20150502172920p:plain

 

f:id:notainu:20150502172933p:plain



<Documentation and Tutorialインストール>

QlikViewDesktop_DocumentationAndTutorial_Japanese_Setup.exeをダブルクリックでインストール。セットアップタイプは「完全」で。
インストールすると1178ページもあるPDFファイルになる。(うわぁ。)

f:id:notainu:20150502172816p:plain

 

f:id:notainu:20150502172949p:plain

 

XEAD Editor(XEAD Driver)試してみたい1 Javaインストール

2015/3/25開催、モデルベースソフトウェア開発コミュニティ勉強会#1で、【「そのまま動作するモデル」としての生産管理システムの実例 渡辺 幸三(わたなべ こうぞう)氏】との講演会があった。(詳しい報告は http://notainu.hateblo.jp/entry/2015/04/25/170411 )
その中で、モデル書けばコード要らないXEADの話が出たので、試してみることにした。
Java8(作者ブログによるとつい最近対応したらしい。http://watanabek.cocolog-nifty.com/blog/2015/04/xeadjava18-dc9b.html 開発者のサイトによるとすごい勢いで更新されている)で動くOSS
http://homepage2.nifty.com/dbc/xeadDriver.html が本家サイトで、ダウンロードできる。
本家サイトによるとXEAD[zi:d] Driverは、業務システムをはじめとするデータベースシステムの開発に特化したOSSプラットフォームです。同梱の仕様書専用エディタ(XEAD Editor)を用いて「仕様書」を書けば、XEAD Driverがこれを読み込んでシステムを動的に立ち上げます。保守フェーズでも仕様書を修正するだけ。よくある「自動生成ツール」ではないので、コードの再生成もリコンパイルも要りません。(http://homepage2.nifty.com/dbc/xeadDriver.html)】だとか。おー。

インストール方法についてはhttp://homepage2.nifty.com/dbc/xeadDriver.html に記載あり。

jdk-8u45-windows-x64.exe をインストール。

 

f:id:notainu:20150502144304p:plain

 

f:id:notainu:20150502144315p:plain

f:id:notainu:20150502144331p:plain

f:id:notainu:20150502144341p:plain

f:id:notainu:20150502144351p:plain

 


環境変数にC:\Program Files\Java\jdk1.8.0_45\bin追加。コマンドプロンプトjava -versionと入力して出てくるのを確認する。

f:id:notainu:20150502144402p:plain


http://homepage2.nifty.com/dbc/xeadDriverDownload.html から最新版をダウンロード。

f:id:notainu:20150502144417p:plain


……と思ったら自社ネットワークからはねられてダウンロードできません(泣)
右クリックすると妙に長いURLが出るから「問題あり」扱いなのか?

……GitHubからソースコードダウンロードして実行するしかないのかなぁ……? GitHubはダウンロードできるのかなぁ……。(実はあまりGitHubの使い方知らないのよね……)