北野坂備忘録

主にインストールやプログラミングのメモを載せています。

黄色本(PRML)は「機械学習」の本ではなく「ベイズ理論」の本である

タイトルはいささか暴論ですが。 パターン認識と機械学習 上 私はもともとこの本を「機械学習の教科書」だと思って読み始めました。タイトルが『パターン認識と機械学習』ですからね。 最初に無理矢理読み通した感想は「難しい、良く分からない」というもの…

計画行列(デザイン行列)とは何か:PRML編

黄色本(『パターン認識と機械学習』:PRML)を読んでいると、「計画行列」という単語が頻繁に出てきます。 この計画行列ですが、英語では「design matrix」です。なので別書籍では「デザイン行列」と書かれていることもあります。 日本語で「デザイン」とい…

postgresqlの特定テーブルのみのバックアップ

なぜかpg_dumpを使ってpostgresqlの特定テーブルのみをバックアップするコマンドが、インターネット上で流布しているコマンドと実際のコマンドで違っていたのでメモ。 postgresqlのバージョンは8.4.20。[ネット上でよく見かける(今回動かなかった)コマンド…

CentOS上のEclipseにプラグインを一気にインストールしようとして失敗

CentOS6.7のEclipse(Helios)に下記の3プラグインを一気にインストールしようとするがエラーを起こして止まる。・Marketplace Client ・Eclipse Java EE Developer Tools ・Eclipse Web Development Tools "インストール・ダウンロード2" 中に内部エラーが発…

python3.5をpython3のデフォルト設定にしたらUbuntuで「端末」が起動しなくなった件

ぐへえ、という感じ。 Ubuntu15.04で、apt-getでpython3.5をインストールしたのち、python3.5をpython3のデフォルトに設定しました。 cd /usr/bin sudo rm python3 sudo ln -s python3.5 python3 再起動したら「端末」が起動しない!? Launcherを押しても、…

gensimのshow_topicsオプション(メモ)

Python用のトピックモデルライブラリgensimのshow_topicsメソッド内で用いられるオプションについて。昔はこうだった lda.show_topics(topics=10, topn=10):今はこう lda.show_topics(num_topics=10, num_words=10) いま上のように書くと「そんなオプション…

MeCabのparseToNodeのひどいバグ

pythonからMeCabのparseToNodeを使うと表層形(surface)がおかしい。printでも出てこないし型の判別すらできない。 頭を抱えながらpython-mecabの再インストールなどさんざんやってからこちらのサイトにたどりつく。 www.trifields.jp (以下引用) MeCabの…

『Python機械学習プログラミング』

Python機械学習プログラミング 達人データサイエンティストによる理論と実践 (impress top gear) なにかこう「一面コードだらけ」という本かなーと想像していたんですが、理論や描画の話も多く前処理にも章を割いています。本のアオリに「絶妙なバランスで『…

hadoopメモ

clusteridは簡単に変わる。 そのせいでDataNodeが繋がらなくなる。 解決方法 ・手動でdfs/name/current/VERSION内のClusterIDを修正する。 ・さっくりdfs/name/以下を削除する。

「下丸子のコネクショニスト」さんの「CaffeでMNISTを学習した経過をプロットしてみた」を試す

「下丸子のコネクショニスト」さんの iamrobotandproud.hatenablog.com を試す。 なにかおかしいと思ったら、 事前に用意されたプログラムに誤植があるため、下記のように訂正した。plot_log.gnuplot.exampleの42, 43行目をset xlabel "Training loss" set y…

『パターン認識と機械学習』(黄色本)再読

PRML(『パターン認識と機械学習』)の上巻に再度手を伸ばしました。 パターン認識と機械学習 上 去年の5月ぐらいに読んだときは全く理解できなかった内容が「これも分かる!あれも分かる!」となり、まるで『グラップラー刃牙』の序盤で山籠もりの結果勇次郎…

Ubuntu15.04 に Caffeをインストールした際のメモ

hdf5関係でコンパイル失敗。2箇所でひっかかる。 ./include/caffe/data_layers.hpp:9:18: fatal error: hdf5.h: no such file or directory/usr/bin/ld: cannot find -lhdf5_hl /usr/bin/ld: cannot find -lhdf5Makefile.configの以下の2行を変更。 INCLUDE_…

軽量言語からJavaに移って苦労している人はデザインパターンの本を読むと良い

デザインパターンの本は何冊か読みましたが、当時はいまひとつピンときませんでした。 行番号付きBASICからはじまってC言語、Ruby、R、Pythonとクソコードを書き散らしてきましたが、あまりデザインパターンの必要性を感じなかった。 話が変わったのがJavaに…

VMWare上のUbuntuのネットワークが不安定(メモ)

ひっさしぶりに立ち上げたVMWare上のUbuntuのネットワークが不安定。 しばらくすると切れるけども、また接続される。 これでは仕事にならない。 VMWareの「仮想マシン設定」を確認。 ネットワークアダプタがNATになってる……? 別件で別のVMの「仮想マシン設…

正規方程式とは何か

数学の得意な人間はだいたいにおいてそうでない人間から見るとたいへん冷たいです。 「正規方程式とは何か?」という文系からの問いに、「最小二乗法を勉強すれば分かるでしょう?」という、木で鼻をくくったような回答をします。 そもそも文系からすると「…

VMWare追加ネットワークアダプタ設定の罠

ネットワークアダプタ2を追加する。 ネットワークアダプタ(無印)側の「アダプタの設定」を変更する。 これを こうすると…… 「ネットワークアダプタ2」の設定まで勝手に連動して変わってる! ネットワークアダプタ追加する意味がないだろ! ※昔のVMWareでは…

パチンコ配分モデル

トピックモデル本を読んでいると、 トピックモデル (機械学習プロフェッショナルシリーズ) 「パチンコ配分モデル」というパワーワードに突き当たりました。 名前だけでイメージするとまるで「パチンコ玉を配分するようなモデル」に思えますが、実際にはパチ…

条件付き確率でどっちが条件か覚えられない!

いい歳をして右と左が分からない人がいます。 同様に、いつまでたっても条件付き確率 p(A|B) でどちらが条件部分か覚えられない人がいます。 というか、「条件付き確率」という日本語のせいで、 p(条件|確率) に思えてしまうようです。 ここは疑似的に「条件…

Excelのセル内改行の削除(前処理編)

前処理でExcelのセル内改行を削除したいときがあります。 Excelのセル内改行を削除する方法としては、 ・検索ボックスで「[Ctrl] +[J]」を入力して置換する 方法が有名ですが、なぜかそれでは取り切れないセル内改行が存在します。 これには、clean関数を使…

マハラノビス距離(メモ)

マハラノビス距離はインド人の数理統計学者プラサンタ・チャンドラ・マハラノビスによって発明されました。 「分散を考慮に入れた距離」とでも申しましょうか。 マハラノビス距離を知るのにオススメのサイトはこちら。 「教師なし学習による異常値検知: マハ…

Wekaはこの先どうなるのか

「フリーソフトではじめる機械学習入門」という良くできた機械学習の入門書があります。 フリーソフトではじめる機械学習入門 ただし、使われているのがWeka。 「この先Wekaを使うことがあるのか……?」と問われると答えに窮する。 Wekaを使うとどうしてもブ…

観測データの無相関化(メモ)

特徴間に相関があると、識別には片方の特徴だけでよい、ということになる。 主成分分析と無相関化は「分散が最大になる方向へと射影する」というアプローチは同じだが、 無相関化:識別に多くの特徴を採用するため、特徴間の相関をなくす。 主成分分析:情報…

eclipse初心者によくあるミス(Servletのコピー)

Servletを単純にコピー&ペーストして開発。 ↓ しばらくするとサーバ(Tomcat)が起動しなくなる。 重大: A child container failed during start(理由) コピー後に@WebServletを変更しなかったため。 同じ@WebServlet名のServletが複数あると上記のエラーを…

共分散行列(メモ)

正確には分散・共分散行列。対角行列は共分散ではなく分散であるため。 共分散とは2 組の対応するデータ間での、平均からの偏差の積の平均値。 分散 共分散 共分散 共分散 分散 共分散 共分散 共分散 分散 スカラー値における分散をベクトルに拡張したもの。…

『岩波データサイエンス Vol.3』[特集] 因果推論 実世界のデータから因果を読む

岩波データサイエンス Vol.3 今回はマーケティングや投薬効果といった何か施策を考えるタイプの分析をする人向け。 その施策は本当に効果があるのか? ただの相関関係ではないのか? 隠れた外部変数があるのではないか? などということを問う。 自然言語処…

Caffe Make時に必要なprotocのインストール(CentOS)

※CentOSにCaffeを入れるのはまったくおすすめしません。遥かに簡単ですので、Ubuntuを使ってください。 分かりやすい導入記事はコチラ。 http://www.nal.ics.es.osaka-u.ac.jp/personal/k-yamanishi/CaffeUbuntu.html _____________________________________…

トンネルズ&トロールズ

情報処理 2016年01月号 『情報処理』2016年1月号の「自然言語処理の現状と展望」という特集を読んでいたのですが、「言い換え技術」の例文で 「『トンネルズ&トロールズ第5版』はケン・セント・アンドレらによってデザインされた.」 というピンポイント爆…

あなたにとって英語のゴールは?

TOEICのスコアが850を超えるとそろそろ英語学習のゴールのことを考えないといけません。 3パターンほど考えられます。1. 研究のために英語力をつけたい TOEIC850もあれば自分の専門分野の論文を読む分には能力はほぼ不足していないはずです。TOEICの勉強は一…

最後はTOEIC公式問題集

TOEICテスト公式問題集 新形式問題対応編 最後の最後に行きつくのはコレです。最も間違った公式問題集の使用方法 「本番の一週間前に総仕上げとして実戦形式でやってみるぜ!」 ちがあああああああう! やめろおおお!スコア500~700の人 出来が悪くて心に傷…

究極のTOEIC文法問題集(過適合編)

邪道編その2です。 TOEICのスコアが800を超え、特にリーディングで伸びしろが無くなって来た時に頼るべき文法問題集がこちら。 新TOEICテスト 文法問題 でる1000問 こいつは完全にTOEICの特にPart5に特化しています。 この本をマスターすればPart5を異様なス…