今日のひとこと Challange IT For Future

2014年

scikit-learn

sklearnのVectorizer

sklearnのVectorizerは文を渡して、それをベクトル化してくれるものですが、sklearnに含まれているCountVectorizerとTfidfVectorizer試してみる。 ま…

Python

pydotのdot_parserエラー

Couldn't import dot_parser, loading of dot files will not be possible. というエラーが出る場合は、/usr/local/lib/python2.7/dist-packages/dot…

Python

PythonとElasticsearchで形態素解析

Elasticsearchから取り出してsklearnでテキストデータをゴニョゴニョするときにPython側ではIgoを使って形態素解析とかしていたけど、Elasticsearch…

Python

PythonでURLエンコード

urlibのquote/unquoteを利用する。 $ python Python 2.7.6 (default, Mar 22 2014, 22:59:56) [GCC 4.8.2] on linux2 Type "help", "copyright", "cr…

Python

Pythonでunicode正規化

unicodedataを使えばよい。 $ python Python 2.7.6 (default, Mar 22 2014, 22:59:56) [GCC 4.8.2] on linux2 Type "help", "copyright", "credits" …

elasticsearchPython

elasticsearch-pyを試す

ElasticsearchのPython用クライアントであるelasticsearch-pyを試してみる。 pipが利用できる環境であれば、 $ sudo pip install elasticsearch とす…

Python

PythonでIgoを使う

形態素解析器IgoをPythonで利用する方法をまとめます。Mecabとかもありますが、クロスプラットフォームとかで環境準備しようとすると、面倒な部分も…

elasticsearch

Synonymプラグイン

Elasticsearch Analysis SynonymはLUCENE-5252で上がっているNGramSynonymTokenizerをElasticsearchで利用できるようにしたプラグインです。詳しいこ…

elasticsearch

Reindexingプラグイン

ReindexingプラグインはElasticsearchでドキュメントを追加したときにJSONデータを保存しているsourceフィールドを利用して、スクロールスキャンで既…