Doc2Vecについて今まで4回にわたって記事を書いてきました。 今回は前回までの簡単なまとめと、Doc2Vecを使う際の問題点について記述していきたいと思います。 Doc2Vec記事のまとめ Pythonのgensim […]

前回、簡単なモデル作成まで行いました。 文書内の区分ごとで比較したところ文章が長い方が評価結果が良い傾向になりました。しかし、パラメータ調整することや、学習データに手を加えるなど評価値を上げる方法はいくつか考えることがで […]

本記事では実際に作成したモデルを評価した方法について紹介します。 評価に関しては正解不正解が判定できる2値分類などと違い、対象としたものによって上手く評価方法を見極めて評価してする必要があります。 そのため、本記事では1 […]

本記事では実際にgensimを使って文書のベクトル化をしていく方法について記述していきます。 gensimのDoc2Vecの記述方法と学習に使う文書データの2つについて記述していきます。 Pythonの全体コード [cr […]

近年、機械学習を用いて様々なタスクを処理することや、自動化することが増えています。 今回はそんな機械学習により文書をベクトル化するDoc2Vecというものについて記述していきたいと思います。 5回にわたりDoc2Vecに […]

早速、訓練データとテストデータを作成してみたいと思います。非常に簡単な例として、一次関数のグラフを書いて、適当に点をプロットして、そのグラフよりも下にある点を+1、そのグラフよりも上にある点を-1としたものをデータとして […]

交差検証という名称について 前のエントリーで、交差検証について書きましたが、交差検定と呼ばれることもあります(ありました?)。ただ、検定というと、統計学の用語であって、あらぬ誤解を生む可能性があるので、交差検証又は交差確 […]

作成したモデルが良いものであるか、そうでないかを判断するにはどうすればよいでしょうか。よく使われる手法としては、交差検証(分割交差検証、n-fold cross-validation)が行われます。 n-fold cro […]

前回のエントリーでSVMにはベクトルを入力すると言いました。また、学習のためには、そのベクトルがそのジャンルに含まれるか含まれないか、という目印も必要です。 これまでジャンル、という曖昧な言葉を使っていましたが、今後は、 […]

前回は、TinySVMのインストールと実行をしてみました。ここで少し、実行時に使ったパラメータについて観察してみます。 TinySVM svm_learnのパラメータ svm_learnの実行のテストに使ったコマンドは上 […]

機械学習がプロダクトに応用されることが、非常に多くなりました。とはいえ、機械学習を学ぼうと思うと、数式の理解など非常に大変です。そこで、とりあえず機械学習というものを使ってみる、ということを目指して、少し書いてみたいと思 […]