polloughsバージョンアップ (polog)

polloughsバージョンアップ

文の長さのパラメータを廃止してstrictを追加しました。これは従来より固めにマルコフを作る奴です。意味が通り易くなってます。前のpolloughsはcollapseで。
strictはヤバいぜ！超楽しい！
"やっぱり、性欲さえあれば良いのだ。"とか！

以前のエントリ

2007/01/24 15:37 | |

トラックバック

このエントリーのトラックバックURL:
http://polog.org/mt-tb.cgi/271

コメント (8)

ねえ，思ったんだけどこれ確率遷移が準方向だけじゃない？
逆方向の確率遷移も入れたら？
確率文脈自由文法実装できたらもっとすごいね．

投稿者: NZM | 2007年01月25日 00:57

なるほど、それって順逆かけた確率正規化して使うってことであってるかしら。
文脈自由文法の実装は無理笑

しっかしよく知ってるな。これってひょっとして常識なのか?

投稿者: negipo | 2007年01月25日 01:25

うーん、A→B→Aがほぼ1になるような場合が合って爆発した。また考えようっと。

投稿者: negipo | 2007年01月25日 01:56

いやいや逆順は逆順で独立に評価しなきゃA→B→Aじゃ爆発するときがあるね．

A1→A2
A1→B1→B2→A2
A1→B1→C1→C2→D1→D2→B2→A2

みたいにツリー構造をうまいことインスタントでつくれないかなあ？
括弧がうまく閉じられてないこととか気になったんだよ．

でもまあそうするとそもそも学習の時点で構文解析必要だな．

あとはA→Bを生成したときに，A←Bの遷移確率もある程度あるかチェックするとか？

投稿者: NZM | 2007年01月25日 02:46

「ネギシ」→「は」→「アホ」を考えたとき？
「ネギシ」←「は」の遷移確率と「は」→「アホ」のそれはそんなにかわんないよね？

投稿者: NZM | 2007年01月25日 02:49

あ，オーダーの話ね．

投稿者: NZM | 2007年01月25日 02:50

>ツリー構造
うーんそれはちょと難しい。あんまり複雑なことはしたくないんだよ。
>A→Bを生成したときに，A←Bの遷移確率もある程度あるかチェック
これは僕の手法と殆ど同義じゃね?

ネギシはアホの場合はオーダー変わらない。
問題点は例えば
"ネギシ,より,(ネギシ|、)"
の時に
"より→、":"より→ネギシ" = 3:1ぐらいでも、
"より→、":"より←、" = 1:1000ぐらいになっちゃってて、単純に全部掛け合わせて正規化すると
"より→ネギシ"の値が0.999とかになっちゃうの。
うーん。

投稿者: negipo | 2007年01月25日 03:08

にゃるほど．
単純に逆順の遷移確率に高い制約をもうけるのはだめなのね．

投稿者: NZM | 2007年01月25日 13:01

コメントを投稿

名前:

メールアドレス:

URL:

この情報を登録しますか?

コメント: (スタイル用のHTMLタグが使えます)

polog