NMFの乗法による最適化

今日はしばらく続いたNMFマイブームの最後に
”Algorithms for Non-negative Matrix Factorization”,Lee,NIPS2001
を読むことにしました！
とは言っても実はこの前NMFを実装した時はこのアルゴリズムを利用したので少しは読んでいたのですが、今回はこの前とばした何故乗法で収束するのかというところを読んでみました.

結論から言ってしまえば単調減少するような更新則を一般的に示してからNMFに適用したようです。具体的には
定義
G(h',h)≧F(h), F(h) = G(h,h)
更新則
h_t+1 = argmin_h G(h,h_t)

によってF(h)を局所的にですが最小にできることを利用しています。
FとGは定義を満たすようなものであればなんでもいいのでかなり広範囲に適用できると思われます． 著者らもDiscussion で述べているように別の制約条件を持った行列分解への応用を考えているようです.

ツイート

NMFにスパース性を

NMFを実装しました！
これは NMF=Non-negative Matrix Factorization の略で
日本語にすると非負値行列分解