力学系について：メモ

久しぶりに力学系・カオスの本を読んだので用語について整理。
メモ程度のものですが、何かつっこみがあれば必ずコメントしてください(*´ω｀*)

---

力学系・・・状態変数の時間発展を議論する
システムはdx/dt=F(x,t) の形で記述されることが多い

相図・・・ｎ階微分方程式を1階微分方程式に帰着させた時の状態変数空間
→単振動のような2階微分方程式なら相図は位置と速度で構成される

散逸系・・・系全体のエネルギーが時間と共に減少していくような系
散逸系ではアトラクターが存在する

アトラクタ・・・十分時間がたった後、状態が漸近する集合。これは状態空間より次元が低い。摩擦のあるような単振動では原点、ファンデルポール方程式では一つの閉軌道がアトラクタとなる。

ストレンジ・アトラクタ・・・フラクタル次元を持つアトラクタ。カオス的な振る舞いをする

ツイート

NMFの乗法による最適化

今日はしばらく続いたNMFマイブームの最後に
”Algorithms for Non-negative Matrix Factorization”,Lee,NIPS2001
を読むことにしました！
とは言っても実はこの前NMFを実装した時はこのアルゴリズムを利用したので少しは読んでいたのですが、今回はこの前とばした何故乗法で収束するのかというところを読んでみました.

結論から言ってしまえば単調減少するような更新則を一般的に示してからNMFに適用したようです。具体的には
定義
G(h',h)≧F(h), F(h) = G(h,h)
更新則
h_t+1 = argmin_h G(h,h_t)

によってF(h)を局所的にですが最小にできることを利用しています。
FとGは定義を満たすようなものであればなんでもいいのでかなり広範囲に適用できると思われます． 著者らもDiscussion で述べているように別の制約条件を持った行列分解への応用を考えているようです.

ツイート

NMFを理論的に

今日は朝から
"When Does Non-Negative Matrix Factorization Give a Correct Decomposition into Parts?", David Donoho and Victoria Stodden, NIPS 2003
をボーッと読んでました(=_=;)
内容はタイトルの通りNMFがどういう時に有効に働くのかを議論しているのですが双対基底と射を持ちだしてきたあたりからボクの意識は乖離して行きました…

昨日知ったスパースネスについて昨日から考えている問題がこれ

---

N次元ベクトルxが与えられたときに
sparseness(x') = c
||x'|| = ||x||
を満たすベクトルx'のうち
|| x' - x ||
を最小にするものを求めよ.

---

実は昨日の論文にアルゴリズムは載っていたのですが
直感的にわかりにくく（ボクが理解できていないだけか＾＾；）
めんどくさかったので一発で求まる方法がないか考えているところです＝ｗ＝

ツイート

NMFにスパース性を

NMFを実装しました！
これは NMF=Non-negative Matrix Factorization の略で
日本語にすると非負値行列分解

観測データからの高次元空間を制限する陰関数推定手法について

観測データからの高次元空間を制限する陰関数推定手法についての議論を行ったのでHPにまとめました。これは主成分分析の再解釈の議論にもなっています。
→ここです←

HPはまた後日整理しなおすので突然リンクが切れるかもしれません＾＾；
あしからず