読者です 読者をやめる 読者になる 読者になる

機械学習のロジスティック回帰モデルのメモ

ロジスティック回帰モデル(2値分類)

logit(p=φ(z)) = z = w0+x1w1+...+xnwn ∴

p(y=1(2値分類)| x, w) = φ(z) = 1/[1+exp(-z)]

即ち、φ(z)はy=1でありそうな確率(この x,w 時点で)

^y == φ(z)≧0.5 [^y=計算値(実測値yとは違う)=機械の最終的な判断]

 

wの更新

w := w+Δw

Δwj :=-η∂J/∂wj = ηΣ(y-φ(z))xj (Σはjではなく、サンプル番号で)

 

メモ

パーセプトロンでは

H ̄φ(z) = z , 機械の最終判断^y == φ(z) (H ̄は、1or-1の階段関数の逆関数)

ロジットモデルでは

logit(p=φ(z)) = z , 機械の判断^y == φ(z)≧0.5

 

ADALINEとロジットの違いはコスト関数 J(w)

体の準同型は単射・中への同型

(体⇒環なので、体K∈Hom(K,L)たりえるし、ゆえに1_kは1_lに移される)

 

体の準同型f ⇒ f単射

「体の準同型」⇒「f(k)=0 ⇒ k=0 示せる(後述)」⇒「ker(f)=0」⇒「f単射

  • f(仮定k≠0)=0 ⇒[体∴逆元も有り。f(k ̄)を掛ける]⇒
  • f(k ̄)f(k)=0 ⇒[準同型]⇒ 
  • f(k ̄ k)=f(1)=0 ⇒[準同型∴1は1に移る]⇒ 
  • 1=0 ⇒[これは矛盾∴背理法より]⇒ k=0

 

 f:X→Y の 中への同型 の様な物(?)

とは、Xに同型な物が、Y内部に存在する感じ?

X同型Im(X)⊂Y。

  •  [234]
  •   ↓↓↓
  • [①②③④⑤⑥]

 

f:K→Lが体の準同型 ⇒ fは中への同型

体の準同型は単射準同型(一番上)なのでker(f)=0、これと準同型定理より

K 同型 K/{0} 同型 K/ker(f) 同型 Im(K) …△

像の定義より Im(∀A⊂K)⊂L ∴ Im(K)⊂L …□

△、□より。

fgの全射・単射 

fg全射 ⇒ f全射

fg全射 ⇔ ∀z=fg(∃x) ⇒ ∀z=f(∃[g(x)]) ⇔ f全射

 

fg単射 ⇒ g単射

(「fg単射」を好きに使って、g(x)=g(y) ⇒⇒⇒ x=y と変形できる事を示す)

g(x)=g(y) ⇒(fを掛ける)⇒ fg(x)=fg(y) ⇒(fg単射の定義)⇒ x=y

 

別解・・・(準同型写像)?

(単射 ⇔ ker(φ)=0 ⇔「φ(x)=0 ⇔ x=0」を使うが、上と同様に)

g(x)=0 ⇒(fを掛ける)⇒ fg(x)=0 ⇒(fg単射)⇒ x=0

 x=0 ⇒ g(x)=0 は自明or定義?

numpy.meshgrid

x, y = np.meshgrid([1,2],[3,4,5,6])

 

x =

array([[1, 2],
           [1, 2],
           [1, ②],
           [1, 2]])

y =

array([[3, 3],
           [4, 4],
           [5, ⑤],
           [6, 6]])

可能な格子点が得られるといった感じ?(x,yの同じ位置の組が格子点)

filefoxで背景色を変えるとwikipediaでの数式が表示されなくなる問題

目の負担を押さえるため背景色を変えていた

今までは数式は消えなかったが

今は背景色を変えると同時に式が消えるようになってしまった

 どうにかならないものか

 

愛用しているもの!

お題「愛用しているもの」

愛用しているものは・・・クリップボードなるもの!

立って書けるのがいい

 

 あと手帳とかもいい

これをメモとして使うと

”やりたいことを書き始めるようになった!”

そして

”やりたいことつくりたいことを日常的に考えるようになった!”

 

 

ファジィ集合

α-level set ≡ A_α

Aを紙に大きく書く。Aの横線分の crisp set が、それ

μ_A =[α×μ_(A_α)]

 

台集合 μ(x)>0 を満たす x の閉包

 

ファジイ集合・関係      A , αA_α , R○S

メンバーシップ関数・関係行列 μ_A , μ_(A→B) , Fij(max-min)Gij

 

α-cut of A

A= 0.2  0.8

      0.4  0.6

 

A0.3=0 1   A0.4=0 1   A0.8=0 1

         1 1            1 1            0 0

 

max=∨ , min=∧

 

max-min合成    {μR(x,y) ∧ μS(y,z)}

max-product 合成 {μR(x,y) × μS(y,z)}

R○S≠S○R ?

 

分割樹形図 R_z

  • レベル : zi
  • クラスター数: x(zi)
  • クラスターサイズ y(zi): zi の各クラスターのサイズの、好きな平均(zi での最大サイズは、特別な場合。)

 

連結度とか考えると、関係行列 is 隣接行列(の拡張)