こんにちは。kzです。

前回、集合論をまとめました。今回は位相空間論です。この分野は機械学習に密接に関係しているものになります。例えば
  • Reproducing Hilbert Space
  • Dimension Reduction
達があります。KernelやT-SNEなどですね。もう少し簡単な例だと距離、つまりKLなども関係してきます。そんな非常に重要な位相空間論をまとめます。前回同様に数学書形式で、コメントをちょいちょい残すことにします。

位相空間

定義

次の条件を満たすXの部分集合の族UをXの開集合系という
  • \emptyset,X \in U
  • U_1,U_2\in U なら、U_1\cap U_2\inU
  • Uの元からなる任意の集合族\{ U_{\lambda} \}_{\lambda\in\Lambda}に対し、\cup_{\lambda}U_{\lambda}\in U
UをXの開集合系とするとき、UはXに位相を定めるといい、(X,U)を位相空間という．また、Uの元は開集合と呼ばれる．位相空間の部分集合はその補集合が開集合となるとき、閉集合という.

命題

位相空間Xの閉集合全体の集合Fは次の性質を満たす．
  • \emptyset,X\in F
  • F_1,F_2\in Fなら、F_1\cup F_2\in F
  • Fの元からなる任意の集合族\{ F_{\lambda} \}_{\lambda\in\Lambda}に対し、\cap_{\lambda}F_{\lambda}\in F

命題

Xを位相空間、AをXの部分集合とするとき、任意のa\in Aに対して、Xの開集合Uでa\in U\subset Aとなるものが存在するなら、AはXの開集合である．

集積点と孤立点

Xを位相空間、AをXの部分集合とするとき、x\in XがAの集積点であるとは、x\in UとなるXの任意の開集合Uに対して、(U-{x})\cap A \neq\emptysetが成り立つときにいう．Aの点で集積点でないものをAの孤立点という．

命題

Xを位相空間、AをXの部分集合とするとき、AがXの閉集合であるための必要十分条件は、Aがその集積点をすべて含むことである
ポイントとしては、位相空間は開集合のある空間ということですね。もっと雑にいうと「近さの概念」だと思ってもらっていいです。（違うんですけどね）位相にも密着位相など色々あるんですけど、これから距離などの議論を進めるための準備だと思ってくれるといいです。

定義

Xを位相空間とする．
  • 任意のx\in Xに対して、一点集合{x}がXの閉集合になるならば、XをT_{1}空間という.
  • 任意のx,y\in Xに対して、x\neq yならば、開集合U_1,U_2でx\in U_1,y\in U_2かつU_1\cap U_2=\emptysetを満たすものが存在するとき、XをT_2空間またはハウスドルフ空間という．
  • 任意のx\in XとXの閉集合Fに対して、x\not\in Fならば、開集合U_1,U_2でx\in U_1,F\subset U_2かつU_1\cap U_2=\emptysetを満たすものが存在するとき、XをT_3空間という．T_1条件を満たすT_3空間を正則空間という．
  • 任意のXの閉集合F_1,F_2に対して、F_1\cap F_2=\emptysetならば、開集合U_1,U_2でF_1\subset U_1,F_2\subset U_2かつU_1\cap U_2=\emptysetを満たすものが存在するとき、XをT_4空間という．T_1条件を満たすT_4空間を正規空間という．
Xを位相空間とする．Xの点列{a_n}がa\in Xに収束するとは、任意のa\in UとなるXの開集合Uに対して、あるN\in\mathbf{N}が存在して、n\geq Nを満たす任意のn\in\mathbf{N}に対して、a_n\in Uが成り立つときをいう．また、このとき\lim_{n\to\infty}a_n=aとかく

命題

ハウスドルフ空間の収束点列の極限点は一意的に定まる．
空間が出てきましたが、覚えておくべきは「ハウスドルフ空間」です。次元削減の「T-SNE」において「多様体」というものが出てきますが、そこでハウスドルフ空間が大切になります。また、数学では「一意」が結構大切です。

連続写像

X, Yを位相空間、f:X \rightarrow Yとするとき、fがa\in Xで連続であるとは、f(a)\in VとなるYの任意の開集合Vに対して、あるXの開集合Uでa\in Uかつf(U)\subset Vとなるものが存在するときにいう．fがXのすべての点で連続であるとき、fを連続写像という．

命題

X,Yを位相空間、f: X \rightarrow Yとするとき、fがa\in Xで連続であるための必要十分条件は、f(a)\in VとなるYの任意の開集合Vに対して、f^{-1}(V)がaを含むXの開集合になることである．

命題

X,Yを位相空間、f: X \rightarrow Yとするとき、次の条件はすべて同値である．
  • fは連続写像である．
  • Yの任意の開集合Uに対して、f^{-1}(U)がXの開集合になる．
  • Yの任意の閉集合Vに対して、f^{-1}(V)がXの閉集合になる．

定義

X,Yを位相空間、f: X \rightarrow Yとする．
  • Xの任意の開集合Uに対して、f(U)がYの開集合になるとき、fを開写像という．
  • Xの任意の閉集合Vに対して、f(V)がYの閉集合になるとき、fを閉写像という．
  • fが連続な全単射であり、逆写像f^{-1}も連続であるとき、fを同相写像という．

命題

X,Yを位相空間、f: X \rightarrow Yを全単射とするとき、fが開写像であることと、fが閉写像であることは同値である．

命題

X,Yを位相空間、f: X \rightarrow Yとするとき、次の条件はすべて同値である．
  • fは同相写像である．
  • fは連続な全単射開写像である．
  • fは連続な全単射閉写像である．
個人的にな意見ですが、「連続＝開集合」のイメージを持っています。特に多様体の証明の時にめっちゃ使うイメージです。

距離空間

定義

次の性質を満たす関数d: X \times X \rightarrow\mathbf{R}が定義された集合Xを距離空間という．
  • 任意のx,y\inXに対して、d(x,y)\geq 0が成り立つ．
  • d(x,y)=0\Leftrightarrow x=y
  • 任意のx,y\inXに対して、d(x,y)=d(y,x)が成り立つ．
  • 任意のx,y,z\inXに対して、d(x,y)\leq d(x,z)+d(z,y)が成り立つ．

定理

(X,d)を距離空間とする．任意の\epsilon >0,a\inXに対して、B_{\epsilon}(a)={ x\in X | d(x,a)<\epsilon }と定義する．任意のa\in Uに対して、ある\epsilon >0でB_{\epsilon}(a)\subset Uとなるものが存在するようなXの部分集合U全体からなるXの部分集合族をUとするとき、(X,U)は位相空間となる． 距離空間はこの定理により定まる開集合系により位相空間とみなす.
距離の定義は覚えましょう。KLは距離ではありません。JS divergenceは対称性を加味したものですね。

コンパクト空間

Xを位相空間とする．{ U_{\lambda} }_{\lambda\in\Lambda}をXの開集合族で\cup_{\lambda\in\Lambda}U_{\lambda}=Xを満たすものをXの開被覆という．Xの任意の開被覆が有限部分被覆をもつとき、すなわち、Xの任意の開被覆{ U_{\lambda} }_{\lambda\in\Lambda}に対して、\lambda_1,…,\lambda_n\in\Lambdaを選択して、\cup^n_{k=1} U_{\lambda_{k}}=Xとできるとき、Xはコンパクトであるという．Xの部分集合Aが相対位相に関してコンパクトとなるとき、Aはコンパクトであるという．

命題

Xを位相空間、AをXの部分集合とするとき、Aがコンパクトであるための必要十分条件は、A\subset \cup_{\lambda\in\Lambda}U_{\lambda}となるXの任意の開集合族{ U_{\lambda} }_{\lambda\in\Lambda}に対して、\lambda_1,…,\lambda_n\in\Lambdaを選択して、A\subset \cup^n_{k=1}U_{\lambda_k}とできることである．

定理

コンパクト空間からハウスドルフ空間への連続な全単射は同相写像である

補題

\mathbf{R}の有界閉区間[a,b]はコンパクトである． 定理 \mathbf{R}^nの部分集合Aがコンパクトであるための必要十分条件は、Aが有界閉集合となることである．

最大値・最小値の定理

Xをコンパクト空間、f: X \rightarrow\mathbf{R}を連続関数とするとき、fは最大値・最小値をとる．

定理

(X,d)を距離空間とするとき、次の条件はすべて同値である．
  • Xはコンパクトである．
  • Xは点列コンパクトである．
  • Xは全有界かつ完備である

定理

\mathbf{C}^nの部分集合Aがコンパクトであるための必要十分条件は、Aが有界閉集合となることである．

中間値の定理

Xを連結空間、f: X \rightarrow\mathbf{R}を連続関数とするとき、任意のc\in\mathbf{R}に対して、a,b\in Xでf(a)\leq c\leq f(b)を満たすものが存在するなら、x\in Xでf(x)=cとなるものが存在する．
とりあえず、コンパクトだと便利なんです。また、私たちが議論する場はほとんどが実数世界なので「コンパクト＝有界閉集合」なんです。なのでイメージしやすいと思います。イメージとしては覆得れば良いので水溜りも球体もコンパクトです。
今回は位相空間論でした。基礎を部分的にまとめただけなので詳しく知りたい人は数学書を読んでください。T-SNEなどの論文を軽く見るのもいいかもしれません。

Ghidraが人気のようですがマルウェア解析の記事ももっと書きたいですねえ。でわ。