本文是筆者在計算隨機過程，研究的時候發現的積分公式，很有趣，原理很簡單 !! [明顯的例子] 假如我要算二重定積分 $$ A = \int^{1}_{0}\int^{1}_{x} (x+y)dydx $$ 今天我不小心把符號寫反 $x$ 寫成 $y$ , $y$ 寫成 $x$  $$ A' = \int^{1}_{0}\int^{1}_{y} (y+x)dxdy $$ 但理論上答案是一樣的(你只是換了符號而已，題目本質不變)，所以 $A' =A$ 後來你發現加法有交換律 $(y+x) = (x+y)$ ，你會發現 $A'' = A'$  ，其中  $$ A'' = \int^{1}_{0}\int^{1}_{y} (x+y)dxdy $$ 然後你會發現 $\{(x,y) \in [0,1]^2 :   x\leq y    \} \cup \{(x,y) \in [0,1]^2 :   x\geq y    \} = [0,1]^2$ $$ 2A =  A'' + A =   \int^{1}_{0} \int^{1}_{0} (x+y)dydx $$ 所以我們有 $$A = \frac{1}{2!} \int^{1}_{0} \int^{1}_{0} (x+y)dydx  $$ 如果令 $f(x,y) := x+y = y+x = f(y,x)$ 我們發現 $f$ 是對稱函數!! ------------------------------------------------------------------------- [推廣] 所以如果 $f(\vec{x}):= f(x_1,x_2,x_3,....,x_n)$ 是一個在 $(x_1,x_2,....,x_n)$對稱的函數 [註: 對稱函數代表 $\forall \sigma \in S_n  \quad  f(\sigma(\vec{x})) = f(\vec{x}) $  (其中$S_n$為交換群( Permutation Group )) 考慮 定義域為 $$ \Omega := \{ \vec{x}\i...

日常生活中，我們常常拿到的資料是一筆筆的。假如有 $n$ 筆資料，$p$ 種屬性，$n \times p$ 矩陣 ------------------------------------------------------------------------- 例如 : $(5+1) \times 5$ 資料矩陣 其中第一行(column)為 id 代表第幾筆 !! 有5個給定屬性集依序為 (1)12羅馬字$S^{R} = \{ I ,II , III , .... XII \}$   (2)小寫英文字母  $\tau = \{a,b,c,d,e,f.....z\}$ (3)大寫字母  $\Gamma = \{A,B,C,D,E,....Z\}$ (4)比例值 $[0,1]$ (5)負數 $\mathbb{Z}^{-}$ $$\left[\begin{array}{c|cccc} 1&III &  c &  C &  0.1 & -9   \\ 2&IV &  a &  C &  0.2 &  -999 \\ 3&II &  a &  A &  0.5 &  -9999 \\ 4&III &  b &  A &  0.5 & -999\\ 5&IV &  c &  B &  0.7 & -99 \\ \end{array}\right]$$ 這時你會有一連串 Q & A ~~ (Q1) 當 負數為 -99 的資料哪幾筆?? (Q2) 這筆資料總共有哪些大寫英文字母?? (Q3) 當 大寫英文字母為 $A$   且比例值為 $0.5$其他屬性有哪些種 ?? .... 而你問的每個問題事實上都是一個收集的概念 !! 像 (Q1) 你會希望印出的是 $\{ 5 \}$ 或是  $(IV, c,...

本文為筆者自行設計圖論演算法解離散不確定決策過程，含動態規劃( Dynamic Programming ) 與 Bellman principle of optimality(Bellman Equation) 相關概念，分享其 Idea 框架！！ 給定有向圖 $G(N,A)$ ，其中 $N = D \cup R \cup T $，$D,R,T$為互斥的集合， 其中 $i,j \in N$ 代表 State 實作上可以想成 string representation 定義 Forward Set  of $i$ : $F_i$ $$ (i,j) \in A \Longleftrightarrow  j \in F_i $$ 其中: $d \in D$ 稱為 Decision Nodes  (決策點集) ，代表該情境決策當下           $r \in R$ 稱為  Random  Nodes  (隨機點集) ，代表不確定性的開端           $t \in T$ 稱為  Terminate Nodes (停止點集) ，代表得到報酬或離開 註: $\forall i \in T \quad F_{i} = \emptyset $ 定義機率函數(ArcCost) $p : R\times F_r \longrightarrow \mathbb{[0,1]}  \quad p_{ij} \text{ are given }$ 並滿足機率公設 定義累計報酬函數:  $g : N \longrightarrow  \mathbb{R}$ $$ g(i):= \left\{\begin{array}{lll} \displaystyle{\underset{j\in F_i}{\text{max }}g(j)}&,& \text{if }  i \in D \\ \displaystyle{\sum_{j\in F_i}p_{ij}g(j)} &,& \text{if } ...

條件機率( Conditional Probability )的概念， Bayes Formula ，在日常生活中機率應該是最常使用的公式，由於多維的時候需要寫一長串公式，所以這邊自己嘗試定義推廣到抽象化的代數符號!! 令 $X,Y,Z$ 為連續隨機變數的集合，$f_X, f_Y,f_Z$ 為 joint pdf 1.Define: $$\left<\frac{X}{Y} \right> := \frac{f_{X\cup Y}}{f_Y}   $$ (p.s : 意思是給定 $Y$ 資訊下，測量$X$ 的機率密度 ，即 $X|Y$ 的分布) ------------------------------------------------------------------- [Ex: 二維的例子] $$X = \{x_1,x_2\}, Y=\{x_2\}  \Longrightarrow  \left<\frac{X}{Y} \right> = \frac{f(x_1,x_2)}{f(x_2)} $$ 其中分子為 joint $(x_1,x_2)$ , 分母為 marginal $x_2$ ------------------------------------------------------------------- 2.No Information : ($f_\emptyset = 1$) $$ \left< \frac{X}{\emptyset} \right>  := f_X$$ 3.Integration Formula : (if $Y\subset X$) $$ \left<\frac{Y}{Z} \right>= \int_{X\setminus Y}\left<\frac{X}{Z} \right> $$ -------------------------------------------------------------------- [Ex: 二維的例子] $X = \{x_1,x_2\}, Y=\{x_1\},Z=\emptyset$ $$\Longrightarrow  \lef...

日常生活中，常常會有機智問答，如給定一個數列 $1,2,3,4,5,X$ ，請問下一項$X$是什麼，我們自然會回答 $6$ ，下一項是 $7$ ，事實上我們發現公式可以寫成 $a_k = k  \quad  k=1,2,3,...$ 我們可以定義正式一個問題如下: -------------------------------------------------------------------------- $(Q)$給定 $n$ 個整數，如何找到 $f$ 使得 $(C) : a_k = f(k) , k = 1,2,3,...n $ -------------------------------------------------------------------------- 而根據知識，我們可以找到無窮多個多項式 $f$ 可以滿足$(C)$，而恰好存在唯一一個 $n-1$ 次多項式(polynomial) 可以滿足$(C)$，這問題的連續版本在數值分析( Numerical Analysis )領域稱為 interpolation ，也就是給定 $ S \subset \mathbb{R}^2$，找到一個公式$f$ 使得 $ \forall (x,y) \in S \quad f (x) = y $ [註: 這跟統計上迴歸分析不同的是，interpolation 要完全 fit !!，但是如果存在$(x,y_1),(x,y_2) \in S$,$y_1 \neq y_2$，因為函數無法一對多，則無法使用 interpolation !!   ] 而問題$(Q)$ 在筆者讀高中的時候發現的一個公式，會找到一個最低項的多項式(如果只有紙跟筆的話)，分享給讀者~ 先定義差分數列 $ b_k = a_{k+1}- a_{k}$ ，$\{b_k\}^{n-1}_{k=1}$ 會比 $a_k$ 少一項，記做 $\{\Delta a_k\}^{n-1}_{k=1}$ ，每做一次差分會少一項。 我們持續做會得到很多差分數列，取它們的第一項，記做 $\vec{a} :=< a_1 , \Delta a_1 , ..... \Delta^{n-1} a_1 >$ 再來定義 $\vec{b}:=...

日常生活中充滿著不確定性( Uncertainty )，隨機性( Randomness )。我們能輕易理解公平骰子每一面出現的機率值為$\frac{1}{6}$，而且可以利用排列組合( Combinatorics )的比例去計算複雜的狀況的機率值。但對於更複雜的隨機性(如隨著時間，空間連續變化的隨機性，大量的試驗，該如何計算，如何刻劃，我們就必須要學習 20世紀數學家發展嚴謹的測度論( Measure Theory )與機率論( Probability Theory )， Andrey Komogorov 機率公設模型後，才算是更清楚掌握瞭解機率的真正概念與正確使用數學描述不確定性!! 而其中核心概念是隨機變數( Random Variable )的引入，但因初學者往往會對隨機變數有種似懂非懂甚至誤解，所以本篇算是對於"隨機變數"的概念做澄清。 [預備知識] 需要理解 集合( Set )，函數( Function )，微積分( Calculus )符號 [註] 關於函數的介紹，也可以看 這篇 的前半部有詳細的回顧 !! 首先我們會定義一個抽象的集合 $\Omega$ ，稱之為樣本空間( sample space )，其元素 $\omega \in \Omega$，代表可能的情境(possible scenario)或是稱為基本事件(simple event)。當事情發生後，相當於從 $\Omega$ 選取一個 $\omega$ !! [Example] 丟一個骰子，可能會出現的結果 $\Omega = \{1,2,3,4,5,6\}$，則丟完以後只會出現其中一種 $\omega = 1 \text{ or }2\text{ or }3\text{ or }4\text{ or }5\text{ or }6$，而機率值假設分別為 $\frac{1}{6}$。但實際上我們可能感興趣更大的集合，例如: 出現偶數點的機率。回憶起你如何計算它，你必須先收集出 $E :=\{2,4,6\} \subset \Omega $ ，然後再分別計算基本事件的機率 $\frac{1}{6} + \frac{1}{6} + \frac{1}{6}  = \frac{1}{2} \quad (*)$ [可以做的事] 把基本事件寫成"單點...

在學習數理邏輯( Mathematical Logic )的時候，常常會聽到若 $P$ 則 $Q$，可能會被 "$\Longrightarrow$"(if .... then ...) 的意義搞得似懂非懂，就算懂了它的結果跟生活上的結合也是有種莫名陌生感，像筆者小時候會想成"因為 ... 所以 ..."，但這不是它的正確意義。而日常生活中集合論的交集，聯集或許是大家比較容易理解的。本文是用集合論的觀點去了解邏輯，方程組，數學規劃上的應用，並介紹布林代數( Boolean Algebra )跟邏輯的關係，提供另一個角度可能更容易理解數學 !! [輔助理解] 因為集合論可以在黑板上畫文氏圖( Venn Diagram )，詢問點是落在哪個圈圈裡面還外面，大家都能輕易理解認同，而產生共鳴的語言!! [假想實驗] 通常我們會先定義宇集，論域( universal set ) $U$，代表我們所感興趣的東西，事物，元素變數符號 $u$。$P$，$Q$在日常生活中可能是某個條件(condition)，性質(property)，限制(constraint)。而我們會依依檢驗 $U$裡面的元素 $u$ 是否滿足條件$P$，如果滿足就把它們收集起來，形成一個集合。 同理 $Q$ 也照做，所以我們會收集到兩個集合!! 白話來說，可以寫成 $S_P := \{ u \in U : u \text{ satisfies condition } P\}$ $S_Q := \{ u \in U : u \text{ satisfies condition } Q\}$ 註: 比較正式的寫法是可以分別把 $P$，$Q$對應到布林值( Boolean 或叫 Predicate 或叫 Indicator function ) $f_P$ , $f_Q$，$f_P,f_Q: U \longrightarrow \{0 , 1 \}$，$S_P := \{ u \in U : f_P(u) = 1  \}，S_Q :=\{ u \in U : f_Q(u) = 1 \}$ 虛擬碼大致上是 ++++++++++++++++++++++++++++++++++++++++++++++++++++++++++ Into Da...