泰勒展開 · 用多項式逼近任何函式

📖 為什麼可以這樣？

對一個夠平滑的函式 $f$ ，可以在某點 $a$ 把它寫成無窮多項的多項式：

f (x) = k = 0 \sum \infty \frac{f ^{(k)} ( a )}{k !} (x - a)^{k}

截斷到第 $n$ 項就是泰勒多項式 $T_{n} (x)$ 。它的關鍵性質是：在 $a$ 這一點， $T_{n}$ 和 $f$ 的前 n 階導數全部相等。

換句話說 — $T_{1}$ 是「跟 f 在 a 同位置、同斜率」的直線（也就是上一頁學的切線）。 $T_{2}$ 多加了曲率配對。 $T_{3}$ 多加了曲率變化率。每加一階，誤差就「降一階小」。

預設： $sin (x)$ 在 $a = 0$ 展開。把 $n$ 從 0 加到 15。 $n = 1$ 是 $x$ （黃線是直線）， $n = 3$ 是 $x - x^{3} /6$ ， $n = 7$ 已經能跟 sin 在 $[- π, π]$ 幾乎重合。
$n = 1$ 時，把 $a$ 滑來滑去 — 你會看到 $T_{1}$ 就是 sin 在那一點的切線。這頁實際上把「切線」推廣成了「曲線」。
選 $e^{x}$ 、 $a = 0$ 、 $n = 5$ 。多項式是 $1 + x + x^{2} /2 + x^{3} /6 + x^{4} /24 + x^{5} /120$ 。試著把 $a$ 滑到 1，看多項式怎麼「換中心」。
選 $f (x) = 1/ (1 - x)$ 、 $a = 0$ 。這是幾何級數： $1 + x + x^{2} + x^{3} + \dots$ 。關鍵觀察：不管加多少項，多項式在 $x = 1$ 之後都會失控 — 因為原函式在那裡有奇點。把 $n$ 拉高， $∣ x ∣ < 1$ 內越來越準， $∣ x ∣ \geq 1$ 永遠不會收斂。

1/(1-x) 在 $x = 0$ 周圍的泰勒級數，收斂半徑剛好是 1 — 因為距離 0 最近的奇點在 1。再遠就沒救了。

所以泰勒展開不是「萬能的逼近器」 — 它只在展開中心附近一個圓盤內有效。圓盤的半徑取決於最近的奇點。

CPU/GPU 的 sin、cos、exp 怎麼算？ — 把輸入縮到合理範圍後做泰勒展開（或更精緻的 minimax 多項式）。
物理近似 — 「小角度近似」 $sin θ \approx θ$ 、「相對論低速近似」都是 $T_{1}$ 或 $T_{2}$ 。
數值最佳化 — Newton 法在 $f (x) = 0$ 附近用 $T_{1}$ 逼近，每次迭代解線性方程。機器學習的二階方法（如 L-BFGS）用 $T_{2}$ 。
特殊函式定義 — $e^{i θ} = cos θ + i sin θ$ （歐拉公式）就是把 $e^{x}$ 、 $sin$ 、 $cos$ 的泰勒級數對照看出來的。

泰勒：用多項式逼近 — 在某一點精確、向外擴散。

Fourier：用正弦/餘弦逼近 — 在整個區間平均地擬合，不偏袒任何點。

同樣是把函式拆解到一組「基底」上，只是基底不同。本站的 Fourier 互動頁可以對照看。