最近有機會到一所明星高中和老師們討論微積分選修課的開立。 由於高中的選修課通常是兩學分, 因此如何界定核心內容就變得十分要緊。 討論的過程暫且不表, 倒是在結束之前, 一位老師問我：

有沒有一個函數 $f(x)$, 它在每一點 $a$ 都有極限, 但是極限不等於 $f(a)$？

也就是說有沒有一個函數 $f(x)$, 處處不連續, 但處處都有極限？

我當時的反應是, 這應該不是微積分教學的重點, 可是, 就純數學而言, 這總是一個問題, 我因此想起一段往事。

有一位同事李教授長年在系裡兼任教微積分。 因為教大班, 系裡為他配置兩位研究生助教, 每週一小時分成兩班上演習。 有一天李教授在辦公室召見兩位助教, 李教授問： 你們是誰在演習課對學生提出下面的函數？ $$F(x)= \begin{cases} 1, \quad \text{$x$ 是有理數}\\ 0, \quad \text{$x$ 是無理數} \end{cases}$$ 並且討論它的連續性。 (註一)

兩位助教都承認幹了這件事。 李教授說, 怪不得上課時學生緊張兮兮提問說這個函數到底是怎麼回事。 李教授教的是管理學院, 學生在高中原本是社會組, 碰到上面的 $F(x)$, 覺得無法適應。 李教授對兩位助教說, 以後你們少幹這種事, 我們要給學生的是「健康」的函數, 而不是「生病」的函數。

回到我一開始提出的問題： 有沒有一個函數, 處處有極限, 但處處不連續？ 一位同事告訴我, 這是 Rudin 所著 Principles of Mathematical Analysis 這本高微教科書中的習題 (見該書第一版 75 頁)。 我於是查了一下 , 覺得 Rudin 提示的處理方式不是很好, 所以我想了一個比較自然的方法來回答這個問題, 結論是, 不存在這種函數。 以下是筆者要證的定理。

定理： 如果函數 $f(x)$ 處處有極限, 則 $f(x)$ 不連續的點最多是可數的 (countable)。 (註二)

證明： 假設 $f(x)$ 處處有極限, 我們就用這個極限定一個新的函數 $g(x)$, 亦即對所有的 $a$, 定 $g(a)=\lim\limits_{x\to a} f(x)$。

首先觀察到 $g(x)$ 是一個連續函數, 理由如下：

已知 $\lim\limits_{x\to a} f(x)=g(a)$, 任予一 $\epsilon \gt 0$ 則必存在一個 $\delta \gt 0$, 在 $(a-\delta,a)\cup (a,a+\delta)$ 上, $g(a)-\epsilon \lt f(x) \lt g(a)+\epsilon$。所以如果 $0\lt |b-a| \lt \delta$, 則因在 $(a-\delta,a)\cup (a,a+\delta)$ 上, $f(x)$ 介於 $g(a)-\epsilon$ 和 $g(a)+\epsilon$ 之間, 而又有 $\lim\limits_{x\to b} f(x)=g(b)$, 所以 $g(a)-\epsilon \leq g(b) \leq g(a)+\epsilon$, 這就證明了 $g(x)$ 是一個連續函數。

既然 $g(x)=\lim\limits_{z\to x} f(z)$ 是一個連續函數, 我們令 $$h(x)=f(x)-g(x),$$ 則 $h(x)$ 就是一個處處有極限, 並且極限值均為 0 的函數。注意到 $h(x)$ 和 $f(x)$ 的不連續點集是一樣的。

接下來, 只需在 $[0,1]$ 上討論。考慮 $h(x)\neq 0$, 或 $|h(x)|\gt 0$ 的點集。 顯然對 $n=1,2,3,\cdots$, 集合 $\{x: 0\leq x \leq 1, |h(x)|\geq \dfrac{1}{n} \}$ 都只能是有限集。 因為若是對某一個 $n$, $\{x: |h(x)|\geq \dfrac{1}{n}, 0\leq x \leq 1\}$ 是無限集, 此一集合在 $[0,1]$ 上會有聚點 (accumulation point) $c$, 則 $\lim\limits_{x \to c}|h(x)|\geq \dfrac{1}{n}\gt 0$, 這與 $h(x)$ 的極限處處為 0 矛盾。 因此 $\{x~:~ 0\leq x \leq 1$,

$|h(x)| \gt 0 \}$ 可以根據 $n=1,2,3,\cdots$ 分為 (可能重疊的)有限集, 結論是不連續點集 $\{x| h(x)\neq 0, 0\leq x \leq 1\}$ 是一個可數集。 (同見註一)

綜上所述, 不會存在處處不連續而處處有極限的函數。$\Box$

下面補充說明 Rudin 對此定理建議的證法。 根據他的提示, 證法如下：

不妨考慮集合 $E=\{x| f(x)\gt g(x), g(x)=\lim\limits_{z\to x} f(z)\}$。如下圖, $a\in E$,

對這樣一個 $a$, 我們指定給它三個有理數 $(p,q,r)$, 先任取一有理數 $p$, 使 $g(a)\lt p\lt f(a)$。因為 $g(a)=\lim\limits_{x\to a}f(x)$, 所以另取二個有理數 $q,r, q\lt a\lt r$, 而使當 $x\neq a$, $q\lt x\lt r$ 時 $f(x)\lt p$。整理一下上面的指定, 對 $a\in E$, $g(a)\lt f(a)$, 指定 $$\text{有序有理數 $(p,q,r)$ 使得 $g(a) \lt p \lt f(a)$, 並且當 $x\neq a, q\lt x\lt r$ 時, $f(x)\lt p$}.$$ 現在要說這樣的指定在集合 $E$ 上是一對一的。

如果 $b\in E, b \neq a$, 並且 $b$ 也被指定有序有理數 $(p,q,r)$ , 則因 $q\lt b\lt r, b\neq a$, 所以 $f(b)\lt p$, 這與 $g(b)\lt p\lt f(b)$ 矛盾。

因此, 我們在 $E$ 上定了一個到 $(p,q,r)$ 三個有序有理數的一對一對應, 同理也可以對 $F=\{x|f(x)\lt g(x)\}$ 作類似的對應, 但是因為 $(p,q,r)$ 的全體是可數的, 因此證得定理。 (註3)

• 註1. 見 Courant and John, Introduction to Calculus and Analysis, Vol. 1, p.109.
• 註2. Countable (可數的)是指一個集合或者只有有限個元素, 或者可以根據 $n=1,2,3,\cdots$ 分成 (可能重疊的)有限集的集合。 它的定義是此集合可以與自然數的全體或部分建立一個一對一的對應。注意到 $[0.1]$ 上的實數不是可數的。 因此, 根據本文的定理, 不會存在處處有極限, 處處不連續的函數。
• 註3. 早年微積分教學, 常常會碰到下面這個例子 $$f(x)= \begin{cases} 0, \quad \text{如果 $x$ 是無理數}\\ \dfrac{1}{q}, \quad \text{如果 $x$ 是有理數 $\dfrac{p}{q}$, 且 $p,q$ 互質, $q\gt 0$.} \end{cases}$$ 此一函數 $f(x)$ 滿足極限處處為 0, 而僅在有理數點不連續。 (同見註1)

  ---本文作者為台大數學系退休教授---