유계인 구간의 길이는 실수로 나타낼 수 있다. 그러나 유계가 아닌 구간의 길이는 실수로 나타낼 수 없다. 모든 구간의 길이를 수로 나타내기 위하여 실수계를 확장하자.
지금부터는 \(\infty\)와 \(-\infty\)를 확장된 수로 보자. 확장실수계(extended real line)란 실수 집합 \(\mathbb{R}\)에 두 원소 \(\infty\)와 \(-\infty\)를 추가한 집합 \(\tilde{\mathbb{R}}\)이다. 여기에 덧셈, 곱셈, 순서 관계를 추가로 다음과 같이 정의한다. \[\begin{gather} \forall a \in \mathbb{R} :\, a+\infty = \infty ,\\[6pt] \forall a > 0 :\, a \times \infty = \infty ,\\[6pt] \forall a < 0 :\, a \times \infty = - \infty ,\\[6pt] \infty \times \infty = (-\infty) \times (-\infty) = \infty ,\\[6pt] 0\times \infty = 0\times (-\infty) = 0 , \\[6pt] \infty \times (-\infty) = (-\infty) \times \infty = -\infty ,\\[6pt] \forall a\in\mathbb{R} :\, -\infty < a < \infty. \end{gather}\] 그러나 \(\infty + (-\infty)\)는 정의되지 않는다.
Lebesgue 적분을 정의하다 보면 두 함수의 값이 아주 작은 집합 위에서만 다를 때 두 함수를 같은 것으로 간주하여 다룰 수 있게 된다. 이와 같은 관점에서 다음 정의를 도입한다: 함수 \(f\)가 측도가 주어진 공간 \(X\) 위에서 정의되었다고 하자. 만약 \(X\)의 점 \(x\) 중에서 \(f(x)\)가 성질 \(p\)를 만족시키지 않는 집합의 측도가 \(0\)일 때, 즉 \[\left\{ x\in X \,\vert\, \neg p(f(x)) \right\}\] 의 측도가 \(0\)일 때 “\(X\)의 거의 모든 점에서 \(f\)가 \(p\)를 만족시킨다”라고 말한다.
정의 1. \(E\)가 가측집합이라고 하자. 함수 \(f : E \rightarrow \mathbb{R}\)가 Lebesgue 가측함수(measurable function)라는 것은 임의의 구간 \(I\subseteq\mathbb{R}\)에 대하여 \(f^{-1}(I)\)가 Lebesgue 가측인 것, 즉 \[f^{-1} (I) \in \mathfrak{M}\] 이 성립하는 것을 의미한다. Lebesgue 가측함수를 간단히 ‘가측함수’라고 부른다.
만약 임의의 구간 \(I\)에 대하여 \(f^{-1}(I)\in \mathcal{B}\)이면, 즉 \(f^{-1}(I)\)가 Borel 집합이면 \(f\)를 Borel 가측함수라고 부른다.
\(f\)가 연속함수라는 것은 임의의 열린집합의 역상이 열린집합인 것이다. 이러한 측면에서 가측함수의 정의는 연속함수의 정의와 비슷하다.
정리 2.
\(X\)가 측도가 주어진 공간이고 함수 \(f:X\rightarrow\mathbb{R}\)가 주어졌을 때, 다음은 모두 동치이다.
(ⅰ) \(f\)가 가측함수이다.
(ⅱ) 임의의 실수 \(a\)에 대하여 \(f^{-1}((a,\,\infty))\)가 가측이다.
(ⅲ) 임의의 실수 \(a\)에 대하여 \(f^{-1}([a,\,\infty))\)가 가측이다.
(ⅳ) 임의의 실수 \(a\)에 대하여 \(f^{-1}((-\infty,\,a))\)가 가측이다.
(ⅴ) 임의의 실수 \(a\)에 대하여 \(f^{-1}((-\infty,\,a])\)가 가측이다.
증명.
(ⅰ)이 성립하면 명백히 (ⅱ), (ⅲ), (ⅳ), (ⅴ)가 성립한다.
여기서는 (ⅱ)를 가정하고 (ⅰ)을 증명하자. 다른 관계는 비슷한 방법으로 증명된다.
(ⅱ)를 가정하자. 이제 임의의 구간 \(I\)에 대하여 \(f^{-1}(I)\in\mathfrak{M}\)을 보여야 한다. 만약 \(I\)가 \(I=(a,\,\infty)\) 꼴이라면 가정에 의하여 \(f^{-1}(I)\in\mathfrak{M}\)이다.
\(I=(-\infty ,\,a]\) 꼴에 대하여 증명하자. \(E\)와 \(f^{-1}((a,\,infty))\)가 모두 \(\mathfrak{M}\)에 속하므로 \[f^{-1}((-\infty ,\,a]) = f^{-1}(\mathbb{R}\setminus (a,\,\infty)) = E\setminus f^{-1}((a,\,\infty )) \in \mathfrak{M}\tag{1}\] 이다. 다음으로 \[\begin{align} f^{-1}((-\infty ,\,b)) &= f^{-1}\left( \bigcup_{n=1}^{\infty}\left( - \infty ,\, b- \frac{1}{n}\right]\right) \\[4pt] &= \bigcup_{n=1}^{\infty} f^{-1}\left(\left(-\infty ,\, b- \frac{1}{n}\right]\right) \end{align}\] 이 성립한다. 그런데 (1)에 의하여 \(f^{-1}\left(\left(-\infty,\,b-\frac{1}{n}\right]\right)\in\mathfrak{M}\)이므로 이들의 가산합집합 또한 \(\mathfrak{M}\)에 속한다. 이를 통하여 \(f^{-1}([b,\,\infty)\in\mathfrak{M}\)을 얻는다.
다음으로 \(I = (a,\,b)\) 꼴에 대하여 증명하자. \[\begin{align} f^{-1}((a,\,b)) &= f^{-1} ((-\infty ,\,b)\cap (a,\,\infty))\\[4pt] &= f^{-1} ((-\infty ,\,b)) \cap f^{-1}((a,\,\infty)) \end{align}\] 인데, 이 결과는 \(\mathfrak{M}\)의 두 원소의 교집합이므로 \(\mathfrak{M}\)에 속한다. 같은 방법으로 \[\begin{align} f^{-1}([a,\,b]) &= f^{-1}((-\infty ,\,b] \cap [a,\,\infty))\\[4pt] &= f^{-1}((-\infty ,\,b] \cap f^{-1} ([a,\,\infty)) \end{align}\] 또한 \(\mathfrak{M}\)에 속함을 보일 수 있다. 반열린구간의 역상이 \(\mathfrak{M}\)에 속한다는 사실도 같은 방법으로 증명된다.
가측함수의 몇 가지 예를 살펴보자.
보기 1. 상수함수는 가측함수이다. 예컨대 \(f(x)\equiv c\)라고 하자. 그러면 \[f^{-1}((a,\,\infty)) = \left\{ \begin{array}{ll} \mathbb{R} & \text{if} \,\, a < c \\[4pt] \varnothing & \text{otherwise} \end{array}\right. \] 이므로 \(f^{-1}((a,\,\infty))\)는 어느 때나 가측집합이다.
보기 2. 연속함수는 가측함수이다. 임의의 실수 \(a\)에 대하여 \((a,\,\infty)\)가 열린집합이므로 \(f^{-1}((a,\,\infty))\)가 열린집합이다. 열린집합은 가측집합이므로 \(f\)는 가측함수이다.
보기 3. \(A\)의 특성함수 \(\mathbf{1}_A\)를 생각하자. \[\mathbf{1}_A^{-1} ((a,\,\infty))=\left\{ \begin{array}{ll} \mathbb{R} & \text{if}\,\, a < 0 \\[4pt] A & \text{if}\,\, 0 \le a < 1 \\[4pt] \varnothing & \text{if} \,\, a \ge 1 \end{array} \right.\] 이므로 \(\mathbf{1}_A\)가 가측함수일 필요충분조건은 \(A\)가 가측집합인 것이다.
보기 4. 단조함수는 가측함수이다. \(f:\mathbb{R} \rightarrow\mathbb{R}\)가 단조증가함수라고 하자. 실수 \(a\)가 주어졌다고 하고 구간 \((a,\,\infty)\)를 생각하자. \[b=\sup\left\{ x\,\vert\, f(x) \le a\right\}\] 라고 하면 \(f^{-1}((a,\,\infty)\)는 \([b,\,\infty )\) 또는 \((b,\,\infty)\) 꼴이므로 가측이다.
보기 5. \(f:\mathbb{R}\rightarrow\mathbb{R}\)가 가측함수이고 \(a\in\tilde{\mathbb{R}}\)이면 \[\left\{ x\in\mathbb{R} \,\vert\, f(x)=a \right\}\] 는 가측집합이다. 왜냐하면 위 집합은 두 가측집합의 교집합 \[f^{-1}([a,\,+\infty )) \cap f^{-1}((-\infty ,\,a])\] 으로 표현되기 때문이다.
선택공리를 가정하면 \(\mathbb{R}\)의 부분집합 중 가측이 아닌 집합이 존재하게 되며, Lebesgue 가측이지만 Borel 집합이 아닌 집합이 존재하게 된다. 따라서 \[\mathcal{B} \subsetneq \mathfrak{M} \subsetneq \mathcal{P}(\mathbb{R})\] 이다. 이와 같은 사실과 특성함수의 성질을 결합하면, 가측이 아닌 함수의 존재성과 Lebesgue 가측이지만 Borel 가측은 아닌 함수를 만들 수 있다. 하지만 이 내용이 측도론과 Lebesgue 적분을 공부하며 계속 염두에 두어야 할 만큼 중요하진 않다.