\(f(x) = 0\)의 두 근이 \(0,\ -n\)이므로 최고차항의 계수가 \(1\)인 삼차함수를 \(f(x) = x(x + n)(x - c)\)로 놓을 수 있다. 한편 \(g(x) = x(x - n)\)이고, 함수 \(h(x)\)가 원점 \(x = 0\)에서 미분가능하므로 \[ -cn = f'(0) = g'(0) = -n \implies c = 1, \quad \text{즉 } f(x) = x(x + n)(x - 1)\text{이다.} \quad \cdots\cdots \text{ <3점>} \] 구간 \((-n, 0)\)의 정수 \(x = -k\ (k = 1, 2, \dots, n-1)\)에서 \(|h(-k)| = f(-k) > 0\)이므로 경계를 제외한 내부 정수점의 개수 \(a_n\)은 다음과 같다. \[ a_n = \sum_{k=1}^{n-1}\big(f(-k) - 1\big) = \sum_{k=1}^{n-1}\big(-k^3 + (n - 1)k^2 + nk - 1\big) = -\left(\frac{n(n - 1)}{2}\right)^2 + \frac{n(n - 1)^2(2n - 1)}{6} + \frac{n^2(n - 1)}{2} - n + 1 \quad \cdots\cdots \text{ <4점>} \] 마찬가지로 구간 \((0, n)\)의 정수 \(x = k\ (k = 1, 2, \dots, n-1)\)에서 \(|h(k)| = -g(k) > 0\)이므로 경계를 제외한 내부 정수점의 개수 \(b_n\)은 다음과 같다. \[ b_n = \sum_{k=1}^{n-1}\big(-g(k) - 1\big) = \sum_{k=1}^{n-1}\big(-k^2 + nk - 1\big) = -\frac{n(n - 1)(2n - 1)}{6} + \frac{n^2(n - 1)}{2} - n + 1 \quad \cdots\cdots \text{ <3점>} \] \(a_n\)의 최고차항(\(n^4\)) 계수는 \(-\dfrac{1}{4} + \dfrac{1}{3} = \dfrac{1}{12}\)이고, \(nb_n\)의 최고차항(\(n^4\)) 계수는 \(-\dfrac{1}{3} + \dfrac{1}{2} = \dfrac{1}{6}\)이므로 제시문 [나]에 의하여 다음을 얻는다. \[ \lim_{n\to\infty}\frac{a_n}{nb_n} = \left(-\frac{1}{4} + \frac{1}{3}\right) \div \frac{1}{6} = \frac{1}{2} \quad \cdots\cdots \text{ <3점>} \]

① \(S_1 = \triangle\mathrm{O}_3\mathrm{AB}\)의 넓이 (10점): 직각삼각형 \(\mathrm{O}_2\mathrm{P}_2\mathrm{A}\)와 \(\mathrm{O}_1\mathrm{P}_1\mathrm{A}\)는 닮음비 \(2 : 1\)이고 \(\overline{\mathrm{O}_1\mathrm{O}_2} = 3\)이므로 \(\overline{\mathrm{AO}_2} = 6\)이다. 또한 직각삼각형 \(\mathrm{O}_3\mathrm{P}_3\mathrm{B}\)와 \(\mathrm{O}_2\mathrm{P}_2\mathrm{B}\)는 닮음비 \(3 : 2\)이고 \(\overline{\mathrm{O}_3\mathrm{O}_2} = 5\)이므로 \(\overline{\mathrm{BO}_2} = 10\)이다. 직각삼각형 \(\mathrm{O}_1\mathrm{O}_2\mathrm{O}_3\)에서 \(\cos\angle\mathrm{AO}_2\mathrm{B} = \cos(\pi - \angle\mathrm{O}_3\mathrm{O}_2\mathrm{O}_1) = -\dfrac{3}{5}\)이므로 삼각형 \(\mathrm{AO}_2\mathrm{B}\)에서 코사인법칙을 적용하면 \[ \overline{\mathrm{AB}}^2 = 100 + 36 - 2 \times 10 \times 6 \times \left(-\frac{3}{5}\right) = 208 \implies \overline{\mathrm{AB}} = 4\sqrt{13} \text{ 이다.} \] 한편 직선 \(\mathrm{AB}\)는 평면 \(\alpha\)와 평면 \(\beta\)의 교선이므로, 점 \(\mathrm{O}_3\)에서 선분 \(\mathrm{AB}\)에 내린 수선의 발을 \(\mathrm{H}\)라 하면 삼수선의 정리에 의해 \(\angle\mathrm{O}_3\mathrm{HP}_3 = \theta\)이다. \(\sin\theta = \sqrt{1 - \cos^2\theta} = \dfrac{\sqrt{13}}{6}\)이고 \(\sin\theta = \dfrac{\overline{\mathrm{O}_3\mathrm{P}_3}}{\overline{\mathrm{O}_3\mathrm{H}}}\)에서 \(\overline{\mathrm{O}_3\mathrm{H}} = \dfrac{18}{\sqrt{13}}\)이다. 따라서 \(S_1 = \triangle\mathrm{O}_3\mathrm{AB} = \dfrac{1}{2} \times 4\sqrt{13} \times \dfrac{18}{\sqrt{13}} = 36\)이다. \(\cdots\cdots \text{ <10점>}\)
② \(S_2 = \triangle\mathrm{P}_3\mathrm{AO}_2\)의 넓이 및 \(\dfrac{S_2}{S_1}\) (12점): \(\triangle\mathrm{P}_1\mathrm{P}_2\mathrm{P}_3 = \sqrt{23}\)이고 \(\overline{\mathrm{P}_1\mathrm{P}_2} = 2\sqrt{2}\)이므로 점 \(\mathrm{P}_3\)에서 직선 \(\mathrm{AP}_2\)까지의 거리는 \(\dfrac{2\sqrt{23}}{2\sqrt{2}} = \dfrac{\sqrt{46}}{2}\)이다. 또한 \(\overline{\mathrm{AP}_2} = \sqrt{\overline{\mathrm{AO}_2}^2 - \overline{\mathrm{O}_2\mathrm{P}_2}^2} = \sqrt{36 - 4} = 4\sqrt{2}\)이므로 \(\triangle\mathrm{P}_3\mathrm{AP}_2 = \dfrac{1}{2} \times 4\sqrt{2} \times \dfrac{\sqrt{46}}{2} = 2\sqrt{23}\)이다. 한편 삼각형 \(\mathrm{O}_3\mathrm{AO}_2\)에서 \(\overline{\mathrm{AO}_2} = 6,\ \overline{\mathrm{O}_3\mathrm{O}_2} = 5,\ \cos\angle\mathrm{O}_3\mathrm{O}_2\mathrm{A} = \dfrac{3}{5}\)이므로 코사인법칙에 의해 \(\overline{\mathrm{AO}_3}^2 = 25 + 36 - 2 \times 5 \times 6 \times \dfrac{3}{5} = 25 \implies \overline{\mathrm{AO}_3} = 5\)이고, 직각삼각형 \(\mathrm{AO}_3\mathrm{P}_3\)에서 \(\overline{\mathrm{AP}_3} = \sqrt{5^2 - 3^2} = 4\)이다. 점 \(\mathrm{P}_2\)에서 선분 \(\mathrm{AP}_3\)에 내린 수선의 발을 \(\mathrm{H}'\)이라 하면 \(\triangle\mathrm{P}_3\mathrm{AP}_2 = \dfrac{1}{2} \times \overline{\mathrm{P}_2\mathrm{H}'} \times 4 = 2\sqrt{23} \implies \overline{\mathrm{P}_2\mathrm{H}'} = \sqrt{23}\)이다. 삼수선의 정리에 따라 \(\overline{\mathrm{O}_2\mathrm{H}'} \perp \overline{\mathrm{AP}_3}\)이므로 \(\overline{\mathrm{O}_2\mathrm{H}'} = \sqrt{\overline{\mathrm{O}_2\mathrm{P}_2}^2 + \overline{\mathrm{P}_2\mathrm{H}'}^2} = \sqrt{4 + 23} = 3\sqrt{3}\)이고, \(S_2 = \triangle\mathrm{P}_3\mathrm{AO}_2 = \dfrac{1}{2} \times 4 \times 3\sqrt{3} = 6\sqrt{3}\)이다. 그러므로 \(\dfrac{S_2}{S_1} = \dfrac{6\sqrt{3}}{36} = \dfrac{\sqrt{3}}{6}\)이다. \(\cdots\cdots \text{ <12점>}\)

주어진 \(x,\ y\)를 시각 \(t\)에 대하여 각각 미분하면 \[ x'(t) = 2t^{\frac{2n-1}{2}}, \qquad y'(t) = t^{2n} - \frac{1}{t} \] 이다. 따라서 제시문 [가]의 매개변수로 나타낸 함수의 미분법에 의하여 \[ \frac{dy}{dx} = \frac{y'(t)}{x'(t)} = \frac{t^{2n} - \dfrac{1}{t}}{2t^{\frac{2n-1}{2}}} = \frac{1}{2}\left(t^{\frac{2n+1}{2}} - t^{-\frac{2n+1}{2}}\right) \quad \cdots\cdots \text{ <6점>} \] 이다. 여기서 \(u = t^{\frac{2n+1}{2}}\)이라고 두고 \(\dfrac{dy}{dx} = n\)일 때를 생각하면, \[ n = \frac{1}{2}\left(u - \frac{1}{u}\right) \implies u^2 - 2nu - 1 = 0 \] 이다. 근의 공식에 의하여 \(u = n \pm \sqrt{n^2 + 1}\)이고, 조건에서 \(t \ge 1\)이므로 \(u = t^{\frac{2n+1}{2}} \ge 1 > 0\)이어서 \(u = n + \sqrt{n^2 + 1}\)을 얻는다.
따라서 \(\dfrac{dy}{dx} = n\)이 되는 점 \(\mathrm{P}\)의 \(x\)좌표 \(a_n\)은 \[ a_n = \frac{4}{2n+1}u - \frac{4}{2n+1} = \frac{4}{2n+1}\left(n - 1 + \sqrt{n^2 + 1}\right) \quad \cdots\cdots \text{ <6점>} \] 이다. 그러므로 구하는 극한값은 \[ \lim_{n\to\infty} a_n = \lim_{n\to\infty}\left(\frac{4(n-1)}{2n+1} + \frac{4\sqrt{n^2+1}}{2n+1}\right) = \lim_{n\to\infty}\left(\frac{4 - \dfrac{4}{n}}{2 + \dfrac{1}{n}} + \frac{4\sqrt{1 + \dfrac{1}{n^2}}}{2 + \dfrac{1}{n}}\right) = 2 + 2 = 4 \quad \cdots\cdots \text{ <3점>} \] 시각 \(t\ (t \ge 1)\)에서 점 \(\mathrm{P}\)의 속력은 \[ \sqrt{\{x'(t)\}^2 + \{y'(t)\}^2} = \sqrt{4t^{2n-1} + \left(t^{2n} - \frac{1}{t}\right)^2} = \sqrt{4t^{2n-1} + t^{4n} - 2t^{2n-1} + \frac{1}{t^2}} = \sqrt{\left(t^{2n} + \frac{1}{t}\right)^2} = t^{2n} + \frac{1}{t} \quad \cdots \text{ <6점>} \] 이다. \(b = e^{\frac{1}{2n+1}}\)이라고 할 때, 제시문 [나]에 의하여 시각 \(t = 1\)에서 \(t = b\)까지 점 \(\mathrm{P}\)가 움직인 거리 \(l\)은 \[ l = \int_1^b \left(t^{2n} + \frac{1}{t}\right)dt = \left[\frac{1}{2n+1}t^{2n+1} + \ln t\right]_1^b = \frac{1}{2n+1}b^{2n+1} + \ln b - \frac{1}{2n+1} = \frac{e + 1 - 1}{2n+1} = \frac{e}{2n+1} \quad \cdots \text{ <6점>} \] 이다. 또한 시각 \(t = b = e^{\frac{1}{2n+1}}\)에서 점 \(\mathrm{P}\)의 \(y\)좌표 \(m\)은 \[ m = \frac{1}{2n+1}b^{2n+1} - \ln b - \frac{1}{2n+1} = \frac{e - 1 - 1}{2n+1} = \frac{e-2}{2n+1} \] 이므로, 구하는 비는 \(\dfrac{l}{m} = \dfrac{\; \dfrac{e}{2n+1} \;}{\dfrac{e-2}{2n+1}} = \dfrac{e}{e-2}\)이다. \(\cdots\cdots \text{ <3점>}\)

\(f(x) = 4\sqrt{x}\)에서 \(f'(x) = \dfrac{2}{\sqrt{x}}\)이므로, 제시문 [라]에 의하여 점 \(\mathrm{P}(a, 4\sqrt{a})\)에서의 접선 \(l\)의 방정식은 \[ y - 4\sqrt{a} = \frac{2}{\sqrt{a}}(x - a) \implies y = h(x) = \frac{2}{\sqrt{a}}x + 2\sqrt{a} \quad \cdots\cdots \text{ <5점>} \] 이다. \(0 \lt x \lt 4\)에서 \(h(x) \ge f(x)\) (등호는 \(x=a\)일 때 성립)이므로, 도형 \(S\)의 넓이를 \(g(a)\)라 하면 \[ g(a) = \int_0^4 h(x)\,dx - \int_0^4 4\sqrt{x}\,dx = \left[\frac{1}{\sqrt{a}}x^2 + 2\sqrt{a}x\right]_0^4 - \left[\frac{8}{3}x\sqrt{x}\right]_0^4 = 8\sqrt{a} + \frac{16}{\sqrt{a}} - \frac{64}{3} \quad \cdots\cdots \text{ <5점>} \] 이다. \(0 \lt a \lt 4\)에서 \(g(a)\)를 미분하면 \(g'(a) = \dfrac{4}{\sqrt{a}} - \dfrac{8}{a\sqrt{a}} = \dfrac{4}{a\sqrt{a}}(a - 2)\)이다. 제시문 [마]에 의하여 \(g(a)\)는 \(0 \lt a \lt 2\)에서 감소(\(g'(a)<0\))하고 \(2 \lt a \lt 4\)에서 증가(\(g'(a)>0\))하므로 \(a = 2\)에서 극소이자 최소가 된다. 따라서 최솟값은 \(g(2) = 16\sqrt{2} - \dfrac{64}{3} = 16\left(\sqrt{2} - \dfrac{4}{3}\right)\)이다. \(\cdots \text{ <7점>}\)

곡선 \(y = 5 - \dfrac{x^2}{a}\)에서 \(x^2 = a(5 - y)\)이므로, 이를 \(y = 5\sqrt{1 - x^2}\)에 대입하면 \(y = 5\sqrt{1 - 5a + ay}\)이다. 양변을 제곱하여 정리하면 \[ y^2 = 25(1 - 5a + ay) \implies y^2 - 25ay + 125a - 25 = 0 \implies (y - 5)(y - 25a + 5) = 0 \quad \cdots\cdots \text{ <7점>} \] 이므로 \(y = 5\) 또는 \(y = 25a - 5\)이다.
• \(y = 5\)일 때는 \(x = 0\)이므로 한 개의 교점 \((0, 5)\)를 갖는다.
• \(y = 25a - 5\)일 때 교점을 가지려면, 함수 \(y = 5\sqrt{1-x^2}\ (-1 \le x \le 1)\)의 치역이 \(0 \le y \le 5\)이므로 \[ 0 \le 25a - 5 \le 5 \implies \frac{1}{5} \le a \le \frac{2}{5} \quad \cdots\cdots \text{ <6점>} \] 이어야 한다. 이때 \(a = \dfrac{2}{5}\)이면 \(y = 25a - 5 = 5\)가 되어 교점이 \((0, 5)\) 오직 \(1\)개뿐이고, \(\dfrac{1}{5} \le a < \dfrac{2}{5}\)이면 \(0 \le 25a - 5 < 5\)가 되어 \(x = \pm\sqrt{a(10 - 25a)}\)인 두 교점과 \((0, 5)\)를 합쳐 총 \(3\)개의 서로 다른 교점을 갖는다. 따라서 서로 다른 교점이 \(2\)개 이상이 되는 양수 \(a\)의 범위는 \(\dfrac{1}{5} \le a < \dfrac{2}{5}\)이다. \(\cdots\cdots \text{ <5점>}\)

삼각형 \(\mathrm{OP}_1\mathrm{P}_2\)에서 \(\angle\mathrm{P}_2\mathrm{OP}_1 = \alpha,\ \angle\mathrm{OP}_2\mathrm{P}_1 = \dfrac{\pi}{3}\)이므로 \(\angle\mathrm{OP}_1\mathrm{P}_2 = \pi - \left(\alpha + \dfrac{\pi}{3}\right)\)이다. 제시문 [라]의 사인법칙을 적용하면 \[ \frac{\overline{\mathrm{OP}_2}}{\sin\left(\pi - \left(\alpha + \dfrac{\pi}{3}\right)\right)} = \frac{\overline{\mathrm{OP}_1}}{\sin\dfrac{\pi}{3}} \implies \overline{\mathrm{OP}_2} = \frac{2}{\sqrt{3}}\sin\left(\alpha + \frac{\pi}{3}\right)\overline{\mathrm{OP}_1} \] 이고, 직각삼각형 \(\mathrm{OP}_3\mathrm{P}_2\)에서 \(\angle\mathrm{OP}_2\mathrm{P}_3 = \alpha\)이므로 \(\overline{\mathrm{OP}_3} = \sin\alpha\,\overline{\mathrm{OP}_2}\)이다.
이와 같은 방법으로 제\(2\)사분면의 삼각형 \(\mathrm{OP}_3\mathrm{P}_4\)와 직각삼각형 \(\mathrm{OP}_5\mathrm{P}_4\)에서는 \(\angle\mathrm{P}_3\mathrm{OP}_4 = \dfrac{\pi}{2} - \beta\)이므로, 위 식의 \(\alpha\) 대신 \(\dfrac{\pi}{2} - \beta\)를 적용하면 \[ \overline{\mathrm{OP}_4} = \frac{2}{\sqrt{3}}\sin\left(\frac{\pi}{2} - \beta + \frac{\pi}{3}\right)\overline{\mathrm{OP}_3}, \qquad \overline{\mathrm{OP}_5} = \sin\left(\frac{\pi}{2} - \beta\right)\overline{\mathrm{OP}_4} \quad \cdots\cdots \text{ <10점>} \] 이다. 위의 관계식들과 \(\overline{\mathrm{OP}_1} = 1\)을 차례대로 대입하고 \(\sin\left(\dfrac{\pi}{2} - \left(\beta - \dfrac{\pi}{3}\right)\right) = \cos\left(\beta - \dfrac{\pi}{3}\right),\ \sin\left(\dfrac{\pi}{2} - \beta\right) = \cos\beta\)를 적용하면 \[ \overline{\mathrm{OP}_5} = \frac{4}{3}\sin\left(\alpha + \frac{\pi}{3}\right)\sin\alpha\cos\left(\beta - \frac{\pi}{3}\right)\cos\beta \quad \cdots\cdots \text{ <6점>} \] 이다. 주어진 범위 \(0 \lt B \lt \dfrac{\pi}{2},\ -\dfrac{\pi}{2} \lt C \lt 0\)에 의해 \(A = \dfrac{4}{3},\ B = \dfrac{\pi}{3},\ C = -\dfrac{\pi}{3}\)이다. \(\beta = \dfrac{\pi}{6}\)을 (1)의 식에 대입하면 \(\cos\left(-\dfrac{\pi}{6}\right)\cos\dfrac{\pi}{6} = \dfrac{3}{4}\)이므로 \(\overline{\mathrm{OP}_5} = \overline{\mathrm{OP}_1}\sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha\)이다. 같은 시행을 반복하므로 삼각형 \(\mathrm{OP}_1\mathrm{P}_2,\ \mathrm{OP}_5\mathrm{P}_6,\ \mathrm{OP}_9\mathrm{P}_{10},\ \cdots\)들은 모두 닮음이며, 이웃한 두 도형의 닮음비는 일정하게 \(r = \dfrac{\overline{\mathrm{OP}_5}}{\overline{\mathrm{OP}_1}} = \dfrac{\overline{\mathrm{OP}_9}}{\overline{\mathrm{OP}_5}} = \cdots = \sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha\)이다. 따라서 구하는 합은 등비급수이다. \(\cdots \text{ <7점>}\)
첫째항은 \(\overline{\mathrm{OP}_1} = 1\)이고, \(0 < \alpha < \dfrac{\pi}{2}\)에서 \(0 < r = \sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha < 1\)이므로 제시문 [마]에 의하여 \[ f(\alpha) = \frac{1}{1 - \sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha} \quad \cdots\cdots \text{ <7점>} \] 이다. \(f(\alpha)\)를 미분하고 제시문 [바]의 사인함수의 덧셈정리를 적용하면 \[ f'(\alpha) = \frac{\cos\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha + \sin\left(\alpha + \dfrac{\pi}{3}\right)\cos\alpha}{\left\{1 - \sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha\right\}^2} = \frac{\sin\left(2\alpha + \dfrac{\pi}{3}\right)}{\left\{1 - \sin\left(\alpha + \dfrac{\pi}{3}\right)\sin\alpha\right\}^2} \] 이다. \(0 < \alpha < \dfrac{\pi}{2}\)에서 \(\dfrac{\pi}{3} < 2\alpha + \dfrac{\pi}{3} < \dfrac{4\pi}{3}\)이므로 \(f'(\alpha) = 0 \iff \alpha = \dfrac{\pi}{3}\)이다. 제시문 [사]에 따른 \(f(\alpha)\)의 증감표는 다음과 같다.

선분 \(\mathrm{P}_1\mathrm{Q}_1\)의 수직이등분선을 \(m\)이라 하자. 두 점 \(\mathrm{P}_1(8, 0),\ \mathrm{Q}_1(0, 4)\)에 대하여 선분 \(\mathrm{P}_1\mathrm{Q}_1\)의 중점의 좌표는 \((4, 2)\)이고, 직선 \(\mathrm{P}_1\mathrm{Q}_1\)의 기울기가 \(\dfrac{4 - 0}{0 - 8} = -\dfrac{1}{2}\)이므로 제시문 [가]에 의하여 직선 \(m\)의 기울기는 \(2\)이다. 따라서 직선 \(m\)의 방정식은 \[ y - 2 = 2(x - 4) \implies y = 2x - 6 \quad \cdots\cdots \text{ <6점>} \] 이다. 한편 쌍곡선 \(x^2 - y^2 = b\)와 직선 \(m\)이 접하려면, \(y = 2x - 6\)을 대입하여 정리한 이차방정식 \[ x^2 - (2x - 6)^2 = b \iff 3x^2 - 24x + 36 + b = 0 \] 의 판별식 \(D\)가 \(0\)이어야 한다. 따라서 \(\dfrac{D}{4} = (-12)^2 - 3(36 + b) = 144 - 108 - 3b = 0\)이므로 \(b = 12\)이다. \(\cdots\cdots \text{ <6점>}\) 두 점 \(\mathrm{P}_n\)과 \(\mathrm{Q}_n\)을 지나는 직선을 \(l_n\)이라 하자. 직선 \(l_2\)는 (1)에서 구한 직선 \(m\ (y = 2x - 6)\)이고, \(x\)축과 \(\mathrm{P}_2(3, 0)\), \(y\)축과 \(\mathrm{Q}_2(0, -6)\)에서 만난다. (선분 \(\mathrm{P}_2\mathrm{Q}_2\)의 중점 \(\left(\dfrac{3}{2}, -3\right)\)은 제\(4\)사분면 위의 점이다.)
직선 \(l_3\)는 선분 \(\mathrm{P}_2\mathrm{Q}_2\)의 수직이등분선이므로 중점 \(\left(\dfrac{3}{2}, -3\right)\)을 지나고 기울기는 \(-\dfrac{1}{2}\)이다. 따라서 직선 \(l_3\)의 방정식은 \(y = -\dfrac{1}{2}x - \dfrac{9}{4}\)이고, \(x\)축과 \(\mathrm{P}_3\left(-\dfrac{9}{2}, 0\right)\), \(y\)축과 \(\mathrm{Q}_3\left(0, -\dfrac{9}{4}\right)\)에서 만난다. (중점 \(\left(-\dfrac{9}{4}, -\dfrac{9}{8}\right)\)은 제\(3\)사분면 위의 점이며, 같은 방식으로 선분 \(\mathrm{P}_4\mathrm{Q}_4\)의 중점은 제\(2\)사분면, 선분 \(\mathrm{P}_5\mathrm{Q}_5\)의 중점은 다시 제\(1\)사분면에 놓인다.)
이제 직각삼각형 \(\mathrm{OP}_n\mathrm{Q}_n\)의 넓이를 \(S_n\)이라 하면 \(S_1 = \dfrac{1}{2}\times 8\times 4 = 16,\ S_2 = \dfrac{1}{2}\times 3\times 6 = 9,\ S_3 = \dfrac{1}{2}\times\dfrac{9}{2}\times\dfrac{9}{4} = \dfrac{81}{16}\)이다. 직각삼각형 \(\mathrm{OP}_n\mathrm{Q}_n\)들은 모두 서로 닮음이고, 연속하여 만들어지는 두 직각삼각형의 닮음비는 \(\dfrac{3}{4}\)이므로 넓이의 비는 \(\left(\dfrac{3}{4}\right)^2 = \dfrac{9}{16}\)이다. 따라서 \(S_4 = \dfrac{81}{16}\times\dfrac{9}{16} = \dfrac{729}{256}\)이다. \(\cdots\cdots \text{ <8점>}\)
제시문 [나]에 의하여 \(A_1\)은 첫째항이 \(S_1 = 16\), \(A_4\)는 첫째항이 \(S_2 = 9\), \(A_3\)은 첫째항이 \(S_3 = \dfrac{81}{16}\), \(A_2\)는 첫째항이 \(S_4 = \dfrac{729}{256}\)이고 공비가 모두 동일하게 \(r = \left(\dfrac{9}{16}\right)^4\)인 등비급수의 합이다. 따라서 \(A_1\)과 \(A_2 + A_3 + A_4\)의 대소 관계를 비교하기 위해 첫째항 \(S_1\)과 \(S_2 + S_3 + S_4\)의 대소를 비교하면, \[ S_2 + S_3 + S_4 = 9 + \frac{81}{16} + \frac{729}{256} = \frac{2304 + 1296 + 729}{256} = \frac{4329}{256} > \frac{4096}{256} = 16 = S_1 \] 이므로 \(A_1 < A_2 + A_3 + A_4\)이다. 따라서 주어진 명제는 거짓이다. \(\cdots\cdots \text{ <10점>}\)

앞면을 \(\mathrm{H}\), 뒷면을 \(\mathrm{T}\)라고 하자. 아래와 같이 앞면이 나온 동전 \(16\)개를 먼저 일렬로 배열하고, 첫 번째 \(\mathrm{H}\)의 앞, 이웃한 두 \(\mathrm{H}\)의 사이, \(16\)번째 \(\mathrm{H}\)의 뒤에 총 \(17\)개의 \(\bigcirc\) 표시를 하자. \[ \bigcirc\ \mathrm{H}\ \bigcirc\ \mathrm{H}\ \bigcirc\ \cdots\ \bigcirc\ \mathrm{H}\ \bigcirc \] 뒷면이 연속해서 나오지 않으려면 \(3\)개의 \(\mathrm{T}\)는 \(17\)개의 \(\bigcirc\) 자리에 최대 하나씩만 들어갈 수 있으므로 \(\cdots\cdots \text{ <4점>}\)
제시문 [다]에 의하여 뒷면이 연속해서 나오지 않는 경우의 수는 \[ {}_{17}\mathrm{C}_3 = \frac{17 \times 16 \times 15}{3 \times 2 \times 1} = 680 \quad \cdots\cdots \text{ <8점>} \] 이다. 첫 번째 뒷면(\(\mathrm{T}\))이 나오기 전에 나온 앞면의 수를 \(x_1\), 첫 번째 뒷면과 두 번째 뒷면 사이에 나온 앞면의 수를 \(x_2\), 두 번째 뒷면과 세 번째 뒷면 사이에 나온 앞면의 수를 \(x_3\), 세 번째 뒷면 후에 나온 앞면의 수를 \(x_4\)라 하면 \[ (\underbrace{\mathrm{H}\cdots\mathrm{H}}_{x_1\text{개}})\ \mathrm{T}\ (\underbrace{\mathrm{H}\cdots\mathrm{H}}_{x_2\text{개}})\ \mathrm{T}\ (\underbrace{\mathrm{H}\cdots\mathrm{H}}_{x_3\text{개}})\ \mathrm{T}\ (\underbrace{\mathrm{H}\cdots\mathrm{H}}_{x_4\text{개}}) \implies x_1 + x_2 + x_3 + x_4 = 16 \] 이다. 앞면이 항상 연속해서 두 번 이상 나오면서 뒷면이 연속해서 나오지 않으려면, 두 \(\mathrm{T}\) 사이에 있는 \(x_2,\ x_3\)는 반드시 \(x_2 \ge 2,\ x_3 \ge 2\)이어야 하고, 양 끝의 \(x_1,\ x_4\)는 \(0\)이거나(해당 위치에 앞면이 아예 없는 경우) \(2\) 이상(\(x_j \neq 0\)이면 \(x_j \ge 2\))이어야 한다. 따라서 다음 네 가지 경우가 가능하다. \(\cdots\cdots \text{ <6점>}\)
(i) \(x_1 = 0\)이고 \(x_2,\ x_3,\ x_4 \ge 2\)인 경우:
\(x_2 = y_2 + 2,\ x_3 = y_3 + 2,\ x_4 = y_4 + 2\)라 하면 \(y_2 + y_3 + y_4 = 10\)을 만족하는 음이 아닌 정수해의 개수를 구하면 되므로, 제시문 [라]에 의하여 \({}_3\mathrm{H}_{10} = {}_{12}\mathrm{C}_{10} = {}_{12}\mathrm{C}_2 = 66\)이다.
(ii) \(x_4 = 0\)이고 \(x_1,\ x_2,\ x_3 \ge 2\)인 경우:
(i)과 대칭이므로 같은 방법으로 구하면 \({}_3\mathrm{H}_{10} = {}_{12}\mathrm{C}_{10} = 66\)이다.
(iii) \(x_1 = x_4 = 0\)이고 \(x_2,\ x_3 \ge 2\)인 경우:
\(x_2 = y_2 + 2,\ x_3 = y_3 + 2\)라 하면 \(y_2 + y_3 = 12\)를 만족하는 음이 아닌 정수해의 개수이므로 \({}_2\mathrm{H}_{12} = {}_{13}\mathrm{C}_{12} = 13\)이다.
(iv) \(x_1,\ x_2,\ x_3,\ x_4 \ge 2\)인 경우:
\(x_i = y_i + 2\ (i = 1, 2, 3, 4)\)라 하면 \(y_1 + y_2 + y_3 + y_4 = 8\)을 만족하는 음이 아닌 정수해의 개수이므로 \({}_4\mathrm{H}_8 = {}_{11}\mathrm{C}_8 = {}_{11}\mathrm{C}_3 = 165\)이다.
따라서 (i)~(iv)에 의하여 구하는 경우의 수는 \(66 + 66 + 13 + 165 = 310\)이다. \(\cdots\cdots \text{ <15점>}\)

점 \(\mathrm{P}\)의 좌표를 \((x_1, y_1)\)이라 하면 제시문 [가]에 의하여 접선 \(l\)의 방정식은 \[ \frac{x_1 x}{a^2} + \frac{y_1 y}{b^2} = 1 \quad \cdots\cdots \text{ <5점>} \] 이다. 접선 \(l\)이 점 \(\mathrm{A}(k, 0)\)을 지나므로 \(x = k,\ y = 0\)을 대입하면 \(\dfrac{k x_1}{a^2} = 1\)에서 \(x_1 = \dfrac{a^2}{k}\)이다.
또한 점 \(\mathrm{P}(x_1, y_1)\)은 타원 \(\dfrac{x^2}{a^2} + \dfrac{y^2}{b^2} = 1\) 위의 점이므로 \(x_1 = \dfrac{a^2}{k}\)를 대입하면 \[ \frac{a^2}{k^2} + \frac{y_1^2}{b^2} = 1 \implies y_1^2 = b^2\left(1 - \frac{a^2}{k^2}\right) \] 이다. 이때 \(k > a > 0\)이므로 \(x_1 = \dfrac{a^2}{k} > 0\)이고, 직선 \(l\)의 기울기 \(-\dfrac{b^2 x_1}{a^2 y_1}\)이 음수이므로 \(y_1 > 0\)이다. 따라서 \(y_1 = b\sqrt{1 - \dfrac{a^2}{k^2}}\)이고 점 \(\mathrm{P}\)의 좌표는 다음과 같다. \(\cdots\cdots \text{ <10점>}\) \(a = 5,\ b = 4,\ k = 13\)을 (1)의 결과에 대입하면 점 \(\mathrm{P}\)의 좌표는 \(\mathrm{P}\!\left(\dfrac{25}{13},\ \dfrac{48}{13}\right)\)이고, 접선 \(l\)의 방정식은 \(\dfrac{x}{13} + \dfrac{3y}{13} = 1\), 즉 \(y = -\dfrac{1}{3}x + \dfrac{13}{3}\)이다.
직선 \(l'\)은 점 \(\mathrm{P}\!\left(\dfrac{25}{13},\ \dfrac{48}{13}\right)\)을 지나고 직선 \(l\)에 수직이므로 기울기가 \(3\)이다. 따라서 직선 \(l'\)의 방정식은 \[ y - \frac{48}{13} = 3\left(x - \frac{25}{13}\right) \implies y = 3x - \frac{27}{13} \] 이고, 직선 \(l'\)이 \(x\)축과 만나는 점 \(\mathrm{Q}\)의 좌표는 \(\mathrm{Q}\!\left(\dfrac{9}{13}, 0\right)\)이다. \(\cdots\cdots \text{ <5점>}\)
한편 타원 \(\dfrac{x^2}{25} + \dfrac{y^2}{16} = 1\)에서 \(c = \sqrt{a^2 - b^2} = \sqrt{25 - 16} = 3\)이므로 두 초점의 좌표는 \(\mathrm{F}(3, 0),\ \mathrm{F}'(-3, 0)\)이다. 따라서 각 선분의 길이는 \[ \overline{\mathrm{QF}} = 3 - \frac{9}{13} = \frac{30}{13}, \qquad \overline{\mathrm{QF}'} = \frac{9}{13} - (-3) = \frac{48}{13} \] \[ \overline{\mathrm{PF}} = \sqrt{\left(\frac{25}{13} - 3\right)^2 + \left(\frac{48}{13}\right)^2} = \sqrt{\frac{196 + 2304}{169}} = \frac{50}{13}, \qquad \overline{\mathrm{PF}'} = \sqrt{\left(\frac{25}{13} + 3\right)^2 + \left(\frac{48}{13}\right)^2} = \sqrt{\frac{4096 + 2304}{169}} = \frac{80}{13} \] 이므로 구하는 값은 \(\dfrac{\overline{\mathrm{PF}}}{\overline{\mathrm{QF}}} + \dfrac{\overline{\mathrm{PF}'}}{\overline{\mathrm{QF}'}} = \dfrac{50/13}{30/13} + \dfrac{80/13}{48/13} = \dfrac{5}{3} + \dfrac{5}{3} = \dfrac{10}{3}\)이다. \(\cdots\cdots \text{ <10점>}\)

구간 \((0, \infty)\)에서 정의된 함수 \(y = x + \dfrac{1}{x}\)을 제시문 [라]를 이용하여 미분하면 \(y' = 1 - \dfrac{1}{x^2} = \dfrac{(x-1)(x+1)}{x^2}\)이다. \(x > 0\)에서 \(y' = 0 \iff x = 1\)이므로 증가와 감소를 표로 나타내면 다음과 같다. \(\cdots\cdots \text{ <6점>}\)

\(x\)	\((0)\)	\(\cdots\)	\(1\)	\(\cdots\)
\(y'\)		\(-\)	\(0\)	\(+\)
\(y\)		\(\searrow\)	\(2\) (극소·최소)	\(\nearrow\)

두 함수 \(y = f(x),\ y = g(x)\)의 그래프가 만나는 점의 \(x\)좌표는 방정식 \(f(x) = g(x)\), 즉 \[ -x + \frac{1}{x^2} = -x^2 + k + \frac{1}{x} \iff \left(x^2 + \frac{1}{x^2}\right) - \left(x + \frac{1}{x}\right) - k = 0 \] 의 실근이다. 여기서 \(t = x + \dfrac{1}{x}\)라 치환하면 위 증감표에 의해 \(t \ge 2\)이고, \(x^2 + \dfrac{1}{x^2} = t^2 - 2\)이므로 주어진 방정식은 \[ t^2 - t - k - 2 = 0 \] 이 된다. \(k > 0\)일 때 이 이차방정식의 두 근 중 \(t \ge 2\)를 만족하는 근은 \(t_0 = \dfrac{1 + \sqrt{4k + 9}}{2} > \dfrac{1 + 3}{2} = 2\)뿐이다. \(\cdots\cdots \text{ <6점>}\)
이때 \(\displaystyle\lim_{x\to 0+}\left(x + \frac{1}{x}\right) = \infty,\ \lim_{x\to\infty}\left(x + \frac{1}{x}\right) = \infty\)이고 \(y = x + \dfrac{1}{x}\)는 \((0, 1]\)에서 감소, \([1, \infty)\)에서 증가하며 최솟값이 \(2\)이므로, \(t_0 > 2\)에 대하여 직선 \(y = t_0\)과 곡선 \(y = x + \dfrac{1}{x}\)은 서로 다른 두 점에서 만난다. 즉 \(f(x) = g(x)\)는 서로 다른 두 양의 실근을 갖는다. \(\cdots\cdots \text{ <6점>}\) (1)에서 두 교점의 \(x\)좌표 \(\alpha,\ \beta\)는 방정식 \(x + \dfrac{1}{x} = t_0\), 즉 이차방정식 \(x^2 - t_0 x + 1 = 0\)의 두 근이다. 제시문 [다]의 근과 계수의 관계에 의하여 \(\alpha + \beta = t_0,\ \alpha\beta = 1\)이므로 \(\cdots\cdots \text{ <5점>}\) \[ S(k) = (\alpha - \beta)^2 = (\alpha + \beta)^2 - 4\alpha\beta = t_0^2 - 4 = (t_0 + k + 2) - 4 = t_0 + k - 2 = k - \frac{3}{2} + \frac{1}{2}\sqrt{4k + 9} \quad \cdots\cdots \text{ <5점>} \] 이다. 따라서 대학 공식 예시답안에 따라 정적분을 계산하면 (\(\sqrt{4x+9}\)의 부정적분은 \(\dfrac{1}{6}(4x+9)^{3/2}\)) \[ \int_4^{10} 6S(x)\,dx = \int_4^{10} \left(6x - 9 + 3\sqrt{4x + 9}\right)dx = \left[3x^2 - 9x + \frac{1}{2}(4x + 9)^{3/2}\right]_4^{10} = \left(210 + \frac{343}{2}\right) - \left(12 + \frac{125}{2}\right) = 198 + 109 = 307 \quad \cdots\cdots \text{ <5점>} \]

\(6\)번 조끼를 입은 학생이 상품을 받은 사건을 \(C\), \(3\)번 조끼를 입은 학생이 상품을 받지 못하였을 사건을 \(D\)라 하자. \(6\)번 조끼를 입은 학생이 상품을 받는 경우는 상품을 받지 못한 학생의 수가 \(0, 1, 2, 3, 4, 5\)명일 때이고, \(3\)번 조끼를 입은 학생이 상품을 받지 못하는 경우는 상품을 받지 못한 학생의 수가 \(3, 4, 5, 6, 7\)명일 때이다.
따라서 사건 \(C\)의 확률은 두 개의 출구 중 하나의 출구를 선택하는 시행을 \(7\)회 반복할 때 운동장으로 나오는 출구를 \(0, 1, 2, 3, 4, 5\)개 선택하는 확률과 같고, 사건 \(C\cap D\)의 확률은 운동장으로 나오는 출구를 \(3, 4, 5\)개 선택하는 확률과 같다. 제시문 [바]에 의하여 \(p = \dfrac{1}{2}\)이므로 \[ \mathrm{P}(C) = \sum_{r=0}^{5} {}_7\mathrm{C}_r \left(\frac{1}{2}\right)^7 = \frac{1 + 7 + 21 + 35 + 35 + 21}{128} = \frac{120}{128}, \qquad \mathrm{P}(C\cap D) = \left({}_7\mathrm{C}_3 + {}_7\mathrm{C}_4 + {}_7\mathrm{C}_5\right)\left(\frac{1}{2}\right)^7 = \frac{35 + 35 + 21}{128} = \frac{91}{128} \quad \cdots\cdots \text{ <12점>} \] 따라서 제시문 [사]에 의하여 구하는 조건부확률은 \(\mathrm{P}(D\mid C) = \dfrac{\mathrm{P}(C\cap D)}{\mathrm{P}(C)} = \dfrac{91/128}{120/128} = \dfrac{91}{120}\)이다. \(\cdots\cdots \text{ <5점>}\) • \(400\)명의 학생이 게임에 참가할 때, 상품을 받지 못한 학생 수를 확률변수 \(X_A\)라고 하면 \(X_A\)는 운동장으로 나가는 출구를 선택한 횟수와 같다. 따라서 \(X_A\)는 이항분포 \(\mathrm{B}\!\left(400, \dfrac{1}{2}\right)\)을 따르므로 평균 \(m_A = 400\times\dfrac{1}{2} = 200\), 표준편차 \(\sigma_A = \sqrt{400\times\dfrac{1}{2}\times\dfrac{1}{2}} = 10\)이다. 시행 횟수 \(400\)이 충분히 크므로 \(X_A\)는 근사적으로 정규분포 \(\mathrm{N}(200, 10^2)\)을 따르고, \(Z = \dfrac{X_A - 200}{10}\)은 표준정규분포 \(\mathrm{N}(0, 1)\)을 따른다. 상품을 받은 학생이 \(190\)명 이상인 사건 \(A\)는 \(X_A \le 400 - 190 = 210\)인 사건이므로 \[ \mathrm{P}(A) = \mathrm{P}(X_A \le 210) = \mathrm{P}\!\left(Z \le \frac{210 - 200}{10}\right) = \mathrm{P}(Z \le 1) \quad \cdots\cdots \text{(1)} \] • \(72\)명의 학생이 게임에 참가할 때, 상품을 받지 못한 학생 수를 확률변수 \(X_B\)라고 하면 \(X_B\)는 이항분포 \(\mathrm{B}\!\left(72, \dfrac{1}{2}\right)\)을 따르므로 평균 \(m_B = 72\times\dfrac{1}{2} = 36\), 표준편차 \(\sigma_B = \sqrt{72\times\dfrac{1}{2}\times\dfrac{1}{2}} = \sqrt{18}\)이다. \(X_B\)는 근사적으로 정규분포 \(\mathrm{N}(36, 18)\)을 따르고, 상품을 받은 학생이 \(k\)명 이상인 사건 \(B\)는 \(X_B \le 72 - k\)인 사건이므로 \[ \mathrm{P}(B) = \mathrm{P}(X_B \le 72 - k) = \mathrm{P}\!\left(Z \le \frac{(72 - k) - 36}{\sqrt{18}}\right) = \mathrm{P}\!\left(Z \le \frac{36 - k}{\sqrt{18}}\right) \quad \cdots\cdots \text{(2) <14점>} \] ①과 ②에서 \(\mathrm{P}(A) \le \mathrm{P}(B)\)가 성립하려면 \(1 \le \dfrac{36 - k}{\sqrt{18}}\), 즉 \(k \le 36 - \sqrt{18} = 36 - 3\sqrt{2}\)이어야 한다. \(4 < \sqrt{18} < 5\)이므로 \(31 < 36 - \sqrt{18} < 32\)가 되어, 이를 만족하는 가장 큰 자연수 \(k\)는 \(31\)이다. \(\cdots\cdots \text{ <6점>}\)

주어진 급수 \(\sum_{n=1}^\infty \dfrac{2}{3^n}(\cos\theta)^{2n}\)은 첫째항이 \(a = \dfrac{2}{3}\cos^2\theta\)이고 공비가 \(r = \dfrac{1}{3}\cos^2\theta\)인 등비급수이다. \(\cdots\cdots \text{<5점>}\)
\(0 \le \theta \le \dfrac{\pi}{2}\)에서 \(0 \le \cos\theta \le 1\)이므로 \(0 \le r = \dfrac{1}{3}\cos^2\theta \le \dfrac{1}{3} < 1\)이다. 따라서 제시문 [가]에 의해 급수는 수렴하며, 그 합 \(f(\theta)\)는 다음과 같다. \[ f(\theta) = \frac{\frac{2}{3}\cos^2\theta}{1 - \frac{1}{3}\cos^2\theta} = \frac{2\cos^2\theta}{3 - \cos^2\theta} \quad \cdots\cdots \text{<5점>} \] 이제 \(f(\theta) = \dfrac{1}{2}\)을 풀면: \[ \frac{2\cos^2\theta}{3 - \cos^2\theta} = \frac{1}{2} \iff 4\cos^2\theta = 3 - \cos^2\theta \iff 5\cos^2\theta = 3 \iff \cos^2\theta = \frac{3}{5} \] \(0 \le \theta \le \dfrac{\pi}{2}\)에서 \(\cos\theta \ge 0\)이므로 \(\cos\theta = \sqrt{\dfrac{3}{5}}\)이다. 따라서 만족하는 각은 \(\theta = \arccos\sqrt{\dfrac{3}{5}}\)이다. \(\cdots\cdots \text{<5점>}\) 제시문 [나]의 삼각함수 덧셈정리에 의해 \(\sin 2\theta = \sin(\theta + \theta) = 2\sin\theta\cos\theta\)이다. 따라서 구하는 정적분은 다음과 같다. \[ I = \int_0^{\pi/2} f(\theta)\sin 2\theta\,d\theta = \int_0^{\pi/2} \frac{2\cos^2\theta}{3 - \cos^2\theta} (2\sin\theta\cos\theta)\,d\theta \quad \cdots\cdots \text{<5점>} \] 여기서 \(t = \cos^2\theta\)로 치환하면 \(\dfrac{dt}{d\theta} = -2\cos\theta\sin\theta = -\sin 2\theta\)이므로 \(dt = -\sin 2\theta\,d\theta\)이다. 적분구간은 \(\theta = 0 \implies t = 1\), \(\theta = \dfrac{\pi}{2} \implies t = 0\)이 된다. 제시문 [다]에 의해 \[ I = \int_1^0 \frac{2t}{3 - t} (-dt) = \int_0^1 \frac{2t}{3 - t}\,dt \quad \cdots\cdots \text{<5점>} \] 피적분함수를 대분수 형태로 변형하면 \(\dfrac{2t}{3 - t} = \dfrac{-2(3 - t) + 6}{3 - t} = -2 + \frac{6}{3 - t}\)이므로 \[ I = \int_0^1 \left( -2 + \frac{6}{3 - t} \right) dt = \Big[ -2t - 6\ln(3 - t) \Big]_0^1 = (-2 - 6\ln 2) - (0 - 6\ln 3) = 6\ln\frac{3}{2} - 2 \quad \cdots\cdots \text{<5점>} \]

두 점 \(\mathrm{A}\!\left(a, \dfrac{1}{a}\right)\)와 \(\mathrm{B}\!\left(b, \dfrac{1}{b}\right)\)를 지나는 직선의 기울기는 다음과 같다. \[ m = \frac{\frac{1}{b} - \frac{1}{a}}{b - a} = \frac{\frac{a-b}{ab}}{-(a-b)} = -\frac{1}{ab} \] 따라서 직선의 방정식은 \(y - \dfrac{1}{a} = -\dfrac{1}{ab}(x - a)\), 즉 \[ y = -\frac{1}{ab}x + \frac{1}{a} + \frac{1}{b} \quad \cdots\cdots \text{<6점>} \] 이 직선의 \(y\)절편 \(\mathrm{P}\)는 \(x = 0\)일 때이므로 \(\mathrm{P}\!\left(0, \dfrac{1}{a} + \dfrac{1}{b}\right) = \mathrm{P}\!\left(0, \dfrac{a+b}{ab}\right)\)이고,
\(x\)절편 \(\mathrm{Q}\)는 \(y = 0\)일 때이므로 \(0 = -\dfrac{1}{ab}x + \dfrac{a+b}{ab} \implies x = a + b\), 즉 \(\mathrm{Q}(a+b, 0)\)이다. \(\cdots\cdots \text{<6점>}\)
삼각형 \(\mathrm{OPQ}\)는 직각삼각형이므로 그 넓이 \(S\)는 \[ S = \frac{1}{2} \cdot \overline{\mathrm{OQ}} \cdot \overline{\mathrm{OP}} = \frac{1}{2}(a+b)\left(\frac{1}{a} + \frac{1}{b}\right) = \frac{1}{2}(a+b)\frac{a+b}{ab} = \frac{(a+b)^2}{2ab} \quad \cdots\cdots \text{<6점>} \] 제시문 [가]의 두 점 사이의 거리 공식에 의해 \[ \overline{\mathrm{AB}}^2 = (a - b)^2 + \left(\frac{1}{a} - \frac{1}{b}\right)^2 = (a - b)^2 + \frac{(b - a)^2}{a^2b^2} = (a - b)^2 \left(1 + \frac{1}{a^2b^2}\right) = \frac{1}{n^2} \] \(a > b > 0\)이므로 양변의 양의 제곱근을 취하면 \[ (a - b)\sqrt{\frac{a^2b^2 + 1}{a^2b^2}} = \frac{(a - b)\sqrt{a^2b^2 + 1}}{ab} = \frac{1}{n} \iff a - b = \frac{ab}{n\sqrt{a^2b^2 + 1}} \] 양변에 \(n\)을 곱하면 \[ n(a - b) = \frac{ab}{\sqrt{a^2b^2 + 1}} \quad \cdots\cdots \text{<7점>} \] 여기서 \(n \to \infty\)일 때 \(\overline{\mathrm{AB}} = \dfrac{1}{n} \to 0\)이다. 또한 \(0 < a - b = \dfrac{ab}{n\sqrt{a^2b^2+1}} < \dfrac{a^2}{n} \to 0\)이므로 제시문 [나]의 조임정리에 의해 \(\lim_{n\to\infty}(a - b) = 0\), 즉 \(\lim_{n\to\infty} b = a\)이다. \(\cdots\cdots \text{<6점>}\)
따라서 \(\lim_{n\to\infty} ab = a^2\)이므로 구하는 극한값은 다음과 같다. \[ \lim_{n\to\infty} n(a - b) = \lim_{n\to\infty} \frac{ab}{\sqrt{a^2b^2 + 1}} = \frac{a^2}{\sqrt{a^4 + 1}} \quad \cdots\cdots \text{<6점>} \]