[소문항 1-1 풀이 (6점)] 기함수 조건에 의해 \(f(x) = ax^3 + bx\)라 두면 \(f(1) = a + b = 3\)이고 \(f(2) = 8a + 2b = 0\)이다. 두 식을 연립하면 \(a = -1,\; b = 4\)이므로 \(f(x) = -x^3 + 4x\)이다. \(f'(x) = -3x^2 + 4 = 0\)에서 \(x = \dfrac{2\sqrt{3}}{3} \in (0, 2)\)일 때 극대이자 최대이므로 최댓값은 \(f\left(\dfrac{2\sqrt{3}}{3}\right) = \dfrac{16\sqrt{3}}{9}\)이다.

[소문항 1-2 풀이 (7점)] \(h(x) = f(x) - g(x) = -x^3 + x\)라 하면 \(h(0) = h(1) = 0\)이므로 롤의 정리에 의해 \(h'(c) = -3c^2 + 1 = 0\)인 \(c\)가 \((0, 1)\)에 존재한다. 이차방정식 \(3c^2 = 1\)의 양근은 \(c = \dfrac{\sqrt{3}}{3} \in (0, 1)\)뿐이므로 오직 하나 존재한다.

[소문항 1-3 풀이 (7점)] \(d(x) = g(x) - f(x) = 3x - (-x^3 + 4x) = x^3 - x = x(x - 1)(x + 1)\)이다. \(1 \le x \le 2\)일 때 \(x \gt 0,\; x - 1 \ge 0,\; x + 1 \gt 0\)이므로 \(d(x) \ge 0\), 즉 \(f(x) \le g(x)\)가 성립한다.

[소문항 2-1 풀이 (6점)] \(Q'(x) = (x-2)(x-4) + (x-1)(x-4) + (x-1)(x-2)\)이므로 \(Q'(1) = (-1)(-3) = 3,\; Q'(2) = (1)(-2) = -2,\; Q'(4) = (3)(2) = 6\)이다. 또한 양변을 \(Q(x) = (x-1)(x-2)(x-4)\)로 나누면 \(\dfrac{Q'(x)}{Q(x)} = \dfrac{1}{x-1} + \dfrac{1}{x-2} + \dfrac{1}{x-4}\)가 즉시 성립한다.

[소문항 2-2 풀이 (7점)] \(P(1) = 3 - 9 + 12 = 6,\; P(2) = 12 - 18 + 12 = 6,\; P(4) = 48 - 36 + 12 = 24\)이다. 따라서 \(c_1 = \dfrac{P(1)}{Q'(1)} = \dfrac{6}{3} = 2\), \(c_2 = \dfrac{P(2)}{Q'(2)} = \dfrac{6}{-2} = -3\), \(c_3 = \dfrac{P(4)}{Q'(4)} = \dfrac{24}{6} = 4\)이다.

[소문항 2-3 풀이 (7점)] \(c_1 + c_2 + c_3 = 2 + (-3) + 4 = 3\)으로 \(P(x)\)의 이차항 계수 \(3\)과 정확히 일치한다. 일반적으로 \(\sum_{k=1}^{3} \dfrac{d_k}{x - b_k}\)를 통분하면 분자의 \(x^2\)항의 계수가 \(d_1 + d_2 + d_3\)이므로, 분자 \(P_0(x)\)가 일차 이하의 다항식이면 \(x^2\)항의 계수가 \(0\)이어서 \(d_1 + d_2 + d_3 = 0\)이 성립한다.

[소문항 3-1 풀이 (6점)] \(H(0) = -\int_{0}^{1} f(t)\,dt\)이고 \(H(1) = \int_{0}^{1} f(t)\,dt\)이므로 \(H(0) + H(1) = 0\)이다. \(f(x) = 3x^2 - 2x\)일 때 \(\int_{0}^{1} f(t)\,dt = \left[t^3 - t^2\right]_{0}^{1} = 0\)이고 \(\int_{0}^{x} f(t)\,dt = x^3 - x^2\)이므로 \(H(x) = 2(x^3 - x^2) - 0 = 2x^3 - 2x^2\)이다.

[소문항 3-2 풀이 (7점)] \(\int_{0}^{1} H(x)\,dx = \int_{0}^{1} (2x^3 - 2x^2)\,dx = \left[\dfrac{1}{2}x^4 - \dfrac{2}{3}x^3\right]_{0}^{1} = -\dfrac{1}{6}\)이다. 또한 \(\int_{0}^{1} (1 - 2x)(3x^2 - 2x)\,dx = \int_{0}^{1} (-6x^3 + 7x^2 - 2x)\,dx = -\dfrac{3}{2} + \dfrac{7}{3} - 1 = -\dfrac{1}{6}\)으로 정확히 일치한다.

[소문항 3-3 풀이 (7점)] \(F(x) = \int_{0}^{x} H(t)\,dt\)라 하면 \(F(0) = 0\)이고 \(F(1) = \int_{0}^{1} H(t)\,dt = 0\)이므로 롤의 정리에 의해 \(F'(c) = H(c) = 0\), 즉 \(\int_{0}^{c} f(t)\,dt = \int_{c}^{1} f(t)\,dt\)인 \(c \in (0, 1)\)이 존재한다. \(f(x) = 6x^2 - 6x + 1\)이면 \(\int_{0}^{1} f(t)\,dt = 0\)이므로 \(H(c) = 2(2c^3 - 3c^2 + c) = 2c(2c - 1)(c - 1) = 0\)에서 \(c = \dfrac{1}{2}\)이다.

[소문항 4-1 풀이 (6점)] 초점이 \((0, 3),\; (0, -3)\)이므로 \(c = 3\)이고 장축 길이가 \(2b = 10 \implies b = 5\)이다. \(a^2 = b^2 - c^2 = 25 - 9 = 16\)이므로 타원 \(S\)의 방정식은 \(\dfrac{x^2}{16} + \dfrac{y^2}{25} = 1\)이다.

[소문항 4-2 풀이 (7점)] \(\sqrt{x^2 + (y - 3)^2} = k - y\)의 양변을 제곱하면 \(x^2 + y^2 - 6y + 9 = k^2 - 2ky + y^2\)이므로 \(2(k - 3)y = -x^2 + k^2 - 9\), 즉 \(y = -\dfrac{x^2}{2(k - 3)} + \dfrac{k + 3}{2}\;(y \ge 0)\)이다.

[소문항 4-3 풀이 (7점)] \(k = 5\)일 때 도형 \(T\)는 \(y = 4 - \dfrac{x^2}{4}\;(0 \le y \le 4)\), 즉 \(x^2 = 16 - 4y\)이다. 이를 타원 식에 대입하면 \(\dfrac{16 - 4y}{16} + \dfrac{y^2}{25} = 1 \iff y\left(\dfrac{y}{25} - \dfrac{1}{4}\right) = 0\)이고 \(0 \le y \le 4\)이므로 \(y = 0,\; x = \pm 4\)이다. 따라서 두 교점은 \((-4, 0),\; (4, 0)\)이고 꼭짓점 \((0, 5)\)와 이루는 삼각형의 넓이는 \(\dfrac{1}{2}\times 8\times 5 = 20\)이다.

[소문항 5-1 풀이 (6점)] \(A_0 = \int_{0}^{2} (6x - 3x^2)\,dx = \left[3x^2 - x^3\right]_{0}^{2} = 12 - 8 = 4\)이다.

[소문항 5-2 풀이 (7점)] \(2 \le x \le 4\)일 때 \(n = 1\)이므로 \(f(x) = \dfrac{1}{2}f(x - 2) = \dfrac{3}{2}(x - 2)(4 - x)\)이다. 또한 평행이동 치환 \(u = x - 2n\)에 의해 \(A_n = \dfrac{1}{2^n}\int_{0}^{2} f(u)\,du = \dfrac{4}{2^n} = 2^{2-n}\)이다.

[소문항 5-3 풀이 (7점)] \(S_m = \sum_{k=0}^{m-1} A_k = 4\left(1 + \dfrac{1}{2} + \cdots + \dfrac{1}{2^{m-1}}\right) = \dfrac{4\left(1 - (1/2)^m\right)}{1 - 1/2} = 8\left(1 - \dfrac{1}{2^m}\right)\)이다. \(m = 5\)를 대입하면 \(S_5 = 8\left(1 - \dfrac{1}{32}\right) = \dfrac{31}{4}\)이다.