[소문항 1-1 풀이 (6점)] 거리의 차 \(2a = 6\)에서 \(a = 3\;(a^2 = 9)\)이고, \(c = 5\)이므로 \(b^2 = c^2 - a^2 = 25 - 9 = 16\;(b = 4)\)이다. 따라서 쌍곡선의 방정식은 \(\dfrac{x^2}{9} - \dfrac{y^2}{16} = 1\)이고 두 점근선은 \(y = \pm\dfrac{4}{3}x\)이다.

[소문항 1-2 풀이 (7점)] \(x_1 = 5\)를 쌍곡선 방정식에 대입하면 \(\dfrac{25}{9} - \dfrac{y_1^2}{16} = 1 \implies \dfrac{y_1^2}{16} = \dfrac{16}{9}\)이고 \(y_1 \gt 0\)이므로 \(y_1 = \dfrac{16}{3}\)이다. 제시문 (나)에 의해 접선은 \(\dfrac{5x}{9} - \dfrac{(16/3)y}{16} = 1 \iff 5x - 3y = 9\)이므로 \(k = 9\)이다.

[소문항 1-3 풀이 (7점)] 접선 \(5x - 3y = 9\)와 \(y = \dfrac{4}{3}x\)를 연립하면 \(5x - 4x = 9 \implies x = 9,\; y = 12\)이므로 \(\mathrm{A}(9, 12)\)이다. 또한 \(y = -\dfrac{4}{3}x\)와 연립하면 \(5x + 4x = 9 \implies x = 1,\; y = -\dfrac{4}{3}\)이므로 \(\mathrm{B}\left(1, -\dfrac{4}{3}\right)\)이다. 따라서 넓이는 \(S = \dfrac{1}{2}\left|9\cdot\left(-\dfrac{4}{3}\right) - 12\cdot 1\right| = \dfrac{1}{2}|-24| = 12\)이다.

[소문항 2-1 풀이 (6점)] 코사인법칙에 의해 \(a^2 = 3^2 + 6^2 - 2\cdot 3\cdot 6\cos\dfrac{2\pi}{3} = 9 + 36 + 18 = 63\)이므로 \(a = 3\sqrt{7}\)이다. 사인법칙에 의해 \(2R = \dfrac{3\sqrt{7}}{\sin(2\pi/3)} = \dfrac{3\sqrt{7}}{\sqrt{3}/2} = 2\sqrt{21}\)이므로 \(R = \sqrt{21}\)이다.

[소문항 2-2 풀이 (7점)] 전체 넓이는 \(S = \dfrac{1}{2}\cdot 3\cdot 6\sin\dfrac{2\pi}{3} = \dfrac{9\sqrt{3}}{2}\)이다. 또한 \(\angle \mathrm{BAD} = \angle \mathrm{CAD} = \dfrac{\pi}{3}\)이므로 \(\dfrac{9\sqrt{3}}{2} = \dfrac{1}{2}(3 + 6)\overline{\mathrm{AD}}\sin\dfrac{\pi}{3} = \dfrac{9\sqrt{3}}{4}\overline{\mathrm{AD}}\)에서 \(\overline{\mathrm{AD}} = 2\)이다.

[소문항 2-3 풀이 (7점)] 내접원의 반지름 \(r\)은 \(\dfrac{1}{2}r(9 + 3\sqrt{7}) = \dfrac{9\sqrt{3}}{2}\)에서 \(r = \dfrac{9\sqrt{3}}{9 + 3\sqrt{7}} = \dfrac{3\sqrt{3}(3 - \sqrt{7})}{9 - 7} = \dfrac{9\sqrt{3} - 3\sqrt{21}}{2}\)이다.

[소문항 3-1 풀이 (6점)] \(g(x) = (x - t)^2 - t^2 + 4t\)로 완전제곱식으로 변형한다. \(t = 1\)일 때 \(g(x) = (x - 1)^2 + 3\)이므로 구간 \([-1, 1]\)에서의 최솟값은 \(x = 1\)일 때 \(f(1) = 3\)이다.

[소문항 3-2 풀이 (7점)] (i) \(0 \lt t \lt 1\)일 때는 꼭짓점 \(x = t\)가 구간 \([-1, 1]\) 안에 속하므로 최솟값은 \(f(t) = g(t) = -t^2 + 4t\)이다. (ii) \(t \gt 1\)일 때는 꼭짓점 \(x = t\)가 구간의 오른쪽에 있으므로 구간 \([-1, 1]\)에서 \(g(x)\)는 감소하여 \(x = 1\)에서 최솟값 \(f(t) = g(1) = 1 - 2t + 4t = 2t + 1\)을 갖는다.

[소문항 3-3 풀이 (7점)] \(\lim_{t \to 1-} (-t^2 + 4t) = 3 = \lim_{t \to 1+} (2t + 1) = f(1)\)이므로 \(t = 1\)에서 연속이다. 또한 좌미분계수는 \(\lim_{t \to 1-} (-2t + 4) = 2\)이고 우미분계수는 \(2\)로 서로 일치하므로 \(t = 1\)에서 미분가능하며 \(f'(1) = 2\)이다.

[소문항 4-1 풀이 (6점)] \(g(x) - 3x \ge 0\)이므로 \(g(x) = 3x + |x^2 - 2x| = 3x + |x(x - 2)|\)이다. 열린구간 \((0, 3)\)에서 \(x^2 - 2x = 0\)의 단근인 \(x = 2\)에서 좌미분계수는 \(3 - 2 = 1\), 우미분계수는 \(3 + 2 = 5\)로 서로 달라 미분가능하지 않다.

[소문항 4-2 풀이 (7점)] \(0 \le x \le 2\)에서는 \(x^2 - 2x \le 0\)이므로 \(g(x) = 3x - (x^2 - 2x) = -x^2 + 5x\)이고 \(g'(x) = -2x + 5 \ge 1 \gt 0\)이다. \(2 \le x \le 3\)에서는 \(x^2 - 2x \ge 0\)이므로 \(g(x) = x^2 + x\)이고 \(g'(x) = 2x + 1 \ge 5 \gt 0\)이다. 따라서 \([0, 3]\)에서 연속이고 각 구간에서 증가하므로 \([0, 3]\) 전체에서 증가한다.

[소문항 4-3 풀이 (7점)] \(\int_{0}^{3} g(x)\,dx = \int_{0}^{2} (-x^2 + 5x)\,dx + \int_{2}^{3} (x^2 + x)\,dx = \left[-\dfrac{x^3}{3} + \dfrac{5}{2}x^2\right]_{0}^{2} + \left[\dfrac{x^3}{3} + \dfrac{x^2}{2}\right]_{2}^{3} = \left(-\dfrac{8}{3} + 10\right) + \left(\dfrac{19}{3} + \dfrac{5}{2}\right) = \dfrac{22}{3} + \dfrac{53}{6} = \dfrac{97}{6}\)이다.

[소문항 5-1 풀이 (6점)] 세 절편이 \(6, 3, 2\)이므로 평면 \(\alpha\)의 방정식은 \(\dfrac{x}{6} + \dfrac{y}{3} + \dfrac{z}{2} = 1 \iff x + 2y + 3z = 6\)이고 법선벡터는 \(\vec{n} = (1, 2, 3)\)이다. 수선의 발 \(\mathrm{H}(t, 2t, 3t)\)를 평면에 대입하면 \(14t = 6 \implies t = \dfrac{3}{7}\)이므로 \(\mathrm{H}\left(\dfrac{3}{7}, \dfrac{6}{7}, \dfrac{9}{7}\right)\)이고 \(d = \dfrac{6}{\sqrt{1^2+2^2+3^2}} = \dfrac{6}{\sqrt{14}}\)이다.

[소문항 5-2 풀이 (7점)] \(xy\)평면의 법선벡터는 \(\vec{e}_3 = (0, 0, 1)\)이므로 \(\cos\theta = \dfrac{|(1,2,3)\cdot(0,0,1)|}{\sqrt{14}\cdot 1} = \dfrac{3}{\sqrt{14}}\)이다. 삼각형 \(\mathrm{ABC}\)의 \(xy\)평면 위로의 정사영인 직각삼각형 \(\mathrm{OAB}\)의 넓이는 \(S' = \dfrac{1}{2}\times 6\times 3 = 9\)이므로 \(S = \dfrac{S'}{\cos\theta} = \dfrac{9}{3/\sqrt{14}} = 3\sqrt{14}\)이다.

[소문항 5-3 풀이 (7점)] 사면체 \(\mathrm{OABC}\)의 부피는 \(V = \dfrac{1}{3} S \cdot d = \dfrac{1}{3}\times 3\sqrt{14} \times \dfrac{6}{\sqrt{14}} = 6\)이며, 이는 직각사면체 부피 공식 \(\dfrac{1}{6}\times 6\times 3\times 2 = 6\)과 정확히 일치한다.