[1-1 풀이 (8점)] 직선 $l$의 기울기가 $-1$이고 두 곡선이 직선 $y = x$에 대칭이므로 $B(2^t, t)$이고, 원점 대칭점은 $C(-t, -2^t)$이다. 이때 $\overline{OA} = \overline{OB} = \overline{OC} = \sqrt{t^2 + 4^t}$이므로 세 점 $A, B, C$는 원점 $O$를 중심으로 하는 원 위에 놓이고 선분 $AC$는 지름이다. 따라서 호 $AB$에 대한 원주각과 중심각의 관계에 의하여 $\angle ACB = \dfrac{1}{2}\angle AOB$이다.

[1-2 풀이 (8점)] 자연수 및 실수 $t \ge 1$에서 $2^t \ge 2t$ (단, $t = 1, 2$에서 등호 성립)임을 확인하면 $m(t) = \dfrac{2^t}{t} \ge 2$이다. 특히 $t = 1$과 $t = 2$에서 $m(1) = m(2) = 2$로 최솟값 $2$를 갖는다.

[1-3 풀이 (9점)] 직선 $OA$의 기울기 $m = \dfrac{2^t}{t} > 1$이 작을수록 직선 $OA$와 직선 $y = x$ 사이의 각이 작아져 $\angle AOB$ 및 $\angle ACB$가 최소가 된다. $t \ge 1$인 정수 중 $t = 1$ (또는 $t = 2$)에서 최소가 되며, $t = 1$일 때 $A(1, 2), \; B(2, 1), \; C(-1, -2)$이다. 선분 $AC$가 지름이므로 $\angle ABC = \dfrac{\pi}{2}$이고 $\overline{AB} = \sqrt{2}, \; \overline{BC} = 3\sqrt{2}$이므로 삼각형 $ABC$의 넓이는 $S = \dfrac{1}{2} \times \sqrt{2} \times 3\sqrt{2} = 3$이다.

[2-1 풀이 (8점)] $c = \sqrt{25 - 9} = 4$이므로 두 초점은 $F(4, 0), \; F'(-4, 0)$이다. $\overline{PF} = p, \; \overline{PF'} = q$라 하면 $p + q = 10$이고 $p^2 + q^2 = (2c)^2 = 64$이다. 따라서 $2pq = (p + q)^2 - (p^2 + q^2) = 100 - 64 = 36 \implies pq = 18$이므로 직각삼각형 $FPF'$의 넓이는 $\dfrac{1}{2}pq = 9$이다.

[2-2 풀이 (8점)] 점 $P(x_1, y_1)$에서의 접선의 방정식은 $\dfrac{x_1 x}{25} + \dfrac{y_1 y}{9} = 1$이다. $y = 0, \; x = 0$을 각각 대입하면 $A\left(\dfrac{25}{x_1}, 0\right)$, $B\left(0, \dfrac{9}{y_1}\right)$이다.

[2-3 풀이 (9점)] 삼각형 $OAB$의 넓이는 $S = \dfrac{1}{2} \cdot \dfrac{25}{x_1} \cdot \dfrac{9}{y_1} = \dfrac{225}{2x_1 y_1}$이다. 점 $P$가 타원 위에 있으므로 산술·기하평균 부등식에 의하여 $1 = \dfrac{x_1^2}{25} + \dfrac{y_1^2}{9} \ge 2\sqrt{\dfrac{x_1^2 y_1^2}{225}} = \dfrac{2x_1 y_1}{15}$에서 $2x_1 y_1 \le 15$이다. 따라서 $S \ge \dfrac{225}{15} = 15$로 최솟값은 $15$이며, 등호는 $\dfrac{x_1}{5} = \dfrac{y_1}{3} = \dfrac{1}{\sqrt{2}}$, 즉 $P\left(\dfrac{5\sqrt{2}}{2}, \dfrac{3\sqrt{2}}{2}\right)$일 때 성립한다.

[3-1 풀이 (8점)] 방정식 $f(x) = 2x \iff x(x - 1)(x - a) = 0$에서 제$1$사분면($x > 0$)의 두 교점의 $x$좌표는 $1$과 $a$ ($a > 1$)이다. 직선 $y = 2x$ 위의 두 점 $A(1, 2), \; B(a, 2a)$ 사이의 거리가 $\overline{AB} = \sqrt{1 + 2^2}(a - 1) = \sqrt{5}(a - 1) = 2\sqrt{5}$이므로 $a = 3$이다. 따라서 두 점의 좌표는 $A(1, 2), \; B(3, 6)$이다.

[3-2 풀이 (8점)] 점 $P(t, f(t))$ ($1 < t < 3$)와 직선 $2x - y = 0$ 사이의 거리는 $h(t) = \dfrac{|2t - f(t)|}{\sqrt{5}} = \dfrac{-t(t - 1)(t - 3)}{\sqrt{5}}$이다. 밑변 $\overline{AB} = 2\sqrt{5}$이므로 삼각형 $PAB$의 넓이는 $S(t) = \dfrac{1}{2} \cdot 2\sqrt{5} \cdot h(t) = -t^3 + 4t^2 - 3t$이다.

[3-3 풀이 (9점)] $S'(t) = -3t^2 + 8t - 3 = 0$에서 구간 $1 < t < 3$에 속하는 극대점은 $t = \dfrac{4 + \sqrt{7}}{3}$이다. 이때 $S(t)$는 극대이자 최대이며, $S'(t)$로 $S(t)$를 나눈 나머지 정리 $S(t) = \left(\dfrac{1}{3}t - \dfrac{4}{9}\right)(-3t^2 + 8t - 3) + \dfrac{14}{9}t - \dfrac{4}{3}$에 대입하면 최댓값은 $\dfrac{14\sqrt{7} + 20}{27}$이다.

[4-1 풀이 (8점)] 절편형 평면의 방정식은 $\dfrac{x}{6} + \dfrac{y}{3} + \dfrac{z}{2} = 1 \iff x + 2y + 3z - 6 = 0$이다. 법선벡터는 $\vec{n} = (1, 2, 3)$이고 $|\vec{n}| = \sqrt{14}$이므로 단위법선벡터는 $\pm\dfrac{1}{\sqrt{14}}(1, 2, 3)$이다. 직선 $OH$ 위의 점 $H(k, 2k, 3k)$를 평면에 대입하면 $14k = 6 \implies k = \dfrac{3}{7}$이므로 $H\left(\dfrac{3}{7}, \dfrac{6}{7}, \dfrac{9}{7}\right)$이고 $\overline{OH} = \dfrac{6}{\sqrt{14}} = \dfrac{3\sqrt{14}}{7}$이다.

[4-2 풀이 (8점)] 사면체 $OABC$의 부피는 $V_0 = \dfrac{1}{6} \times 6 \times 3 \times 2 = 6$이다. 한편 $V_0 = \dfrac{1}{3} S \cdot \overline{OH}$이므로 $6 = \dfrac{1}{3} S \cdot \dfrac{6}{\sqrt{14}}$에서 $S = 3\sqrt{14}$이다. 또한 $\triangle ABC$의 $xy$평면 위로의 정사영인 $\triangle OAB$의 넓이가 $S' = \dfrac{1}{2} \times 6 \times 3 = 9$이므로 $\cos\theta = \dfrac{S'}{S} = \dfrac{9}{3\sqrt{14}} = \dfrac{3\sqrt{14}}{14}$이다.

[4-3 풀이 (9점)] 점 $P(2, 2, 2)$에서 평면 $x + 2y + 3z - 6 = 0$까지의 거리는 $d = \dfrac{|2 + 4 + 6 - 6|}{\sqrt{14}} = \dfrac{6}{\sqrt{14}} = \dfrac{3\sqrt{14}}{7}$이다. 따라서 사면체 $PABC$의 부피는 $V = \dfrac{1}{3} S \cdot d = \dfrac{1}{3} \times 3\sqrt{14} \times \dfrac{6}{\sqrt{14}} = 6$이다.