자연수 \(n \ge 4\)에 대하여 \((n+2)^2 = n^2 + 4n + 4\)이고 \((n+3)^2 = n^2 + 6n + 9\)입니다.
\(n \ge 4\)일 때 명제 \(2n \gt 4\)는 \(n=4\)에서 \(8 \gt 4\)로 성립하고, \(n=k\)일 때 \(2k \gt 4\)이면 \(2(k+1) = 2k+2 \gt 6 \gt 4\)이므로 수학적 귀납법에 의해 모든 \(n \ge 4\)에서 \((n+2)^2 = n^2+4n+4 \lt n^2+6n\)이 성립합니다.
또한 \(n^2+6n \lt n^2+6n+9 = (n+3)^2\)이 성립하므로 양의 제곱근을 취하면\[n+2 \lt \sqrt{n^2+6n} \lt n+3 \quad (n \ge 4)\]입니다. 따라서 제시문 <1>에 의하여 정수 부분과 소수 부분은 각각\[p_n = n + 2, \quad q_n = \sqrt{n^2+6n} - (n+2)\]입니다.

이차함수 \(h(x) = x^2 - 2n^2 x + (n+2)\)에 대하여 경계 정수에서의 함숫값 부호를 조사합니다.
• \(h(0) = n+2 \gt 0\)이고, \(h(1) = 1 - 2n^2 + n + 2 = -(2n-3)(n+1) \lt 0\) (\(n \ge 4\))이므로 작은 실근 \(\alpha_n\)은 \(0 \lt \alpha_n \lt 1\)을 만족합니다.
• 이차함수 \(h(x)\)의 대칭축이 \(x = n^2\)이므로 \(h(2n^2 - 1) = h(1) \lt 0\)이고, \(h(2n^2) = h(0) = n+2 \gt 0\)이므로 큰 실근 \(\beta_n\)은 \(2n^2 - 1 \lt \beta_n \lt 2n^2\)을 만족합니다.
따라서 부등식 \(h(x) \le 0\)을 만족시키는 자연수 \(x\)는 \(1, 2, \dots, 2n^2 - 1\)이므로 \(a_n = 2n^2 - 1\)입니다.
제시문 <2>의 공식을 적용하면 \(\sum_{k=1}^{10} k^2 = 385, \; \sum_{k=1}^3 k^2 = 14\)이므로\[\sum_{n=4}^{10} a_n = 2\sum_{n=4}^{10} n^2 - \sum_{n=4}^{10} 1 = 2(385 - 14) - 7 = 742 - 7 = 735\]입니다.

\(p_n = n+2\)이고 \(q_n = \sqrt{n^2+6n} - (n+2)\)이므로 합차공식을 적용하면\[b_n = \left(\sqrt{n^2+6n} + n + 2\right)\left(\sqrt{n^2+6n} - (n+2)\right) = (n^2+6n) - (n+2)^2 = 2n - 4\]입니다. 따라서 \(p_n - 4 = n - 2\)이고 \(b_n - 2 = 2n - 6 = 2(n - 3)\)이므로 주어진 급수의 일반항은\[\frac{2}{(p_n - 4)(b_n - 2)} = \frac{2}{(n-2) \cdot 2(n-3)} = \frac{1}{(n-3)(n-2)} = \frac{1}{n-3} - \frac{1}{n-2}\]입니다. 이를 \(n=4\)부터 \(m\)까지 더하여 망원급수로 소거하면\[\sum_{n=4}^{m} \left(\frac{1}{n-3} - \frac{1}{n-2}\right) = \left(1 - \frac{1}{2}\right) + \left(\frac{1}{2} - \frac{1}{3}\right) + \cdots + \left(\frac{1}{m-3} - \frac{1}{m-2}\right) = 1 - \frac{1}{m-2}\]입니다. 부등식 \(1 - \dfrac{1}{m-2} \ge \dfrac{11}{12}\)를 풀면 \(\dfrac{1}{m-2} \le \dfrac{1}{12} \iff m - 2 \ge 12 \iff m \ge 14\)이므로 자연수 \(m\)의 최솟값은 \(14\)입니다.

점 \(A(4, -1)\)과 점 \(Q\left(t, \frac{1}{4}t^2\right)\) 사이의 거리의 제곱 \(D(t)\)는\[D(t) = (t - 4)^2 + \left(\frac{1}{4}t^2 + 1\right)^2 = \frac{1}{16}t^4 + \frac{3}{2}t^2 - 8t + 17\]입니다. 이를 \(t\)에 대하여 미분하여 인수분해하면\[D'(t) = \frac{1}{4}t^3 + 3t - 8 = \frac{1}{4}(t^3 + 12t - 32) = \frac{1}{4}(t - 2)(t^2 + 2t + 16)\]모든 실수 \(t\)에 대하여 \(t^2 + 2t + 16 = (t+1)^2 + 15 \gt 0\)이므로 \(D'(t) = 0\)의 유일한 실근은 \(t = 2\)입니다.
\(t \lt 2\)에서 \(D'(t) \lt 0\), \(t \gt 2\)에서 \(D'(t) \gt 0\)이므로 \(D(t)\)는 \(t = 2\)에서 극소이자 최소가 됩니다.
따라서 최단거리 점은 \(P(2, 1)\)이고, \(D(2) = (2-4)^2 + (1+1)^2 = 8\)이므로 선분 \(AQ\)의 길이의 최솟값은 \(2\sqrt{2}\)입니다.

\(f(x) = \frac{1}{4}x^2\)에서 \(f'(x) = \frac{1}{2}x\)이므로 점 \(P(2, 1)\)에서의 접선 \(\ell\)의 기울기는 \(m_\ell = f'(2) = 1\)이고, 접선 \(\ell\)의 방정식은 \(y = x - 1\)입니다. 또한 직선 \(AP\)의 기울기는 \(m_{AP} = \dfrac{1 - (-1)}{2 - 4} = -1\)이므로 \(m_\ell \cdot m_{AP} = 1 \times (-1) = -1\)이 되어 두 직선은 서로 수직입니다.
한편 곡선 위의 접점을 \(\left(s, \frac{1}{4}s^2\right)\)이라 하면 접선 \(y - \frac{1}{4}s^2 = \frac{1}{2}s(x - s)\), 즉 \(y = \frac{1}{2}sx - \frac{1}{4}s^2\)이 점 \(A(4, -1)\)을 지나므로\[-1 = 2s - \frac{1}{4}s^2 \iff s^2 - 8s - 4 = 0\]두 근을 \(s_1, s_2\)라 하면 두 접점 \(R_1\left(s_1, \frac{1}{4}s_1^2\right), R_2\left(s_2, \frac{1}{4}s_2^2\right)\)은 모두 \(2s = \frac{1}{4}s^2 + 1\), 즉 \(y = 2x - 1\)을 만족하므로 직선 \(R_1 R_2\)의 방정식은 \(y = 2x - 1\)입니다.

(1) 접선 \(\ell : y = x - 1\)의 \(y\)절편은 \((0, -1)\)이고, 법선 \(AP : y = -x + 3\)의 \(y\)절편은 \((0, 3)\)이며 두 직선의 교점은 \(P(2, 1)\)입니다.
따라서 \(y\)축 위의 밑변의 길이는 \(3 - (-1) = 4\)이고 높이는 \(P\)의 \(x\)좌표인 \(2\)이므로 삼각형의 넓이는 \(S_1 = \frac{1}{2} \times 4 \times 2 = 4\)입니다.
(2) 곡선 \(C : y = \frac{1}{4}x^2\)과 직선 \(R_1 R_2 : y = 2x - 1\)의 교점의 \(x\)좌표는 \(x^2 - 8x + 4 = 0\)의 두 실근 \(s_1 = 4 - 2\sqrt{3}, \; s_2 = 4 + 2\sqrt{3}\)이며 \(s_2 - s_1 = 4\sqrt{3}\)입니다.
따라서 둘러싸인 도형의 넓이 \(S_2\)는\[\begin{aligned} S_2 &= \int_{s_1}^{s_2} \left(2x - 1 - \frac{1}{4}x^2\right)dx = \frac{1}{4}\int_{s_1}^{s_2} -(x-s_1)(x-s_2)\,dx \\ &= \frac{1}{4} \cdot \frac{(s_2 - s_1)^3}{6} = \frac{(4\sqrt{3})^3}{24} = \frac{192\sqrt{3}}{24} = 8\sqrt{3} \end{aligned}\]입니다.

주사위를 던져 \(3\)의 배수가 나올 확률은 \(P(A) = \frac{2}{6} = \frac{1}{3}\)이고, \(3\)의 배수가 아닐 확률은 \(P(B) = \frac{2}{3}\)입니다.
각 주머니에서 공 \(2\)개를 꺼낼 때 전체 경우의 수는 \({}_5\mathrm{C}_2 = 10\)이며, 흰 공 1개와 검은 공 1개가 나올 조건부확률은\[P(E|A) = \frac{{}_3\mathrm{C}_1 \times {}_2\mathrm{C}_1}{{}_5\mathrm{C}_2} = \frac{6}{10} = \frac{3}{5}, \quad P(E|B) = \frac{{}_2\mathrm{C}_1 \times {}_3\mathrm{C}_1}{{}_5\mathrm{C}_2} = \frac{6}{10} = \frac{3}{5}\]입니다. 따라서 제시문 <1>에 의하여\[P(E) = P(A)P(E|A) + P(B)P(E|B) = \frac{1}{3} \times \frac{3}{5} + \frac{2}{3} \times \frac{3}{5} = \frac{3}{5}\]이며, 구하는 조건부확률은 \(P(A|E) = \dfrac{P(A)P(E|A)}{P(E)} = \dfrac{\frac{1}{5}}{\frac{3}{5}} = \dfrac{1}{3}\)입니다.

\(X\)가 가질 수 있는 값은 \(0, 1, 2\)입니다. 각 확률을 계산하면
• \(P(X=0) = \frac{1}{3} \cdot \frac{{}_2\mathrm{C}_2}{10} + \frac{2}{3} \cdot \frac{{}_3\mathrm{C}_2}{10} = \frac{1}{30} + \frac{6}{30} = \frac{7}{30}\)
• \(P(X=1) = P(E) = \frac{3}{5} = \frac{18}{30}\)
• \(P(X=2) = \frac{1}{3} \cdot \frac{{}_3\mathrm{C}_2}{10} + \frac{2}{3} \cdot \frac{{}_2\mathrm{C}_2}{10} = \frac{3}{30} + \frac{2}{30} = \frac{5}{30}\)
따라서 기댓값과 제곱의 기댓값, 분산은\[\begin{aligned} E(X) &= 0 \cdot \frac{7}{30} + 1 \cdot \frac{18}{30} + 2 \cdot \frac{5}{30} = \frac{28}{30} = \frac{14}{15}, \\ E(X^2) &= 0^2 \cdot \frac{7}{30} + 1^2 \cdot \frac{18}{30} + 2^2 \cdot \frac{5}{30} = \frac{38}{30} = \frac{19}{15}, \\ V(X) &= \frac{19}{15} - \left(\frac{14}{15}\right)^2 = \frac{285 - 196}{225} = \frac{89}{225} \end{aligned}\]입니다.

\(n\)회의 독립 반복 시행에서 각 시행의 흰 공 개수를 \(X_1, X_2, \dots, X_n\)이라 하면 \(S_n = \sum_{i=1}^n X_i\)이고 서로 독립이므로\[E(S_n) = n E(X) = \frac{14}{15}n, \quad V(S_n) = n V(X) = \frac{89}{225}n\]입니다. 따라서 주어진 비율은\[\frac{V(S_n)}{\{E(S_n)\}^2} = \frac{\frac{89}{225}n}{\frac{196}{225}n^2} = \frac{89}{196n}\]입니다. 부등식 \(\dfrac{89}{196n} \le \dfrac{1}{56}\)의 양변에 \(196n\)을 곱하여 정리하면\[89 \le \frac{196}{56}n = \frac{7}{2}n \iff 7n \ge 178 \iff n \ge \frac{178}{7} = 25.42\cdots\]이므로 이를 만족시키는 자연수 \(n\)의 최솟값은 \(26\)입니다.