\(a_{n+1} - a_n = 6n\)이므로 \(n \ge 2\)일 때 제시문 <1>에 의하여\[a_n = a_1 + \sum_{k=1}^{n-1} 6k = 2 + 6 \cdot \frac{(n-1)n}{2} = 3n^2 - 3n + 2\]입니다. \(n=1\)을 대입하면 \(3(1) - 3(1) + 2 = 2 = a_1\)이므로 모든 자연수 \(n\)에 대하여 \(a_n = 3n^2 - 3n + 2\)입니다.
부등식 \(3n^2 - 3n + 2 \le 300 \iff 3n(n-1) \le 298 \iff n(n-1) \le 99.33\cdots\)에서 \(n=10\)일 때 \(10 \times 9 = 90 \le 99.33\)이고, \(n=11\)일 때 \(11 \times 10 = 110 \gt 99.33\)이므로 조건을 만족시키는 자연수 \(n\)은 \(1, 2, \dots, 10\)의 \(10\)개입니다.

\(a_n - 2 = 3(n-1)n\)이므로 \(b_n = (n+1)(a_n - 2) = 3(n-1)n(n+1)\)입니다.
(i) \(n = 1\)일 때: 좌변은 \(b_1 = 0\)이고 우변도 \(\frac{3}{4}(0)(1)(2)(3) = 0\)이므로 등식이 성립합니다.
(ii) \(n = m\)일 때 등식이 성립한다고 가정하면 \(\sum_{k=1}^m b_k = \frac{3}{4}(m-1)m(m+1)(m+2)\)입니다.
양변에 \(b_{m+1} = 3m(m+1)(m+2)\)를 더하면\[\begin{aligned} \sum_{k=1}^{m+1} b_k &= \frac{3}{4}(m-1)m(m+1)(m+2) + 3m(m+1)(m+2) \\ &= \frac{3}{4}m(m+1)(m+2)\{(m-1) + 4\} = \frac{3}{4}m(m+1)(m+2)(m+3) \end{aligned}\]이므로 \(n = m + 1\)일 때도 등식이 성립합니다. 따라서 수학적 귀납법에 의하여 모든 자연수 \(n\)에서 성립합니다.

(1-ⅰ)에서 \(a_n - 2 = 3(n-1)n\)이므로 \(n \ge 2\)일 때\[\frac{3}{a_n - 2} = \frac{3}{3(n-1)n} = \frac{1}{(n-1)n} = \frac{1}{n-1} - \frac{1}{n}\]입니다. 따라서 \(n=2\)부터 \(m\)까지의 부분합을 망원급수로 소거하면\[\sum_{n=2}^{m} \frac{3}{a_n - 2} = \sum_{n=2}^{m} \left(\frac{1}{n-1} - \frac{1}{n}\right) = \left(1 - \frac{1}{2}\right) + \left(\frac{1}{2} - \frac{1}{3}\right) + \cdots + \left(\frac{1}{m-1} - \frac{1}{m}\right) = 1 - \frac{1}{m}\]입니다. 부등식 \(1 - \dfrac{1}{m} \ge \dfrac{19}{20}\)를 풀면\[\frac{1}{m} \le \frac{1}{20} \iff m \ge 20\]이므로 자연수 \(m\)의 최솟값은 \(20\)입니다.

사차함수 \(f(x) = x^4 - 6x^2 + 4x + 9\)에서 직선 \(\ell : y = 4x\)의 식을 빼면\[f(x) - 4x = x^4 - 6x^2 + 9 = (x^2 - 3)^2 = (x + \sqrt{3})^2 (x - \sqrt{3})^2\]입니다. 방정식 \(f(x) - 4x = 0\)이 \(x = -\sqrt{3}\)과 \(x = \sqrt{3}\)에서 각각 중근을 가지므로, 직선 \(\ell : y = 4x\)는 곡선 \(y = f(x)\)에 서로 다른 두 점에서 동시에 접하는 이중접선입니다.
실제로 \(f'(x) = 4x^3 - 12x + 4\)에서 \(f'(\pm\sqrt{3}) = 4\)이고, 두 접점의 좌표는 각각\[\left(-\sqrt{3}, \; -4\sqrt{3}\right), \quad \left(\sqrt{3}, \; 4\sqrt{3}\right)\]입니다.

다항함수 \(f(x)\)는 닫힌구간 \([x_1, x_2] \subset [-\sqrt{3}, \sqrt{3}]\)에서 연속이고 열린구간 \((x_1, x_2)\)에서 미분가능하므로, 제시문 <1>의 평균값 정리에 의하여\[\frac{f(x_2) - f(x_1)}{x_2 - x_1} = f'(c)\]를 만족시키는 \(c \in (x_1, x_2) \subset (-\sqrt{3}, \sqrt{3})\)가 존재합니다.
도함수 \(f'(x) = 4x^3 - 12x + 4\)를 미분하면 \(f''(x) = 12x^2 - 12 = 12(x+1)(x-1)\)이므로, 구간 \([-\sqrt{3}, \sqrt{3}]\)에서 \(f'(x)\)의 극값과 양 끝값을 비교하면
• \(x = -1\): \(f'(-1) = 4(-1) + 12 + 4 = 12\) (극대)
• \(x = 1\): \(f'(1) = 4 - 12 + 4 = -4\) (극소)
• 양 끝점 \(x = \pm\sqrt{3}\): \(f'(\pm\sqrt{3}) = 4\)
따라서 구간 \([-\sqrt{3}, \sqrt{3}]\)에서 \(-4 \le f'(c) \le 12\)이므로 \(|f'(c)| \le 12\)이며, 양변에 \(x_2 - x_1 \gt 0\)을 곱하면\[|f(x_2) - f(x_1)| = |f'(c)|(x_2 - x_1) \le 12(x_2 - x_1)\]이 성립합니다.

제시문 <2>의 적분과 미분의 관계에 의하여 \(G(x)\)의 도함수는\[G'(x) = \frac{1}{4}\left\{f'(x) - 4\right\} = x^3 - 3x = x(x + \sqrt{3})(x - \sqrt{3})\]이고, 정적분을 직접 계산하면\[G(x) = \int_{-1}^{x} (t^3 - 3t)\,dt = \left[\frac{1}{4}t^4 - \frac{3}{2}t^2\right]_{-1}^{x} = \frac{1}{4}x^4 - \frac{3}{2}x^2 + \frac{5}{4}\]입니다. \(G'(x) = 0\)에서 \(x = -\sqrt{3}, 0, \sqrt{3}\)이며 도함수의 부호 변화를 조사하면
• \(x = 0\)에서 극댓값 \(G(0) = \dfrac{5}{4}\)를 갖고,
• \(x = -\sqrt{3}\)과 \(x = \sqrt{3}\)에서 동일한 극솟값 \(G(\pm\sqrt{3}) = \dfrac{9}{4} - \dfrac{9}{2} + \dfrac{5}{4} = -1\)을 갖습니다.
우함수 \(y = G(x)\)의 그래프와 수평선 \(y = k\)가 서로 다른 세 점에서 만나려면 수평선이 극댓점 \((0, \frac{5}{4})\)에 접하고 양쪽 곡선과 두 점에서 만나야 하므로 \(k = \dfrac{5}{4}\)입니다.

주사위에서 \(3\)의 배수의 눈(\(3, 6\))이 나오는 사건을 \(A\)라 하면 \(P(A) = \dfrac{2}{6} = \dfrac{1}{3}\)이고, \(P(A^c) = \dfrac{2}{3}\)입니다.
• 사건 \(A\)가 일어났을 때 동전 \(3\)번 중 앞면이 \(2\)번 나올 확률: \(P(X=2|A) = {}_3\mathrm{C}_2 \left(\dfrac{1}{2}\right)^3 = \dfrac{3}{8}\)
• 사건 \(A^c\)가 일어났을 때 동전 \(2\)번 중 앞면이 \(2\)번 나올 확률: \(P(X=2|A^c) = {}_2\mathrm{C}_2 \left(\dfrac{1}{2}\right)^2 = \dfrac{1}{4}\)
따라서 제시문 <1>에 의하여\[P(X = 2) = P(A)P(X=2|A) + P(A^c)P(X=2|A^c) = \frac{1}{3} \times \frac{3}{8} + \frac{2}{3} \times \frac{1}{4} = \frac{1}{8} + \frac{1}{6} = \frac{7}{24}\]이며, 구하는 조건부확률은\[P(A \mid X = 2) = \frac{P(A \cap \{X=2\})}{P(X = 2)} = \frac{1/8}{7/24} = \frac{3}{7}\]입니다.

확률변수 \(X\)가 가질 수 있는 값은 \(0, 1, 2, 3\)이며 각각의 확률은 다음과 같습니다.
• \(P(X = 0) = \dfrac{1}{3} \times \dfrac{1}{8} + \dfrac{2}{3} \times \dfrac{1}{4} = \dfrac{1}{24} + \dfrac{4}{24} = \dfrac{5}{24}\)
• \(P(X = 1) = \dfrac{1}{3} \times \dfrac{3}{8} + \dfrac{2}{3} \times \dfrac{2}{4} = \dfrac{3}{24} + \dfrac{8}{24} = \dfrac{11}{24}\)
• \(P(X = 2) = \dfrac{7}{24}\)
• \(P(X = 3) = \dfrac{1}{3} \times \dfrac{1}{8} + \dfrac{2}{3} \times 0 = \dfrac{1}{24}\)
확률의 총합은 \(\dfrac{5 + 11 + 7 + 1}{24} = 1\)입니다. 따라서 기댓값과 제곱의 기댓값은\[\begin{aligned} E(X) &= 0 \cdot \frac{5}{24} + 1 \cdot \frac{11}{24} + 2 \cdot \frac{7}{24} + 3 \cdot \frac{1}{24} = \frac{28}{24} = \frac{7}{6}, \\ E(X^2) &= 0^2 \cdot \frac{5}{24} + 1^2 \cdot \frac{11}{24} + 2^2 \cdot \frac{7}{24} + 3^2 \cdot \frac{1}{24} = \frac{11 + 28 + 9}{24} = \frac{48}{24} = 2 \end{aligned}\]입니다.

(3-ⅱ)에서 구한 \(E(X) = \dfrac{7}{6}\)과 \(E(X^2) = 2\)를 제시문 <2>의 분산 공식에 대입하면\[V(X) = E(X^2) - \{E(X)\}^2 = 2 - \left(\frac{7}{6}\right)^2 = \frac{72 - 49}{36} = \frac{23}{36}\]입니다. 또한 확률변수 \(Y = 6X + 3\)에 대하여 선형 성질을 적용하면\[\begin{aligned} E(Y) &= E(6X + 3) = 6E(X) + 3 = 6 \times \frac{7}{6} + 3 = 10, \\ V(Y) &= V(6X + 3) = 6^2 V(X) = 36 \times \frac{23}{36} = 23 \end{aligned}\]입니다.