방정식 \(x + y + z + w = 10\)의 음이 아닌 정수해의 총개수는 중복조합에 의해 \({}_4\mathrm{H}_{10} = {}_{13}\mathrm{C}_{10} = {}_{13}\mathrm{C}_3 = \frac{13 \times 12 \times 11}{6} = \mathbf{286}\)개이다.

\(x \ge 2\)인 경우 \(x' = x - 2 \ge 0\)으로 치환하면 \(x' + y + z + w = 8\)이므로 해의 개수는 \({}_4\mathrm{H}_8 = {}_{11}\mathrm{C}_8 = {}_{11}\mathrm{C}_3 = \frac{11 \times 10 \times 9}{6} = \mathbf{165}\)개이다.

\(x \ge 2\)를 만족하는 \(165\)개의 순서쌍 집합을 \(S_0\)라 하고, \(S_0\) 내에서 \(x = y\)인 집합을 \(A\), \(z = w\)인 집합을 \(B\)라 하자.

① \(n(A)\): \(x = y = k\) (\(k \ge 2\))이면 \(z + w = 10 - 2k\)이므로 \(k = 2, 3, 4, 5\)에 대하여 \((10 - 2k + 1)\)개씩 존재한다. 따라서 \(n(A) = 7 + 5 + 3 + 1 = 16\)이다.

② \(n(B)\): \(z = w = m\) (\(m \ge 0\))이고 \(x' + y = 8 - 2m\)이므로 \(m = 0, 1, 2, 3, 4\)에 대하여 \((8 - 2m + 1)\)개씩 존재한다. 따라서 \(n(B) = 9 + 7 + 5 + 3 + 1 = 25\)이다.

③ \(n(A \cap B)\): \(x = y = k \ge 2\)이고 \(z = w = m \ge 0\)이며 \(2k + 2m = 10 \implies k + m = 5\)이므로 \((k, m) = (2,3), (3,2), (4,1), (5,0)\)의 \(4\)개이다.

따라서 사건 \(E\)의 원소 개수는 \(165 - (16 + 25 - 4) = 165 - 37 = 128\)개이며, 구하는 확률은 \(P(E) = \frac{128}{286} = \mathbf{\frac{64}{143}}\)이다.

표본의 크기 \(n = 400\), 표본비율 \(\hat{p} = 0.8\)이므로 표준오차는 \(\sqrt{\frac{\hat{p}(1-\hat{p})}{n}} = \sqrt{\frac{0.8 \times 0.2}{400}} = \frac{0.4}{20} = 0.02\)이다.

신뢰도 \(95\%\)의 신뢰구간은 \(\hat{p} - 1.96 \times 0.02 \le p \le \hat{p} + 1.96 \times 0.02\), 즉 \(\mathbf{[0.7608, \, 0.8392]}\)이다.

신뢰도 \(99\%\)의 신뢰구간의 길이는 \(L = 2 \times 2.58 \sqrt{\frac{0.8 \times 0.2}{n}} = 5.16 \times \frac{0.4}{\sqrt{n}}\)이다. \(L \le 0.0516\)이어야 하므로 \(\frac{5.16 \times 0.4}{\sqrt{n}} \le 0.0516 \implies \frac{0.4}{\sqrt{n}} \le 0.01 \implies \sqrt{n} \ge 40 \implies n \ge 1600\)이다. 따라서 자연수 \(n\)의 최솟값은 \(\mathbf{1600}\)이다.

조건 (1)에서 \(f(-x) = -f(x)\)이므로 최고차항의 계수가 \(1\)인 기함수 삼차함수는 \(f(x) = x^3 + cx\) 꼴이다. \(f'(x) = 3x^2 + c\)이고 \(f'(1) = 3 + c = 0\)이므로 \(c = -3\)이다. 따라서 \(f(x) = \mathbf{x^3 - 3x}\)이다.

조건 (2)에서 \(g(x)\)가 \(x = 1\)에서 연속이고 미분가능하므로 좌·우 함수값과 미분계수가 일치해야 한다. 연속 조건에서 \(1 + a + b = 1 \implies a + b = 0\), 미분가능 조건에서 \(2(1) + a = 2 \implies a = 0\)이므로 \(b = 0\)이다. 따라서 \(\mathbf{a = 0, \, b = 0}\)이다.

\(g(x) = \begin{cases} x^2 & (x < 1) \\ 2x - 1 & (x \ge 1) \end{cases}\)는 실수 전체에서 미분가능하고 \(g'(x) = \begin{cases} 2x & (x < 1) \\ 2 & (x \ge 1) \end{cases}\)이다.

합성함수 미분법에 의해 \(h'(x) = f'(g(x))g'(x) = 3(g(x) - 1)(g(x) + 1)g'(x)\)이다.

\(g(x) \ge 0\)이므로 \(g(x) + 1 > 0\)이다. \(h'(x) = 0\)인 점은 \(g'(x) = 0\)인 \(x = 0\)과 \(g(x) = 1\)인 \(x = -1, x = 1\)이다.

부호 변화를 조사하면:

• \(x = -1\): 좌우에서 \(g(x) - 1\)이 양에서 음으로, \(g'(x) = 2x < 0\)이므로 \(h'(x)\)는 음에서 양으로 바뀌어 **극솟값** \(h(-1) = f(1) = \mathbf{-2}\)를 갖는다.

• \(x = 0\): \(g(x) - 1 < 0\)이고 \(g'(x) = 2x\)가 음에서 양으로 바뀌므로 \(h'(x)\)는 양에서 음으로 바뀌어 **극댓값** \(h(0) = f(0) = \mathbf{0}\)을 갖는다.

• \(x = 1\): \(g(x) - 1\)이 음에서 양으로 바뀌고 \(g'(1) = 2 > 0\)이므로 \(h'(x)\)는 음에서 양으로 바뀌어 **극솟값** \(h(1) = f(1) = \mathbf{-2}\)를 갖는다.

곡선 \(y = x^3 - 3x\)와 직선 \(y = x\)의 교점은 \(x^3 - 4x = 0 \implies x = -2, 0, 2\)이다. 기함수 대칭성에 의해 둘러싸인 넓이는 \(S = 2\int_0^2 (4x - x^3)\,dx = 2\left[2x^2 - \frac{1}{4}x^4\right]_0^2 = 2(8 - 4) = \mathbf{8}\)이다.

또한 구간 \([-1, 1]\)에서는 \(g(x) = x^2\)이므로 \(h(x) = x^6 - 3x^2\)이고, 구간 \([1, 2]\)에서는 \(g(x) = 2x - 1\)이다.

따라서 \(\int_{-1}^1 (x^6 - 3x^2)\,dx = 2\left[\frac{1}{7}x^7 - x^3\right]_0^1 = 2\left(\frac{1}{7} - 1\right) = -\frac{12}{7}\)이고, \(\int_1^2 f(2x-1)\,dx = \frac{1}{2}\int_1^3 (u^3 - 3u)\,du = \frac{1}{2}\left[\frac{1}{4}u^4 - \frac{3}{2}u^2\right]_1^3 = \frac{1}{2}(8 + 0) = 4\)이다.

그러므로 \(\int_{-1}^2 h(x)\,dx = -\frac{12}{7} + 4 = \mathbf{\frac{16}{7}}\)이다.