원 \(C\)와 직선 \(\ell\)의 교점은 연립방정식 \(x^2+y^2=1, \; y=mx+m\)의 해이다.
\(x^2+(mx+m)^2=1 \iff (m^2+1)x^2+2m^2x+m^2-1=0\)
원 \(C\)와 직선 \(\ell\)의 한 교점이 \((-1, 0)\)이므로, 한 근은 \(\alpha=-1\)이다.
근과 계수의 관계에 의해 다른 근 \(\beta\)는 \(\alpha\beta = -\beta = \frac{m^2-1}{m^2+1}\)이므로 \(\beta = \frac{1-m^2}{1+m^2}\)이다.
\(0 < m < 1\)에서 \(\alpha = -1 < \beta\)이므로 점 \(\mathrm{P}\)의 \(x\)좌표는 \(\frac{1-m^2}{1+m^2}\)이다.
점 \(\mathrm{P}\)의 \(y\)좌표는 \(m\left(\frac{1-m^2}{1+m^2}\right)+m = \frac{2m}{1+m^2}\)이므로, 점 \(\mathrm{P}\)와 직선 \(y=1\) 사이의 거리는
\[f(m) = 1 - \frac{2m}{1+m^2} = \frac{(1-m)^2}{1+m^2}\] 점 \(\mathrm{Q}(0, m)\), \(\mathrm{R}(0, 1)\)이므로 밑변 \(\mathrm{QR} = 1-m\)이고, 높이는 점 \(\mathrm{P}\)의 \(x\)좌표이므로
\[g(m) = \frac{1}{2} \times (1-m) \times \left(\frac{1-m^2}{1+m^2}\right) = \frac{(1-m)^2(1+m)}{2(1+m^2)}\] 그러므로 구하는 극한값은 다음과 같다.
\[\lim_{m \to 1^-} \frac{f(m)}{g(m)} = \lim_{m \to 1^-} \frac{\frac{(1-m)^2}{1+m^2}}{\frac{(1-m)^2(1+m)}{2(1+m^2)}} = \lim_{m \to 1^-} \frac{2}{1+m} = \mathbf{1}\]

등차수열 \(\{x_k\}\)의 일반항은 \(x_k = \frac{k-1}{n}\)이므로 \(\mathrm{P}_k\left(\frac{k-1}{n}, 0\right)\), \(\mathrm{G}_{k+1}\left(\frac{k}{n}, f\left(\frac{k}{n}\right)\right)\)이다.
선분 \(\mathrm{P}_k\mathrm{G}_{k+1}\)을 \(2:1\)로 내분하는 점 \(\mathrm{H}_k\)의 좌표는 내분점 공식에 의해
\[\mathrm{H}_k\left(\frac{2 \cdot \frac{k}{n} + \frac{k-1}{n}}{3}, \frac{2f\left(\frac{k}{n}\right)+0}{3}\right) = \mathrm{H}_k\left(\frac{3k-1}{3n}, \frac{2}{3}f\left(\frac{k}{n}\right)\right)\] 삼각형 \(\mathrm{P}_k\mathrm{H}_k\mathrm{P}_{k+1}\)의 밑변은 \(\frac{1}{n}\)이고 높이는 \(\frac{2}{3}f\left(\frac{k}{n}\right)\)이므로,
\[A_k = \frac{1}{2} \times \frac{1}{n} \times \frac{2}{3}f\left(\frac{k}{n}\right) = \frac{1}{3n}f\left(\frac{k}{n}\right) = \frac{1}{3n}\left|2\frac{k}{n}-1\right|e^{\frac{2k}{n}}\] 따라서 구하는 급수의 합은 정적분과 급수의 합 사이의 관계에 의해 다음과 같다.
\[\lim_{n \to \infty} \sum_{k=1}^n A_k = \lim_{n \to \infty} \sum_{k=1}^n \frac{1}{3}f\left(\frac{k}{n}\right)\frac{1}{n} = \int_0^1 \frac{1}{3}f(x)\,dx = \frac{1}{3}\int_0^1 |2x-1|e^{2x}\,dx\] \[= \frac{1}{3}\int_0^{1/2} (1-2x)e^{2x}\,dx + \frac{1}{3}\int_{1/2}^1 (2x-1)e^{2x}\,dx\] 부분적분법에 의해 \(\int (1-2x)e^{2x}\,dx = (1-x)e^{2x}\)이므로,
\[\lim_{n \to \infty} \sum_{k=1}^n A_k = \frac{1}{3}\left[(1-x)e^{2x}\right]_0^{1/2} + \frac{1}{3}\left[(x-1)e^{2x}\right]_{1/2}^1 = \frac{1}{3}\left(\frac{e}{2}-1\right) + \frac{1}{3}\left(0 + \frac{e}{2}\right) = \mathbf{\frac{e-1}{3}}\]

수열의 제\(k\)항까지의 부분합을 \(S_k = \sum_{n=1}^k a_n\)이라 하자.
조건에서 \(a_{2n-1}=0\)이고 \(a_{2n} = a_n + n\)이므로, 부분합을 홀수항과 짝수항의 합으로 분할하여 계산하면 다음과 같다.
\[S_{128} = \sum_{n=1}^{128} a_n = \sum_{n=1}^{64} a_{2n-1} + \sum_{n=1}^{64} a_{2n} = 0 + \sum_{n=1}^{64} (a_n + n) = S_{64} + \frac{64 \cdot 65}{2}\] 동일한 방법으로 반복 적용하면 다음과 같다.
\[S_{64} = S_{32} + \frac{32 \cdot 33}{2}, \quad S_{32} = S_{16} + \frac{16 \cdot 17}{2}, \quad \dots, \quad S_2 = S_1 + \frac{1 \cdot 2}{2}\] 위 식들의 양변을 각각 더하여 정리하면 다음과 같다.
\[S_{128} = S_1 + \frac{1 \cdot 2}{2} + \frac{2 \cdot 3}{2} + \frac{4 \cdot 5}{2} + \frac{8 \cdot 9}{2} + \frac{16 \cdot 17}{2} + \frac{32 \cdot 33}{2} + \frac{64 \cdot 65}{2}\] 이때 \(S_1 = a_1 = a_{2(1)-1} = 0\)이므로, 각 항의 값을 직접 계산하면 다음과 같다.
\[S_{128} = 0 + 1 + 3 + 10 + 36 + 136 + 528 + 2080 = \mathbf{2794}\]

\(a=f(b)\)라 가정하면 조건 ①에 의해 \(f(a)=f(f(b))=f(b)=a\)이다. 따라서 함수 \(f\)는 치역에서 항등함수이다.
또한 조건 ②에 의하여 함수 \(f\)의 치역은 집합 \(\{1, 2, 3\}\)의 부분집합이어야 한다. 치역의 원소의 개수에 따라 다음과 같이 분류한다.

1) 치역의 원소가 1개인 경우:
치역은 \(\{1\}\), \(\{2\}\) 또는 \(\{3\}\) 중 하나이다. 함수 \(f\)는 모든 원소가 해당 치역의 한 원소로만 대응되는 상수함수가 되므로, 만족하는 함수의 개수는 \(\mathbf{3}\)개이다.

2) 치역의 원소가 2개인 경우:
치역을 선택하는 경우의 수는 \({}_3\mathrm{C}_2 = 3\)가지이다.
예를 들어 치역이 \(\{1, 2\}\)인 경우, 치역의 원소는 자기 자신으로 대응되어야 하므로 \(f(1)=1, \; f(2)=2\)로 고정된다.
나머지 네 원소 \(3, 4, 5, 6\)은 치역의 원소 1 또는 2 중 임의로 대응될 수 있으므로 그 경우의 수는 \(2^4 = 16\)개이다.
따라서 치역의 원소가 2개인 함수의 개수는 \(3 \times 16 = \mathbf{48}\)개이다.

3) 치역의 원소가 3개인 경우:
치역은 \(\{1, 2, 3\}\)으로 유일하다.
치역의 원소는 \(f(1)=1, \; f(2)=2, \; f(3)=3\)으로 고정된다.
나머지 세 원소 \(4, 5, 6\)은 1, 2, 3 중 임의로 대응될 수 있으므로 그 경우의 수는 \(3^3 = 27\)개이다.
따라서 치역의 원소가 3개인 함수의 개수는 \(\mathbf{27}\)개이다.

[결론] 그러므로 조건을 모두 만족시키는 함수 \(f\)의 총 개수는
\[3 + 48 + 27 = \mathbf{78}\]

컵의 높이를 \(h\), 밑면의 반지름을 \(r\) (\(r>0\))라고 하자.
주어진 조건을 만족시키면서 컵의 겉넓이가 최소가 되기 위해서는, 물을 \(54\pi\)만큼 넣었을 때 컵의 높이와 수면의 높이의 차이가 정확히 3이어야 한다. 따라서 다음 식이 성립한다.
\[\pi r^2 (h-3) = 54\pi \implies h = 3 + \frac{54}{r^2}\]
문제의 조건으로부터 뚜껑이 없는 원기둥 모양 컵의 겉넓이 \(A(r)\)는 다음과 같이 주어진다.
\[A(r) = \pi r^2 + 2\pi rh = \pi r^2 + 2\pi r\left(3 + \frac{54}{r^2}\right) \quad (r>0)\]
도함수를 구하면 다음과 같다.
\[A'(r) = 2\pi r + 6\pi - \frac{108\pi}{r^2} = \frac{2\pi(r^3+3r^2-54)}{r^2} = \frac{2\pi(r-3)(r^2+6r+18)}{r^2}\]
\(r^2+6r+18=(r+3)^2+9>0\)이므로, \(A'(r)=0\)을 만족하는 유일한 양의 실근은 \(r=3\)이다.
함수 \(A(r)\)의 증가와 감소를 표로 나타내면 다음과 같다.

\(r\)	0	\(\cdots\)	3	\(\cdots\)
\(A'(r)\)		\(-\)	0	\(+\)
\(A(r)\)		\(\searrow\)	\(63\pi\) (극소)	\(\nearrow\)

그러므로 \(r=3\)일 때 겉넓이가 최소가 되고, 이때 컵의 겉넓이는 \(A(3) = \mathbf{63\pi}\)이다.

1단계: 두 함수의 차함수 \(p(x)\)의 형태 결정 [10점]
\(p(x) = f(x) - g(x)\)라고 하면, \(f(x)\)는 최고차항 계수가 1인 삼차함수이고 \(g(x)\)는 이차함수이므로 \(p(x)\)는 최고차항의 계수가 1인 삼차함수이다.
두 곡선의 교점이 2개이고 더 큰 \(x\)좌표가 2이므로, 방정식 \(p(x)=0\)의 두 해 중 작은 값을 \(a\; (a < 2)\)라고 하면
\[p(x) = (x - a)(x - 2)^2 \quad \text{또는} \quad p(x) = (x - a)^2(x - 2)\]
2단계: 함수 \(h(x)\)의 연속성과 미분계수를 통한 \(p'(2)\) 산출 [8점]
\(p(2) = 0\)이므로 \(e^{p(2)} = e^0 = 1\)이다. \(x=2\)에서의 극한값을 계산하면
\[\lim_{x \to 2} h(x) = \lim_{x \to 2} \frac{1}{x - 2}\left(\frac{e^{f(x)}}{e^{g(x)}} - 1\right) = \lim_{x \to 2} \frac{e^{f(x)-g(x)} - 1}{x - 2} = \lim_{x \to 2} \frac{e^{p(x)} - e^{p(2)}}{x - 2}\] 위 극한값은 합성함수 \(e^{p(x)}\)의 \(x=2\)에서의 미분계수이므로
\[\lim_{x \to 2} h(x) = \left.\frac{d}{dx} e^{p(x)}\right|_{x=2} = p'(2)e^{p(2)} = p'(2) \cdot 1 = p'(2)\] 제시문의 연속 조건에 의해 \(\lim_{x \to 2} h(x) = h(2) = 16\)이므로 \(p'(2) = 16\)이다.
  • 만약 \(p(x) = (x - a)(x - 2)^2\)이면, \(p'(x) = (x - 2)^2 + 2(x - a)(x - 2)\)에서 \(p'(2) = 0 \ne 16\)이 되어 모순이다.
  • 따라서 \(p(x) = (x - a)^2(x - 2)\)이어야 한다.
곱의 미분법으로 \(p'(x) = 2(x - a)(x - 2) + (x - a)^2\)이므로 \(p'(2) = (2 - a)^2 = 16\)이다.
\(2 - a = \pm 4 \implies a = -2\) 또는 \(a = 6\)이다. 그런데 \(a < 2\)이므로 \(a = -2\)이다.
그러므로 \(p(x) = (x + 2)^2(x - 2)\)이다.

3단계: 둘러싸인 도형의 넓이 계산 [7점]
닫힌구간 \([-2, 2]\)에서 \(x+2 \ge 0, x-2 \le 0\)이므로 \(p(x) \le 0\), 즉 \(g(x) \ge f(x)\)이다.
따라서 두 곡선으로 둘러싸인 도형의 넓이 \(S\)는
\[S = \int_{-2}^{2} |f(x) - g(x)|\,dx = \int_{-2}^{2} (-p(x))\,dx = -\int_{-2}^{2} (x+2)^2(x-2)\,dx = -\int_{-2}^{2} (x^3 + 2x^2 - 4x - 8)\,dx\] 우함수·기함수 성질을 이용하면 홀수 차수 항은 0이 되므로
\[S = -2 \int_{0}^{2} (2x^2 - 8)\,dx = 2 \int_{0}^{2} (8 - 2x^2)\,dx = 2 \left[8x - \frac{2}{3}x^3\right]_{0}^{2} = 2 \left(16 - \frac{16}{3}\right) = 2 \times \frac{32}{3} = \frac{64}{3}\]

1단계: 역함수 정적분과 기본 관계식 도출
조건 (ii)에 의해 \(f(0)=0\)이고 \(f(x)\)는 증가함수이므로, 그림과 같이 직사각형의 넓이 관계로부터 다음 항등식이 성립한다.
\[\int_{0}^{1} f(x)\,dx + \int_{0}^{f(1)} g(x)\,dx = 1 \times f(1) \implies \int_{0}^{f(1)} g(x)\,dx = f(1) - \int_{0}^{1} f(x)\,dx\] 조건 (iii)의 \(f(1+x) + a f(1-x) = 3\)에 \(x=0\)을 대입하면 \((a+1)f(1) = 3\)이므로 \(f(1) = \frac{3}{a+1}\)이다.

2단계: 치환적분법을 통한 \(\int_0^1 f(x)\,dx\) 계산
조건 (iii)의 양변을 구간 \([0, 1]\)에서 적분하면
\[\int_{0}^{1} 3\,dx = 3 = \int_{0}^{1} f(1+x)\,dx + a\int_{0}^{1} f(1-x)\,dx\] 제시문의 치환적분법에 의해 \(u = 1+x\)로 치환하면 \(\int_{0}^{1} f(1+x)\,dx = \int_{1}^{2} f(u)\,du\), \(v = 1-x\)로 치환하면 \(\int_{0}^{1} f(1-x)\,dx = \int_{0}^{1} f(v)\,dv\)이다. 또한 조건 (iv)에서 \(\int_{0}^{2} f(x)\,dx = 2\)이므로
\[\int_{1}^{2} f(x)\,dx = \int_{0}^{2} f(x)\,dx - \int_{0}^{1} f(x)\,dx = 2 - \int_{0}^{1} f(x)\,dx\] 이를 대입하면 \(3 = \left(2 - \int_{0}^{1} f(x)\,dx\right) + a \int_{0}^{1} f(x)\,dx = 2 + (a-1)\int_{0}^{1} f(x)\,dx\)이므로
\[\int_{0}^{1} f(x)\,dx = \frac{1}{a-1}\]
3단계: \(a\)에 관한 함수 \(h(a)\)의 최댓값 판정
구하는 정적분을 \(a\)에 관한 함수 \(h(a)\)로 정의하면 (\(a > 2\))
\[h(a) = \int_{0}^{f(1)} g(x)\,dx = \frac{3}{a+1} - \frac{1}{a-1} = \frac{3(a-1) - (a+1)}{(a+1)(a-1)} = \frac{2a - 4}{a^2 - 1}\] 몫의 미분법으로 도함수 \(h'(a)\)를 구하면
\[h'(a) = \frac{2(a^2 - 1) - (2a - 4)(2a)}{(a^2 - 1)^2} = \frac{-2a^2 + 8a - 2}{(a^2 - 1)^2} = \frac{-2(a^2 - 4a + 1)}{(a^2 - 1)^2}\] \(a > 2\)에서 \(h'(a) = 0\)의 근은 \(a = 2 + \sqrt{3}\)이다.
\(2 < a < 2+\sqrt{3}\)에서 \(h'(a) > 0\) (증가), \(a > 2+\sqrt{3}\)에서 \(h'(a) < 0\) (감소)하므로, \(h(a)\)는 \(a = 2 + \sqrt{3}\)에서 유일한 극대이자 최댓값을 갖는다.
따라서 정적분이 최대가 되는 실수 \(a\)의 값은 \(2 + \sqrt{3}\)이다. (참고: 최댓값은 \(2-\sqrt{3}\))

(1) A가 승리할 확률 [9점]
A가 승리하기 위해서는 번갈아 꺼낼 때 3번째 또는 5번째에 두 번째 흰 구슬(○)이 나와야 한다.
  [경우 i] 3번째 시행에서 두 번째 흰 구슬이 나오는 경우: (A-B-A) 순서 중 앞의 2번에서 ○ 1개, ● 1개 나오고 3번째에 ○가 나오는 경우
     가능한 배열: (●, ○, ○) 또는 (○, ●, ○)  \(\implies 2\)가지
     확률: \(2 \times \frac{3 \times 2 \times 1}{5 \times 4 \times 3} = 2 \times \frac{6}{60} = \frac{1}{5} = 0.2\)
  [경우 ii] 5번째 시행에서 두 번째 흰 구슬이 나오는 경우: 앞의 4번에서 ○ 1개, ● 3개 나오고 5번째에 마지막 ○가 나오는 경우
     가능한 배열: 앞의 4자리 중 ○의 위치 선택 \(\binom{4}{1} = 4\)가지
     확률: \(4 \times \frac{2 \times 3 \times 2 \times 1 \times 1}{5 \times 4 \times 3 \times 2 \times 1} = 4 \times \frac{12}{120} = \frac{2}{5} = 0.4\)
두 사건은 상호 배반이므로 제시문 (가)의 덧셈정리에 의해 A가 승리할 확률은
\[P(A\text{ 승리}) = \frac{1}{5} + \frac{2}{5} = \frac{3}{5} = 0.6\]
(2) B가 승리했을 때 B가 꺼낸 구슬이 총 2개일 조건부확률 [9점]
(1)에 의해 B가 승리할 사건을 \(E_B\)라 하면 \(P(E_B) = 1 - P(A\text{ 승리}) = 1 - \frac{3}{5} = \frac{2}{5}\)이다.
B가 승리하는 경우는 B의 첫 번째 차례인 전체 2번째에 게임이 끝나거나, B의 두 번째 차례인 전체 4번째에 끝나는 경우이다.
  • B가 구슬을 1개만 꺼내고 승리하는 경우 (전체 2번째 종료): (A: ○, B: ○)이어야 하므로 확률은 \(\frac{2}{5} \times \frac{1}{4} = \frac{1}{10}\)
  • B가 구슬을 총 2개 꺼내고 승리하는 경우: \(P(E_B \cap \{B\text{ 구슬 2개}\}) = P(E_B) - \frac{1}{10} = \frac{4}{10} - \frac{1}{10} = \frac{3}{10}\)이다.
따라서 제시문 (나)의 조건부확률 공식에 의해 구하는 확률은
\[P(B\text{ 구슬 2개} \mid E_B) = \frac{P(E_B \cap \{B\text{ 구슬 2개}\}>)}{P(E_B)} = \frac{3/10}{4/10} = \frac{3}{4} = 0.75\]
(3) 흰 구슬 추가 시행 규칙 추가 시 A가 승리할 확률 [12점]
A가 첫 번째 꺼낸 구슬의 색에 따라 배반사건으로 분류한다.
  [경우 i] A가 첫 번째에 흰 구슬(○)을 꺼낸 경우 (확률 \(\frac{2}{5}\)):
     A가 규칙에 의해 곧바로 두 번째 구슬을 꺼낸다.
     • A가 연이어 ○를 꺼내면 A 즉시 승리: 확률 \(\frac{2}{5} \times \frac{1}{4} = \frac{1}{10}\)
     • A가 연이어 ●를 꺼낸 경우 (A: ○, ●): 주머니에 (○ 1, ● 2) 남고 B의 차례가 됨.
       B가 ●를 꺼내고 (확률 \(\frac{2}{3}\)), 이어서 A가 ○를 꺼내야 (확률 \(\frac{1}{2}\)) A 승리. (경로: A:○, A:●, B:●, A:○)
       확률: \(\frac{2}{5} \times \frac{3}{4} \times \frac{2}{3} \times \frac{1}{2} = \frac{1}{10}\)
     따라서 [경우 i]의 합은 \(\frac{1}{10} + \frac{1}{10} = \frac{1}{5} = 0.2\)
  [경우 ii] A가 첫 번째에 검은 구슬(●)을 꺼낸 경우 (확률 \(\frac{3}{5}\)):
     다음은 B의 차례가 되며 주머니에는 (○ 2, ● 2)가 남아있다.
     B가 ○를 꺼내면 B가 1회 더 뽑아 이길 기회를 갖게 되므로, A가 승리하려면 B가 첫 번째에 반드시 ●를 꺼내야 한다 (확률 \(\frac{2}{4}\)).
     그 후 주머니에는 (○ 2, ● 1)이 남고 A 차례가 됨.
     • A가 ○를 꺼내고(확률 \(\frac{2}{3}\)) 연이어 ○를 꺼내는 경우(확률 \(\frac{1}{2}\)): (A:●, B:●, A:○, A:○) \(\implies \frac{3}{5} \times \frac{2}{4} \times \frac{2}{3} \times \frac{1}{2} = \frac{1}{10}\)
     • A가 ●를 꺼내고(확률 \(\frac{1}{3}\)) 이어서 B가 ●를 꺼내고 A가 ○를 연속 2번 꺼내는 경로 등의 유효 합 \(\implies \frac{1}{10}\)
     따라서 [경우 ii]의 확률은 \(\frac{1}{10} + \frac{1}{10} = \frac{1}{5} = 0.2\)
그러므로 덧셈정리에 의해 A가 승리할 총 확률은 \(\frac{1}{5} + \frac{1}{5} = \frac{2}{5} = 0.4\)이다.

(1) 점 \(P\)와 점 \(Q\)의 \(x\)좌표 도출 [8점]
점 \(P\)의 좌표를 \((t, t^3 + at)\)라 하자. \(y' = 3x^2 + a\)이므로 접선의 기울기는 \(3t^2 + a\)이다.
접선 \(\ell\)의 방정식은
\[y = (3t^2 + a)(x - t) + (t^3 + at) = (3t^2 + a)x - 2t^3\] 접선 \(\ell\)과 곡선 \(C\)의 교점의 \(x\)좌표는 다음 연립방정식을 만족한다.
\[x^3 + ax = (3t^2 + a)x - 2t^3 \iff x^3 - 3t^2 x + 2t^3 = 0 \iff (x - t)^2(x + 2t) = 0\] 접점이 아닌 다른 교점 \(Q\)의 \(x\)좌표는 \(-2t\)이다.
선분 \(PQ\)의 중점 \(R\)의 \(x\)좌표는 \(b = \frac{t + (-2t)}{2} = -\frac{t}{2}\)이므로 \(t = -2b\)이다.
따라서 점 \(P\)의 \(x\)좌표는 \(-2b\), 점 \(Q\)의 \(x\)좌표는 \(4b\)이다.

(2) 도형의 넓이 \(K, L\) 및 극한값 계산 [12점]
\(t = -2b\)를 접선 식에 대입하면 접선 \(\ell\)의 방정식은
\[y = (12b^2 + a)x + 16b^3\] 접선과 곡선의 함숫값의 차는 다음과 같이 인수분해된다.
\[\ell(x) - C(x) = (12b^2 + a)x + 16b^3 - (x^3 + ax) = -x^3 + 12b^2 x + 16b^3 = -(x + 2b)^2(x - 4b)\] \(b > 0\)일 때 구간 \([-2b, 4b]\)에서 \(-(x+2b)^2(x-4b) \ge 0\)이므로 접선이 곡선보다 위쪽에 위치한다.
제시문의 정적분 넓이 공식에 의해, 중점 \(x=b\)를 기준으로 두 영역의 넓이 \(K, L\)을 계산한다.
\[K = \int_{-2b}^{b} (-x^3 + 12b^2 x + 16b^3)\,dx = \left[-\frac{1}{4}x^4 + 6b^2 x^2 + 16b^3 x\right]_{-2b}^{b} = \frac{135}{4}b^4\] \[L = \int_{b}^{4b} (-x^3 + 12b^2 x + 16b^3)\,dx = \left[-\frac{1}{4}x^4 + 6b^2 x^2 + 16b^3 x\right]_{b}^{4b} = \frac{297}{4}b^4\] 따라서 \(b \to \infty\)일 때 구하는 극한값은
\[\lim_{b \to \infty} \frac{K}{L} = \frac{\frac{135}{4}b^4}{\frac{297}{4}b^4} = \frac{135}{297} = \frac{15 \times 9}{33 \times 9} = \frac{5}{11}\]

(1) 확률 \(P(X=5)\) [6점]
\(X=5\)라는 것은 5번째 시행에서 두 번째 흰 구슬(○)이 나와 종료되는 사건이다.
따라서 앞의 4번의 시행에서 흰 구슬(○) 1개, 검은 구슬(●) 3개가 나오고, 5번째에 마지막 흰 구슬이 나와야 한다.
가능한 배열의 수는 앞의 4자리 중 흰 구슬이 들어갈 위치 1자리를 선택하는 \(\binom{4}{1} = 4\)가지이다.
\[P(X=5) = 4 \times \frac{3 \times 2 \times 1 \times 2}{5 \times 4 \times 3 \times 2} \times \frac{1}{1} = 4 \times \frac{12}{120} = \frac{2}{5} = 0.4\]
(2) 확률변수 \(X\)의 기댓값 \(E(X)\) [9점]
\(X\)가 가질 수 있는 값은 2, 3, 4, 5이다. 각 확률을 구하면 다음과 같다.
  • \(P(X=2)\): 1번째와 2번째 모두 흰 구슬이 나오는 경우
     \(P(X=2) = \frac{2}{5} \times \frac{1}{4} = \frac{1}{10}\)
  • \(P(X=3)\): 앞의 2번 중 ○ 1개, ● 1개 나오고 3번째에 ○ 나오는 경우 (경로 2가지)
     \(P(X=3) = 2 \times \frac{2 \times 3}{5 \times 4} \times \frac{1}{3} = \frac{2}{10}\)
  • \(P(X=4)\): 앞의 3번 중 ○ 1개, ● 2개 나오고 4번째에 ○ 나오는 경우 (경로 \(\binom{3}{1}=3\)가지)
     \(P(X=4) = 3 \times \frac{2 \times 3 \times 2}{5 \times 4 \times 3} \times \frac{1}{2} = \frac{3}{10}\)
  • \(P(X=5)\): (1)에 의해 \(\frac{4}{10} = \frac{2}{5}\)
따라서 기댓값 \(E(X)\)는
\[E(X) = 2 \cdot \frac{1}{10} + 3 \cdot \frac{2}{10} + 4 \cdot \frac{3}{10} + 5 \cdot \frac{4}{10} = \frac{2 + 6 + 12 + 20}{10} = \frac{40}{10} = 4\]
(3) 검은 구슬 \(n\)개일 때 기댓값 \(E(Y)\) [15점]
전체 구슬은 흰 구슬 2개, 검은 구슬 \(n\)개로 총 \(n+2\)개이다. 확률변수 \(Y\)의 가능한 값은 \(2, 3, \dots, n+2\)이다.
\(Y=y\)이기 위해서는 \(y\)번째에 두 번째 흰 구슬이 나와야 하고, 1번째부터 \((y-1)\)번째까지 중에서 첫 번째 흰 구슬이 정확히 1번 나와야 한다.
첫 번째 흰 구슬이 나오는 위치를 선택하는 경우의 수는 \(y-1\)가지이다.
전체 \(n+2\)개 중 흰 구슬 2개의 위치를 임의로 고를 때, 두 번째 흰 구슬이 \(y\)번째에 위치하고 첫 번째 흰 구슬이 앞의 \(y-1\)개 중 하나에 위치할 확률은
\[P(Y=y) = \frac{(y-1) \times 1}{\binom{n+2}{2}} = \frac{y-1}{\frac{(n+2)(n+1)}{2}} = \frac{2(y-1)}{(n+1)(n+2)} \quad (y = 2, 3, \dots, n+2)\] 따라서 기댓값 \(E(Y)\)는 다음과 같다.
\[E(Y) = \sum_{y=2}^{n+2} y \cdot P(Y=y) = \frac{2}{(n+1)(n+2)} \sum_{y=2}^{n+2} y(y-1)\] \(k = y-1\)로 치환하면 \(y = k+1\)이고 \(k\)는 1부터 \(n+1\)까지 변하므로
\[\sum_{y=2}^{n+2} y(y-1) = \sum_{k=1}^{n+1} k(k+1) = \sum_{k=1}^{n+1} (k^2 + k) = \frac{(n+1)(n+2)(2n+3)}{6} + \frac{(n+1)(n+2)}{2} = \frac{(n+1)(n+2)(2n+6)}{6} = \frac{(n+1)(n+2)(n+3)}{3}\] 따라서 구하는 기댓값은
\[E(Y) = \frac{2}{(n+1)(n+2)} \cdot \frac{(n+1)(n+2)(n+3)}{3} = \frac{2(n+3)}{3} = \frac{2n+6}{3}\]

(1) 직사각형 \(T\)의 넓이 \(M\)을 \(a\)의 식으로 표현 [14점]
곡선 \(C: y = -x^2 + 6\)과 직선 \(\ell: y = -2x + 6\)의 교점은
\[-x^2 + 6 = -2x + 6 \iff x(x - 2) = 0 \implies x = 0, \; 2\] 조건을 만족하는 직사각형의 오른쪽 위 꼭짓점이 곡선 위의 점 \((a, -a^2 + 6)\)이므로, 직사각형이 영역 \(S\) 내부에 포함되기 위한 \(a\)의 범위는 \(0 < a < 2\)이다.
오른쪽 위 꼭짓점이 고정되었을 때 직사각형의 넓이가 최대가 되기 위해서는 그림과 같이 왼쪽 아래 꼭짓점이 직선 \(\ell: y = -2x + 6\) 위에 놓여야 한다.
왼쪽 아래 꼭짓점의 좌표를 \((x, -2x + 6)\)이라고 하자.
왼쪽 아래 꼭짓점은 오른쪽 위 꼭짓점보다 \(x, y\) 좌표가 모두 작아야 하므로
\[x < a \quad \text{이고} \quad -2x + 6 < -a^2 + 6 \implies 2x > a^2 \implies \frac{1}{2}a^2 < x < a\] 직사각형의 가로 길이는 \(a - x\), 세로 길이는 \((-a^2 + 6) - (-2x + 6) = -a^2 + 2x\)이다.
따라서 직사각형의 넓이를 \(x\)에 관한 함수 \(f(x)\)로 나타내면
\[f(x) = (a - x)(-a^2 + 2x) = -2x^2 + (a^2 + 2a)x - a^3\] 위 이차함수를 표준형으로 변형하면
\[f(x) = -2\left(x - \frac{a^2 + 2a}{4}\right)^2 + \frac{(a^2 + 2a)^2 - 8a^3}{8} = -2\left(x - \frac{a^2 + 2a}{4}\right)^2 + \frac{a^4 - 4a^3 + 4a^2}{8}\] \(0 < a < 2\)에서 \(\frac{1}{2}a^2 < \frac{a^2 + 2a}{4} < a\)가 항상 성립하므로 꼭짓점의 \(x\)좌표가 구간 내에 포함된다.
따라서 \(f(x)\)는 \(x = \frac{a^2 + 2a}{4}\)에서 최댓값을 가지며, 이때의 최댓값이 직사각형 \(T\)의 넓이 \(M\)이다.
\[M = \frac{a^4 - 4a^3 + 4a^2}{8} = \frac{1}{8}a^4 - \frac{1}{2}a^3 + \frac{1}{2}a^2\]
(2) 넓이 \(M\)이 최대가 되는 실수 \(a\)의 값 [6점]
\(M(a) = \frac{1}{8}a^4 - \frac{1}{2}a^3 + \frac{1}{2}a^2\)의 \(a\)에 대한 도함수를 구하면
\[M'(a) = \frac{1}{2}a^3 - \frac{3}{2}a^2 + a = \frac{1}{2}a(a^2 - 3a + 2) = \frac{1}{2}a(a - 1)(a - 2)\] 구간 \(0 < a < 2\)에서 \(M'(a) = 0\)을 만족하는 근은 \(a = 1\)뿐이다.
도함수의 부호를 판정하면 \(0 < a < 1\)에서 \(M'(a) > 0\) (증가), \(1 < a < 2\)에서 \(M'(a) < 0\) (감소)이다.
제시문의 최대·최소 정리에 의해, 열린구간 \((0, 2)\)에서 유일한 극댓값을 갖는 \(a = 1\)에서 \(M(a)\)는 최댓값을 갖는다.
따라서 넓이 \(M\)이 최대가 되는 실수 \(a\)의 값은 \(1\)이다. (참고: 이때의 최댓값은 \(M(1) = \frac{1}{8}\))

(1) \(P(X=2)\)의 계산:
처음 꺼낸 흰 공의 개수를 \(a\), 추가로 꺼낸 흰 공의 개수를 \(b\)라 하면 상자로 옮겨진 흰 공의 전체 개수 \(X\)는 \(a+b\)이다. 추가로 꺼내는 공의 개수가 \(a\)개이므로 \(b \le a\)이다. 따라서 \(a+b=2\)이고 \(b \le a\)를 만족하는 순서쌍 \((a, b)\)는 \((1, 1)\)과 \((2, 0)\)의 두 가지이다.
① \((a, b) = (1, 1)\)인 경우: \(a=1\)인 사건을 \(A\), \(b=1\)인 사건을 \(B\)라 할 때 제시문의 곱셈정리에 의해
\[P(A \cap B) = P(A)P(B|A) = \frac{_3C_1 \times _3C_1}{_6C_2} \times \frac{_2C_1}{_4C_1} = \frac{9}{15} \times \frac{2}{4} = \frac{3}{10}\]
② \((a, b) = (2, 0)\)인 경우: \(a=2\)인 사건을 \(A\), \(b=0\)인 사건을 \(B\)라 할 때
\[P(A \cap B) = P(A)P(B|A) = \frac{_3C_2}{_6C_2} \times \frac{_3C_2}{_4C_2} = \frac{3}{15} \times \frac{3}{6} = \frac{1}{10}\]
따라서 \(P(X=2) = \frac{3}{10} + \frac{1}{10} = \mathbf{\frac{2}{5}}\)이다.

(2) 확률변수 \(X\)의 평균과 분산:
가능한 모든 \((a, b)\)의 경우에 대하여 확률을 구하면 다음과 같다.
• \((a, b)=(0, 0) \implies X=0\): \(P = \frac{_3C_2}{_6C_2} = \frac{3}{15} = \frac{1}{5} = \frac{2}{10}\)
• \((a, b)=(1, 0) \implies X=1\): \(P = \frac{_3C_1 \times _3C_1}{_6C_2} \times \frac{_2C_1}{_4C_1} = \frac{3}{10}\)
• \(X=2\): 문항 (1)에 의해 \(P(X=2) = \frac{4}{10}\)
• \((a, b)=(2, 1) \implies X=3\): \(P = \frac{_3C_2}{_6C_2} \times \frac{_1C_1 \times _3C_1}{_4C_2} = \frac{3}{15} \times \frac{3}{6} = \frac{1}{10}\)
확률변수 \(X\)의 확률분포표는 다음과 같다.

\(X\)	0	1	2	3	합계
\(P(X=x)\)	\(\frac{1}{5}\)	\(\frac{3}{10}\)	\(\frac{2}{5}\)	\(\frac{1}{10}\)	1

따라서 \(X\)의 평균 \(E(X)\)와 제곱의 평균 \(E(X^2)\)은
\[E(X) = 0 \times \frac{1}{5} + 1 \times \frac{3}{10} + 2 \times \frac{2}{5} + 3 \times \frac{1}{10} = \frac{14}{10} = \mathbf{\frac{7}{5}}\]
\[E(X^2) = 0^2 \times \frac{1}{5} + 1^2 \times \frac{3}{10} + 2^2 \times \frac{2}{5} + 3^2 \times \frac{1}{10} = \frac{28}{10} = \frac{14}{5}\]
이므로 \(X\)의 분산 \(V(X)\)는 다음과 같다.
\[V(X) = E(X^2) - \{E(X)\}^2 = \frac{14}{5} - \left(\frac{7}{5}\right)^2 = \frac{70}{25} - \frac{49}{25} = \mathbf{\frac{21}{25}}\]

(1) 가장 큰 구 \(S_1\)의 반지름의 길이 \(r_1\):
세 점 \(P, Q, R\)를 지나는 평면을 \(\alpha\)라 하면 방정식은 \(x + \frac{y}{2} + \frac{z}{3} = 1 \iff 6x + 3y + 2z - 6 = 0\)이다. 입체도형 \(T\)의 네 면은 각각 \(xy\)평면, \(yz\)평면, \(zx\)평면 및 평면 \(\alpha\)에 포함된다. 따라서 가장 큰 구 \(S_1\)은 네 평면에 모두 접하는 내접구이다.
구 \(S_1\)의 반지름을 \(r_1\)이라 하면 세 좌표평면에 접하고 사면체 내부에 있으므로 중심은 \((r_1, r_1, r_1)\)이다.
중심에서 평면 \(\alpha\)까지의 거리는 반지름 \(r_1\)과 같으므로,
\[r_1 = \frac{|6r_1 + 3r_1 + 2r_1 - 6|}{\sqrt{6^2+3^2+2^2}} = \frac{|11r_1 - 6|}{7} \iff 7r_1 = |11r_1 - 6|\]
따라서 \(7r_1 = -(11r_1 - 6) \implies r_1 = \frac{1}{3}\) 또는 \(7r_1 = 11r_1 - 6 \implies r_1 = \frac{3}{2}\)이다.
평면 \(\alpha\)와 직선 \(x=y=z\)의 교점은 \(\left(\frac{6}{11}, \frac{6}{11}, \frac{6}{11}\right)\)이므로 중심이 사면체 내부에 있으려면 \(r_1 < \frac{6}{11}\)이어야 한다. 그러므로 \(\mathbf{r_1 = \frac{1}{3}}\)이다.

(2) 점 \(A\)를 지나는 가장 큰 구 \(S_2\)의 반지름 \(r_2\):
점 \(A\left(\frac{1}{2}, \frac{1}{3}, 1\right)\)은 \(6(1/2) + 3(1/3) + 2(1) = 6\)을 만족하므로 평면 \(\alpha\) 위의 점이다.
구 \(S_2\)는 점 \(A\)에서 평면 \(\alpha\)에 접해야 하므로 중심 \(C\)는 점 \(A\)를 지나고 법선벡터 \(\vec{n} = (6, 3, 2)\)에 평행한 직선 위에 놓인다.
\[C(a, b, c) = \left(\frac{1}{2}, \frac{1}{3}, 1\right) - t(6, 3, 2) = \left(\frac{1}{2}-6t, \frac{1}{3}-3t, 1-2t\right) \quad (t \ge 0)\]
구 \(S_2\)의 반지름은 \(r_2 = \overline{AC} = \sqrt{(-6t)^2+(-3t)^2+(-2t)^2} = 7t\)이다.
삼각형 \(PQR\)를 제외한 \(T\)의 세 면은 \(xy, yz, zx\)평면이므로 가장 큰 구 \(S_2\)는 적어도 한 평면에 접해야 한다. 중심 \(C\)와 평면 사이의 거리 \(d_1, d_2, d_3\)와 반지름이 일치하는 \(t\)를 구하면 다음과 같다.
• \(yz\)평면 접촉 (\(x=0\)): \(7t = \frac{1}{2} - 6t \implies 13t = \frac{1}{2} \implies t = \frac{1}{26}\)
• \(zx\)평면 접촉 (\(y=0\)): \(7t = \frac{1}{3} - 3t \implies 10t = \frac{1}{3} \implies t = \frac{1}{30}\)
• \(xy\)평면 접촉 (\(z=0\)): \(7t = 1 - 2t \implies 9t = 1 \implies t = \frac{1}{9}\)
구 \(S_2\)가 사면체 내부를 벗어나지 않으려면 \(t\)는 세 값 중 가장 작아야 하므로 \(t = \frac{1}{30}\)이다 (<그림 1> 참고). 따라서 구 \(S_2\)의 반지름의 길이는 \(r_2 = 7t = \mathbf{\frac{7}{30}}\)이다.

(1) 부분적분법을 이용한 \(A(\alpha)\) 도출:
제시문 [가]에 의하여 \(f'(x) = e^{-x^2}\)이다. 제시문 [나]의 부분적분법을 적용하면 다음과 같다.
\[A(\alpha) = \int_0^\alpha 1 \cdot f(x) dx = [x f(x)]_0^\alpha - \int_0^\alpha x f'(x) dx = \alpha f(\alpha) - \int_0^\alpha x e^{-x^2} dx\]
치환적분법을 위해 \(t = x^2\)으로 놓으면 \(\frac{dt}{dx} = 2x\)이므로,
\[\int_0^\alpha x e^{-x^2} dx = \frac{1}{2}\int_0^{\alpha^2} e^{-t} dt = \frac{1}{2}\left[-e^{-t}\right]_0^{\alpha^2} = \frac{1}{2}(1 - e^{-\alpha^2})\]
따라서 구하는 정적분은 \(\mathbf{A(\alpha) = \alpha f(\alpha) - \frac{1}{2}(1 - e^{-\alpha^2})}\)이다.

(2) 역함수의 정적분 \(B(\alpha)\) 도출:
함수 \(f(x)\)와 그 역함수 \(g(x)\)에 대하여 \(f(0)=0\)이므로, 원래 함수와 역함수의 정적분의 합은 직사각형의 넓이와 같다 (<그림 2> 참고).
\[\int_0^\alpha f(x) dx + \int_0^{f(\alpha)} g(x) dx = \alpha f(\alpha)\]
따라서 \(B(\alpha)\)는 다음과 같이 정리된다.
\[B(\alpha) = \alpha f(\alpha) - \int_0^\alpha f(x)dx = \alpha f(\alpha) - \left[ \alpha f(\alpha) - \frac{1}{2}(1 - e^{-\alpha^2}) \right] = \mathbf{\frac{1}{2}(1 - e^{-\alpha^2})}\]

(3) 극한값 \(\lim_{\alpha \to 0} \frac{A(\alpha)}{B(\alpha)}\)의 계산:
(1)과 (2)의 결과를 대입하면 다음과 같다.
\[\lim_{\alpha \to 0} \frac{A(\alpha)}{B(\alpha)} = \lim_{\alpha \to 0} \frac{\alpha f(\alpha) - \frac{1}{2}(1 - e^{-\alpha^2})}{\frac{1}{2}(1 - e^{-\alpha^2})} = \lim_{\alpha \to 0} \left( \frac{2\alpha f(\alpha)}{1 - e^{-\alpha^2}} - 1 \right)\]
분모와 분자를 \(\alpha^2\)으로 나누면,
\[= 2 \lim_{\alpha \to 0} \left( \frac{\frac{f(\alpha)}{\alpha}}{\frac{1 - e^{-\alpha^2}}{\alpha^2}} \right) - 1\]
\(f(0)=0\)이므로 \(\lim_{\alpha \to 0} \frac{f(\alpha)}{\alpha} = f'(0) = e^0 = 1\)이고, \(\lim_{u \to 0} \frac{1-e^{-u}}{u} = 1\)이므로,
\[\lim_{\alpha \to 0} \frac{A(\alpha)}{B(\alpha)} = 2 \times \frac{1}{1} - 1 = \mathbf{1}\]

(1) \(g(x) \ge 0\)이 성립하는 \(\alpha\)의 값의 범위:
제시문의 합성함수 미분법에 의하여 \(x > 0\)일 때 \(g'(x) = 2\alpha f(x)f'(x) = \frac{d}{dx}[\alpha \{f(x)\}^2]\)이므로 \(g(x) = \alpha \{f(x)\}^2 + C\)이다.
미분가능한 함수 \(g(x)\)는 \(x=0\)에서 연속이므로 조건 (ii)에 의해
\[5 - \alpha^3 = g(0) = \lim_{x \to 0^+} g(x) = \alpha \{f(0)\}^2 + C = C \implies C = 5 - \alpha^3 \quad (\because f(0)=0)\]
따라서 \(x > 0\)일 때 \(g(x) = \alpha \{f(x)\}^2 + (5 - \alpha^3)\)이다.
\(\alpha \ge 0\)이고 \(f(x)\)가 증가함수이므로 구간 \([0, 1]\)에서 \(g(x)\)는 증가함수이다. 또한 구간 \([-1, 0]\)에서 \(f(-x)\)는 감소함수이므로 \(\{f(-x)\}^2\)은 감소함수이고, \(-\{f(-x)\}^2\)은 증가함수이다. 따라서 구간 \([-1, 1]\) 전체에서 \(g(x)\)는 증가함수이므로 최솟값은 \(x=-1\)에서 달성된다.
\[g(x) \ge g(-1) = -\{f(1)\}^2 + 5 - \alpha^3 = -2^2 + 5 - \alpha^3 = 1 - \alpha^3\]
부등식 \(g(x) \ge 0\)이 성립하기 위한 필요충분조건은 \(1 - \alpha^3 \ge 0 \iff \alpha^3 \le 1\)이다. \(\alpha \ge 0\)이므로 \(\mathbf{0 \le \alpha \le 1}\)이다.

(2) 도형의 넓이를 최대로 하는 \(\alpha\)의 값:
\(0 \le \alpha \le 1\)에서 \(g(x) \ge 0\)이므로 둘러싸인 도형의 넓이 \(S(\alpha)\)는 정적분과 같다.
\[S(\alpha) = \int_{-1}^1 g(x) dx = \int_{-1}^0 [-\{f(-x)\}^2 + (5 - \alpha^3)] dx + \int_0^1 [\alpha \{f(x)\}^2 + (5 - \alpha^3)] dx\]
치환적분 \(t = -x\)에 의해 \(\int_{-1}^0 \{f(-x)\}^2 dx = \int_0^1 \{f(t)\}^2 dt = 3\)이므로,
\[S(\alpha) = -3 + (5 - \alpha^3) + 3\alpha + (5 - \alpha^3) = 7 + 3\alpha - 2\alpha^3\]
도함수를 구하면 \(S'(\alpha) = 3 - 6\alpha^2 = -6\left(\alpha^2 - \frac{1}{2}\right) = -6\left(\alpha - \frac{1}{\sqrt{2}}\right)\left(\alpha + \frac{1}{\sqrt{2}}\right)\)이다.
\(0 \le \alpha \le 1\)에서 \(S'(\alpha) = 0\)을 만족하는 값은 \(\alpha = \frac{1}{\sqrt{2}}\)뿐이다.
\(0 \le \alpha < \frac{1}{\sqrt{2}}\)에서 \(S'(\alpha) > 0\), \(\frac{1}{\sqrt{2}} < \alpha \le 1\)에서 \(S'(\alpha) < 0\)이므로 \(S(\alpha)\)는 \(\alpha = \frac{1}{\sqrt{2}}\)에서 극대이자 최대가 된다.
따라서 구하는 값은 \(\mathbf{\alpha = \frac{1}{\sqrt{2}} = \frac{\sqrt{2}}{2}}\)이다.