함수 \(f(x)\)에 \(x=0\)을 대입하면, 조건 (가) \(f(-x)=-f(x)\)로부터 \(f(0) = -f(0)\)이므로 \(f(0) = 0\)이다.
한편, \(g(2) = \sin\pi = 0\)이므로 조건 (나)로부터 \(f(2) = g(2) = 0\)이다. 다시 조건 (가)를 적용하면 \(f(-2) = -f(2) = 0\)이다.
따라서 삼차함수 \(f(x)\)는 세 근 \(x = -2, 0, 2\)를 가지므로 \[ f(x) = ax(x-2)(x+2) \quad (a \ne 0\text{인 상수}) \] 임을 알 수 있다. 또한 \(g(1) = \sin\frac{\pi}{2} = 1\)이므로 조건 (나)로부터 \(f(1) = g(1) = 1\)이다.
\(f(1) = a(1)(-1)(3) = -3a = 1\) 이므로 \(a = -\frac{1}{3}\)이다.
따라서 구하는 삼차함수 \(f(x)\)는 \[ f(x) = -\frac{1}{3}x(x-2)(x+2) = -\frac{1}{3}x^3 + \frac{4}{3}x \quad \text{이다.} \]

함수 \(k(x) = \sin x\)는 \(0 \lt x \lt \frac{\pi}{2}\)인 모든 실수 \(x\)에 대하여 \(k''(x) = -\sin x < 0\)이므로 구간 \(\left[0, \frac{\pi}{2}\right]\)에서 위로 볼록이다.
함수 \(k(x)\)에 대하여 \(k(0) = 0\), \(k\left(\frac{\pi}{2}\right) = 1\)이므로, 원점 \((0, 0)\)과 점 \(\left(\frac{\pi}{2}, 1\right)\)을 잇는 선분 \(y = \frac{2}{\pi}x\)보다 곡선 \(y = k(x)\)의 그래프가 항상 위쪽에 위치한다.
따라서 \[ k(x) = \sin x > \frac{2}{\pi}x \quad \left(0 \lt x \lt \frac{\pi}{2}\right) \quad \cdots\cdots\text{①} \] 이 성립한다. 등호는 \(x = 0\) 및 \(x = \frac{\pi}{2}\)일 때 성립하므로, 결론적으로 \(0 \le x \le \frac{\pi}{2}\)인 모든 실수 \(x\)에 대하여 \(\sin x \ge \frac{2}{\pi}x\)이다.

함수 \(h(x) = f(x) - g(x)\)라 할 때, 도함수는 \(h'(x) = -x^2 + \frac{4}{3} - \frac{\pi}{2}\cos\frac{\pi}{2}x\)이다.
도함수 \(h'(x)\)에 대하여 \(h'(0) = \frac{4}{3} - \frac{\pi}{2} < 0\) (\(\pi \approx 3.1416\)이므로 \(\frac{\pi}{2} \approx 1.57 > 1.33\)), \(h'(1) = -1 + \frac{4}{3} - 0 = \frac{1}{3} > 0\)이다.
도함수 \(h'(x)\)가 닫힌구간 \([0, 1]\)에서 연속이므로 사잇값의 정리에 의해 \(h'(c) = 0\)인 \(c\)가 열린구간 \((0, 1)\)에 적어도 하나 존재한다.
한편, 식 ①에 \(x = \frac{\pi}{2}t\)를 대입하면 \(0 \lt t \lt 1\)인 모든 실수 \(t\)에 대하여 \(\sin\frac{\pi}{2}t > t\)이다. 문자 표기를 \(x\)로 바꾸면 \(0 \lt x \lt 1\)에서 \(\sin\frac{\pi}{2}x > x\)이다.
따라서 \(0 \lt x \lt 1\)인 모든 실수 \(x\)에 대하여 \[ h''(x) = -2x + \frac{\pi^2}{4}\sin\frac{\pi}{2}x > -2x + \frac{\pi^2}{4}x = \left(\frac{\pi^2}{4} - 2\right)x > 0 \quad (\because \pi^2 > 9.86 > 8) \] 이다. 그러므로 도함수 \(h'(x)\)는 열린구간 \((0, 1)\)에서 엄밀하게 증가하므로, \(h'(c) = 0\)을 만족시키는 \(c\)는 열린구간 \((0, 1)\)에 오직 하나 존재한다. 즉, \(f'(c) = g'(c)\)를 만족시키는 \(c\)가 열린구간 \((0, 1)\)에 오직 하나 존재한다.

문항 (3)의 결과로부터 도함수 \(h'(x)\)는 \(0 \le x < c\)에서 \(h'(x) < 0\)이고, \(c < x \le 1\)에서 \(h'(x) > 0\)이다.
따라서 함수 \(h(x)\)는 닫힌구간 \([0, c]\)에서 감소하고 닫힌구간 \([c, 1]\)에서 증가한다.
한편 \(h(0) = f(0) - g(0) = 0 - 0 = 0\)이고, \(h(1) = f(1) - g(1) = 1 - 1 = 0\)이다.
따라서 함수 \(h(x)\)는 최댓값이 \(0\)이므로, \(0 \le x \le 1\)인 모든 실수 \(x\)에 대하여 \(h(x) \le 0\)이다. 그러므로 \(f(x) \le g(x)\)가 성립한다.

다항식 \(Q(x) = (x-b_1)(x-b_2)\cdots(x-b_n)\)에 대하여 양변에 절댓값을 취하고 자연로그를 취하면 \[ \ln|Q(x)| = \ln|(x-b_1)(x-b_2)\cdots(x-b_n)| = \ln|x-b_1| + \ln|x-b_2| + \dots + \ln|x-b_n| \] 이다. 양변을 \(x\)에 대하여 미분하면 합성함수의 미분법(로그미분법)에 의하여 \[ \frac{Q'(x)}{Q(x)} = \frac{1}{x-b_1} + \frac{1}{x-b_2} + \dots + \frac{1}{x-b_n} = \sum_{k=1}^n \frac{1}{x-b_k} \] 이 성립한다. (단, \(x \ne b_k\))
[별해 (곱의 미분법)]: 다항식의 곱의 미분법에 의해 \[ Q'(x) = \sum_{k=1}^n (x-b_1)\cdots(x-b_{k-1})(x-b_{k+1})\cdots(x-b_n) \] 이므로, 양변을 \(Q(x) = \prod_{i=1}^n(x-b_i)\)로 나누면 각 항에서 \(\frac{1}{x-b_k}\)만 남아 동일하게 유도된다.

다항식 \(Q(x)\)의 도함수 \(Q'(x)\)는 다음과 같다: \[ Q'(x) = \sum_{j=1}^n \prod_{i \ne j} (x-b_i) \] \(Q'(x)\)의 각 항 중 \((x-b_k)\)를 인수로 포함하지 않는 유일한 항은 \(j=k\)일 때의 항, 즉 \[ (x-b_1)\cdots(x-b_{k-1})(x-b_{k+1})\cdots(x-b_n) \] 이며, 그 이외의 모든 항(\(j \ne k\))은 \((x-b_k)\)를 인수로 포함하고 있다.
따라서 \(Q'(x)\)에 \(x=b_k\)를 대입하면 \((x-b_k)\)를 인수로 갖는 항들은 모두 \(0\)이 되므로 \[ Q'(b_k) = (b_k - b_1)\cdots(b_k - b_{k-1})(b_k - b_{k+1})\cdots(b_k - b_n) = \prod_{i \ne k}(b_k - b_i) \] 이 된다. 조건 (라) \(b_1 \lt b_2 \lt \dots < b_n\)에 의하여 \(i \ne k\)이면 항상 \(b_k - b_i \ne 0\)이므로, 그 곱인 \(Q'(b_k) \ne 0\)이다.
한편, 문제에서 주어진 항등식 양변에 \(Q(x)\)를 곱하면 \[ P(x) = c_1 \prod_{i \ne 1}(x-b_i) + c_2 \prod_{i \ne 2}(x-b_i) + \dots + c_n \prod_{i \ne n}(x-b_i) \] 이다. 이 식에 \(x = b_k\)를 대입하면 \(i \ne k\)인 모든 항은 \((b_k - b_k) = 0\)이 되어 사라지므로 \[ P(b_k) = c_k \prod_{i \ne k}(b_k - b_i) = c_k \cdot Q'(b_k) \] 이 성립한다. 위에서 \(Q'(b_k) \ne 0\)임을 증명하였으므로 양변을 \(Q'(b_k)\)로 나누면 \(c_k = \frac{P(b_k)}{Q'(b_k)}\)가 성립한다.

주어진 분수식의 우변을 통분하면 공통분모는 \(Q(x) = (x-b_1)\cdots(x-b_n)\)이 되므로 \[ P(x) = c_1(x-b_2)\cdots(x-b_n) + c_2(x-b_1)(x-b_3)\cdots(x-b_n) + \dots + c_n(x-b_1)\cdots(x-b_{n-1}) \] 이다. 우변의 각 항은 모두 최고차항의 차수가 \(n-1\)이고 최고차항의 계수가 각각 \(c_1, c_2, \dots, c_n\)이다.
따라서 우변을 전개하여 정리하면 \[ P(x) = (c_1 + c_2 + \dots + c_n)x^{n-1} + R(x) \quad (\text{단, } R(x)\text{는 차수가 } n-2 \text{ 이하인 다항식}) \] 로 표현된다. 한편, 좌변은 \(P(x) = a_m x^m + a_{m-1}x^{m-1} + \dots + a_1 x + a_0\) (\(a_m \ne 0\))이며, 조건 (가)에 의해 \(m < n\)이다.
좌우변의 차수와 계수를 비교하면: 1. \(m = n-1\)일 때: 좌변의 최고차항 계수는 \(a_m\)이고 우변의 최고차항 \(x^{n-1}\)의 계수는 \(c_1 + \dots + c_n\)이므로 \(c_1 + \dots + c_n = a_m\)이다.
2. \(m < n-1\)일 때: 좌변 \(P(x)\)의 차수가 \(n-1\)보다 작으므로 우변의 \(x^{n-1}\)의 계수는 반드시 \(0\)이어야 한다. 따라서 \(c_1 + \dots + c_n = 0\)이다.
결론적으로 \[ c_1 + \dots + c_n = \begin{cases} 0 & (m < n-1) \\ a_m & (m = n-1) \end{cases} \quad \text{이 성립한다.} \]

닫힌구간 \([a, b]\)에서 정의된 연속함수 \(f(x)\)에 대하여 정적분으로 정의된 함수는 미분가능하며 \[ \frac{d}{dx}\int_a^x f(t)\,dt = f(x) \quad (a \lt x \lt b) \] 이다. \(-1 \lt x \lt 2\)인 모든 실수 \(x\)에 대하여 \(F(x) = \int_{-1}^x f(t)\,dt\)라 하면, 위 성질에 의해 함수 \(F(x)\)는 열린구간 \((-1, 2)\)에서 미분가능하고, 따라서 연속이다.
정적분의 성질에 의해 함수 \(H(x)\)를 \(F(x)\)로 표현하면 \[ H(x) = \int_0^x f(t)\,dt - \int_x^1 f(t)\,dt = \left( F(x) - \int_{-1}^0 f(t)\,dt \right) - \left( \int_{-1}^1 f(t)\,dt - F(x) \right) \] \[ = 2F(x) - \int_{-1}^0 f(t)\,dt - \int_{-1}^1 f(t)\,dt \] 이다. 여기서 정적분 상수들을 정리하면 \(H(x) = 2F(x) + A\) (상수) 꼴이다.
함수 \(F(x)\)가 열린구간 \((-1, 2)\)에서 연속이므로, 연속함수의 실수배와 상수의 합으로 정의된 함수 \(H(x)\)도 열린구간 \((-1, 2)\)에서 연속이다.

상수 \(A = -2\int_{-1}^0 f(t)\,dt - \int_0^1 f(t)\,dt\)에 대하여 \(H(x) = 2F(x) + A\)이다. \(\frac{d}{dx}(x) = 1\)이므로 부분적분법을 적용하면 \[ \int_0^1 H(x)\,dx = \int_0^1 1 \cdot (2F(x)+A)\,dx = [x(2F(x)+A)]_0^1 - \int_0^1 x \cdot 2F'(x)\,dx \] 이때 \(x=1\)을 대입하면 \(1 \cdot (2F(1)+A) = H(1) = \int_0^1 f(t)\,dt - \int_1^1 f(t)\,dt = \int_0^1 f(x)\,dx\)이고, \(x=0\)을 대입하면 \(0\)이다.
또한 \(F'(x) = f(x)\)이므로 \[ \int_0^1 H(x)\,dx = \int_0^1 f(x)\,dx - 2\int_0^1 x f(x)\,dx = \int_0^1 (1 - 2x)f(x)\,dx \quad \text{가 성립한다.} \]

주어진 조건 \(\int_0^1 f(x)\,dx = 2\int_0^1 xf(x)\,dx\)로부터 문항 (2)의 결과를 적용하면 \[ \int_0^1 H(x)\,dx = \int_0^1 f(x)\,dx - 2\int_0^1 xf(x)\,dx = 0 \] 이다. 이제 함수 \(G(x)\)를 닫힌구간 \([-1, 2]\)에서 \(G(x) = \int_{-1}^x H(t)\,dt\)라 정의하자.
함수 \(H(t)\)가 연속이므로 함수 \(G(x)\)는 열린구간 \((-1, 2)\)에서 미분가능하며 \(G'(x) = H(x)\)이다.
이때 \(G(1) - G(0) = \int_{-1}^1 H(t)\,dt - \int_{-1}^0 H(t)\,dt = \int_0^1 H(t)\,dt = 0\)이므로 \(G(0) = G(1)\)이다.
함수 \(G(x)\)는 닫힌구간 \([0, 1]\)에서 연속이고 열린구간 \((0, 1)\)에서 미분가능하며 \(G(0) = G(1)\)을 만족하므로, 롤의 정리(Rolle's Theorem)에 의하여 \(G'(c) = H(c) = 0\)인 \(c\)가 열린구간 \((0, 1)\)에 적어도 하나 존재한다.
\(H(c) = 0\)이므로 함수 \(H(x)\)의 정의에 의해 \[ \int_0^c f(t)\,dt - \int_c^1 f(t)\,dt = 0 \implies \int_0^c f(x)\,dx = \int_c^1 f(x)\,dx \quad \text{인 } c \in (0, 1)\text{가 적어도 하나 존재한다.} \]

1. (\(\implies\)): \(-1 \lt x \lt 2\)인 모든 실수 \(x\)에 대하여 \(f(x) = 0\)이면, 임의의 적분구간에서 \(f(x)\)의 정적분 값은 항상 \(0\)이다. 따라서 \(H(x) = \int_0^x 0\,dt - \int_x^1 0\,dt = 0\)이다.
2. (\(\impliedby\)): \(-1 \lt x \lt 2\)인 모든 실수 \(x\)에 대하여 \(H(x) = 0\)이면, \(H(x) = 2F(x) + A = 0\)이므로 \(F(x) = -\frac{A}{2}\)(상수함수)이다. 양변을 \(x\)에 대하여 미분하면 \(F'(x) = 0\)이다. 미적분학의 기본정리에 의해 \(F'(x) = f(x)\)이므로 모든 \(x \in (-1, 2)\)에서 \(f(x) = 0\)이다. 따라서 동치가 성립한다.

부분적분법을 활용하면 \[ \int_2^6 f(x)\cos\frac{\pi x}{4}\,dx = \frac{4}{\pi}\left[ f(x)\sin\frac{\pi x}{4} \right]_2^6 - \frac{4}{\pi}\int_2^6 f'(x)\sin\frac{\pi x}{4}\,dx \] 조건 (나)에서 \(f(x+4) = -f(x)\)이므로 \(f(6) = -f(2)\)이다. 따라서 \[ \left[ f(x)\sin\frac{\pi x}{4} \right]_2^6 = f(6)\sin\frac{3\pi}{2} - f(2)\sin\frac{\pi}{2} = -f(6) - f(2) = f(2) - f(2) = 0 \] 이다. 이제 남은 정적분에 다시 부분적분법을 적용하면 \[ \int_2^6 f(x)\cos\frac{\pi x}{4}\,dx = -\frac{4}{\pi}\left( -\frac{4}{\pi}\left[ f'(x)\cos\frac{\pi x}{4} \right]_2^6 + \frac{4}{\pi}\int_2^6 f''(x)\cos\frac{\pi x}{4}\,dx \right) \] 이때 \(\cos\frac{3\pi}{2} = 0, \cos\frac{\pi}{2} = 0\)이므로 경계값 항은 \(0\)이다. 조건 (가) \(\int_2^6 f''(x)\cos\frac{\pi x}{4}\,dx = -\frac{\pi^2}{16}\)을 대입하면 \[ \int_2^6 f(x)\cos\frac{\pi x}{4}\,dx = -\frac{4}{\pi}\left( 0 + \frac{4}{\pi}\left(-\frac{\pi^2}{16}\right) \right) = -\frac{4}{\pi}\left(-\frac{\pi}{4}\right) = 1 \quad \text{이다.} \]

함수 \(g(x) = f(x)\cos\frac{\pi x}{4}\)라 하면, \(x \ge 2\)인 모든 실수 \(x\)에 대해 \[ g(x+4) = f(x+4)\cos\left( \frac{\pi x}{4} + \pi \right) = (-f(x))\cdot\left(-\cos\frac{\pi x}{4}\right) = g(x) \quad \cdots\cdots\text{㉠} \] 이므로 주기 4의 주기함수이다. 문항 (1)에 의해 \(\int_2^6 g(x)\,dx = 1\)이다.
\(a_n = \int_0^{4n+2} g(x)\,dx\)에 대하여 \[ a_1 = \int_0^6 g(x)\,dx = \int_0^2 g(x)\,dx + \int_2^6 g(x)\,dx = \int_0^2 g(x)\,dx + 1 \] 이고, 인접한 두 항의 차는 \[ a_{n+1} - a_n = \int_{4n+2}^{4n+6} g(x)\,dx \] 이다. \(x = y + 4n\)으로 치환하면 ㉠과 문항 (1)에 의하여 \[ a_{n+1} - a_n = \int_2^6 g(y+4n)\,dy = \int_2^6 g(y)\,dy = 1 \] 이다. 따라서 수열 \(\{a_n\}\)은 첫째항이 \(\int_0^2 g(x)\,dx + 1\), 공차가 \(1\)인 등차수열이므로 \[ a_n = n + \int_0^2 g(x)\,dx \quad \cdots\cdots\text{㉡} \] 이다. 자연수 거듭제곱의 합 공식 \(\sum_{n=1}^m n = \frac{m(m+1)}{2}\)을 적용하면 \[ \lim_{m\to\infty} \frac{1}{m^2}\sum_{n=1}^m a_n = \lim_{m\to\infty}\left( \frac{m(m+1)}{2m^2} + \frac{1}{m}\int_0^2 g(x)\,dx \right) = \frac{1}{2} + 0 = \frac{1}{2} \quad \text{이다.} \]

양의 실수 \(x\)에 대해 \(\frac{x}{x+6} > 0\)이므로 \(f(x) > 0\)이다. 양변에 자연로그를 취하면 \[ g(x) = \ln f(x) = x\ln x - x\ln(x+6) \] 이 잘 정의된다. 조건에서 \(\lim_{x\to 0+} x^x = 1\)이고 \(x\ln x = \ln(x^x)\)이므로 \[ \lim_{x\to 0+} x\ln x = \ln 1 = 0 \] 이다. 또한 \(\lim_{x\to 0+} x\ln(x+6) = 0 \cdot \ln 6 = 0\)이다.
따라서 \(\lim_{x\to 0+} g(x) = 0 - 0 = 0\)이다. 지수함수 변환 \(f(x) = e^{g(x)}\)에 의해 \[ \lim_{x\to 0+} f(x) = e^{\lim_{x\to 0+} g(x)} = e^0 = 1 \quad \text{이다.} \] 한편, \(x \to \infty\)일 때의 극한은 자연상수 \(e\)의 정의를 활용하여 \[ \lim_{x\to\infty} f(x) = \lim_{x\to\infty} \left( \frac{x}{x+6} \right)^x = \lim_{x\to\infty} \left( \frac{1}{1 + \frac{6}{x}} \right)^x = \lim_{x\to\infty} \left[ \left( 1 + \frac{6}{x} \right)^{\frac{x}{6}} \right]^{-6} = \frac{1}{e^6} = e^{-6} \quad \text{이다.} \]

함수 \(g(x) = \ln f(x) = x\ln x - x\ln(x+6)\)이 양의 실수 전체의 집합에서 미분가능하므로 도함수를 구하면 \[ g'(x) = \ln x + x \cdot \frac{1}{x} - \ln(x+6) - x \cdot \frac{1}{x+6} = \ln\left(\frac{x}{x+6}\right) + 1 - \frac{x}{x+6} = \ln\left(1 - \frac{6}{x+6}\right) + \frac{6}{x+6} \] 이다. 여기서 보조함수 \(h(y) = \ln(1-y) + y\) (\(0 \le y < 1\))를 정의하면 \[ h'(y) = -\frac{1}{1-y} + 1 = \frac{-1 + (1-y)}{1-y} = -\frac{y}{1-y} = \frac{y}{y-1} \] 이다. \(0 \lt y \lt 1\)에서 \(y > 0\), \(1-y > 0\)이므로 \(h'(y) < 0\)이다. 따라서 함수 \(h(y)\)는 구간 \([0, 1)\)에서 엄밀하게 감소한다.
따라서 \(0 \lt y \lt 1\)인 모든 \(y\)에 대하여 \(h(y) < h(0) = \ln 1 + 0 = 0\)이다.
모든 양의 실수 \(x\)에 대하여 \(y = \frac{6}{x+6}\)이라 두면 항상 \(0 \lt y \lt 1\)이므로 \(g'(x) = h(y) < 0\)이다.
한편 \(g(x) = \ln f(x)\)에서 \(g'(x) = \frac{f'(x)}{f(x)}\)이고, \(f(x) > 0\)이므로 \[ f'(x) = f(x) g'(x) < 0 \] 이다. 도함수가 항상 음수이므로 함수 \(f(x)\)는 구간 \((0, \infty)\)에서 엄밀하게 감소한다.

함수값들을 구체적으로 계산하면 \[ f(1) = \left( \frac{1}{7} \right)^1 = \frac{1}{7}, \quad f(3) = \left( \frac{3}{9} \right)^3 = \left( \frac{1}{3} \right)^3 = \frac{1}{27} \] 이다. 대소관계를 비교하면 \[ f(1) = \frac{1}{7} > \frac{1}{15} > \frac{1}{27} = f(3) \] 이 성립한다. 함수 \(f(x)\)가 닫힌구간 \([1, 3]\)에서 연속이므로 사잇값의 정리에 의하여 \[ f(c) = \frac{1}{15} \] 를 만족시키는 실수 \(c\)가 열린구간 \((1, 3)\)에 적어도 하나 존재한다.
또한 문항 (2)에서 함수 \(f(x)\)가 구간 \((0, \infty)\)에서 엄밀하게 감소함을 증명하였으므로, 일대일 대응(단사성)에 의하여 \(f(c) = \frac{1}{15}\)을 만족시키는 양의 실수 \(c\)는 전체 정의역에서 오직 하나 존재한다.

집합 \(A\)가 나타내는 도형은 \(\frac{|x|}{a} + \frac{|y|}{b} = 1\)이며, \(x\)축과 \(y\)축에 대하여 대칭인 마름모이다. 집합 \(B\)도 \(|xy| = 3\)으로 두 축에 대해 대칭이다.
교점의 개수가 \(n(A \cap B) = 4\)이므로, 대칭성에 의해 제1사분면에서 직선 \(\frac{x}{a} + \frac{y}{b} = 1\)이 쌍곡선 \(y = \frac{3}{x}\)에 접해야 한다.
곡선 \(y = \frac{3}{x}\) 위의 점 \(\left(\alpha, \frac{3}{\alpha}\right)\) (\(\alpha > 0\))에서의 도함수는 \(y' = -\frac{3}{x^2}\)이므로 접선의 기울기는 \(-\frac{3}{\alpha^2}\)이다.
접선의 방정식은 \[ y - \frac{3}{\alpha} = -\frac{3}{\alpha^2}(x - \alpha) \implies y = -\frac{3}{\alpha^2}x + \frac{6}{\alpha} \] 이다. 양변을 정리하면 \(\frac{x}{2\alpha} + \frac{y}{6/\alpha} = 1\)이므로, \(x\)절편은 \(a = 2\alpha\), \(y\)절편은 \(b = \frac{6}{\alpha}\)이다.
마름모 \(A\)의 대각선 길이는 각각 \(2a, 2b\)이므로 구하는 넓이는 \[ S_A = \frac{1}{2}(2a \cdot 2b) = 2ab = 2\left(2\alpha \cdot \frac{6}{\alpha}\right) = 24 \] 이다. 따라서 집합 \(A\)의 넓이는 양수 \(a, b\)에 관계없이 항상 \(24\)로 일정하다.
또한 마름모의 한 변의 길이는 \(\sqrt{a^2 + b^2}\)이므로 둘레의 길이는 \(L = 4\sqrt{a^2 + b^2}\)이다.
\(ab = 12\)이므로 산술평균과 기하평균의 부등식에 의해 \[ a^2 + b^2 \ge 2\sqrt{a^2 b^2} = 2ab = 24 \quad (\text{등호는 } a = b = 2\sqrt{3}\text{일 때 성립}) \] 따라서 둘레의 길이의 최솟값은 \(4\sqrt{24} = 8\sqrt{6}\)이다.

자연수 \(k\)에 대하여 제1사분면에서 직선 \(\frac{x}{a} + \frac{y}{b} = 1\)이 곡선 \(y = \frac{3}{x^k}\)에 접하는 점을 \(\left(\alpha, \frac{3}{\alpha^k}\right)\) (\(\alpha > 0\))이라 하자.
도함수는 \(y' = -\frac{3k}{x^{k+1}}\)이므로 접선의 방정식은 \[ y - \frac{3}{\alpha^k} = -\frac{3k}{\alpha^{k+1}}(x - \alpha) \implies \frac{3k}{\alpha^{k+1}}x + y = \frac{3(k+1)}{\alpha^k} \] 양변을 나누어 표준형으로 바꾸면 \(x\)절편은 \(a = \frac{k+1}{k}\alpha\), \(y\)절편은 \(b = \frac{3(k+1)}{\alpha^k}\)이다.
마름모 \(A\)의 넓이는 \[ S_A = 2ab = 2\left( \frac{k+1}{k}\alpha \right)\left( \frac{3(k+1)}{\alpha^k} \right) = \frac{6(k+1)^2}{k \alpha^{k-1}} \] 이다. 한편 교점 집합 \(A \cap B\)의 4개 점은 대칭성에 의해 \(\left(\pm \alpha, \pm \frac{3}{\alpha^k}\right)\)이며, 이들을 꼭짓점으로 하는 직사각형의 넓이 \(S_R\)은 \[ S_R = (2\alpha)\left(2 \cdot \frac{3}{\alpha^k}\right) = \frac{12}{\alpha^{k-1}} \] 이다. 따라서 두 도형의 넓이의 비 \(h_k\)는 \[ h_k = \frac{S_A}{S_R} = \frac{\frac{6(k+1)^2}{k \alpha^{k-1}}}{\frac{12}{\alpha^{k-1}}} = \frac{6(k+1)^2}{12k} = \frac{(k+1)^2}{2k} \] 이다. 이 식에는 변수 \(a, b, \alpha\)가 완전히 소거되었으므로, \(h_k\)는 양수 \(a, b\)에 관계없이 일정하다.

문항 (2)에서 구한 \(h_k = \frac{(k+1)^2}{2k}\)를 급수의 일반항에 대입하면 \[ \frac{2k+1}{k^3 h_k} = \frac{2k+1}{k^3 \cdot \frac{(k+1)^2}{2k}} = \frac{2(2k+1)}{k^2(k+1)^2} \] 부분분수로 분해하면 \((k+1)^2 - k^2 = 2k+1\)이므로 \[ \frac{2(2k+1)}{k^2(k+1)^2} = 2\left( \frac{(k+1)^2 - k^2}{k^2(k+1)^2} \right) = 2\left( \frac{1}{k^2} - \frac{1}{(k+1)^2} \right) \] 이다. 따라서 구하는 무한급수의 값은 부분합의 극한(망원급수)에 의해 \[ \sum_{k=1}^\infty \frac{2k+1}{k^3 h_k} = 2\sum_{k=1}^\infty \left( \frac{1}{k^2} - \frac{1}{(k+1)^2} \right) = 2\lim_{n\to\infty}\left( \left(1 - \frac{1}{4}\right) + \left(\frac{1}{4} - \frac{1}{9}\right) + \dots + \left(\frac{1}{n^2} - \frac{1}{(n+1)^2}\right) \right) \] \[ = 2\left( 1 - \lim_{n\to\infty}\frac{1}{(n+1)^2} \right) = 2(1 - 0) = 2 \quad \text{이다.} \]

좌변의 정적분 \(\int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta\)에서 \(\theta = -t\)로 치환하면, \(d\theta = -dt\)이고 적분구간은 \(\theta = -\frac{\pi}{2} \to t = \frac{\pi}{2}\), \(\theta = \frac{\pi}{2} \to t = -\frac{\pi}{2}\)이다. 또한 \(\sin\theta = \sin(-t) = -\sin t\)이므로 \[ \int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta = \int_{\pi/2}^{-\pi/2} \ln(a^2 + 1 + 2a\sin t)\,(-dt) = \int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin t)\,dt \] 적분변수를 \(\theta\)로 바꾸어 표기하면 \[ \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta = \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta \] 가 성립한다.

(1)의 결과에 의해 좌변의 2배는 두 적분의 합으로 나타낼 수 있다: \[ 2\int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \int_{-\pi/2}^{\pi/2} \left[ \ln(a^2 + 1 + 2a\sin\theta) + \ln(a^2 + 1 - 2a\sin\theta) \right] d\theta \] 로그의 성질과 합차공식을 적용하면 피적분함수는 다음과 같이 전개된다: \[ \ln\left((a^2+1)^2 - 4a^2\sin^2\theta\right) = \ln\left(a^4 + 2a^2(1 - 2\sin^2\theta) + 1\right) = \ln\left(a^4 + 1 + 2a^2\cos 2\theta\right) \] \(t = 2\theta\)로 치환하면 \(d\theta = \frac{1}{2}dt\)이고 구간은 \([-\pi, \pi]\)이 되므로 \[ \int_{-\pi/2}^{\pi/2} \ln(a^4 + 1 + 2a^2\cos 2\theta)\,d\theta = \frac{1}{2}\int_{-\pi}^\pi \ln(a^4 + 1 + 2a^2\cos t)\,dt \] 피적분함수는 주기 \(2\pi\)인 함수이고, \(\cos t = \sin\left(t + \frac{\pi}{2}\right)\)의 주기적 평행이동에 의해 \([-\pi, \pi]\)에서의 적분은 \([-\pi/2, \pi/2]\)에서의 대칭 적분과 일치하여 \[ 2\int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^4 + 1 + 2a^2\sin\theta)\,d\theta \] 가 성립한다.

(i) \(n = 1\)일 때: (2)의 양변을 2로 나누면 \(\int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \frac{1}{2}\int_{-\pi/2}^{\pi/2} \ln(a^4 + 1 + 2a^2\sin\theta)\,d\theta\)이므로 \(a^{2^{1+1}} = a^4\), \(a^{2^1} = a^2\)가 성립하여 등식이 참이다.
(ii) \(n = k\)일 때 성립한다고 가정하면: \[ \int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \frac{1}{2^k}\int_{-\pi/2}^{\pi/2} \ln\left((a^{2^k})^2 + 1 + 2(a^{2^k})\sin\theta\right)d\theta \] 여기에 \(a^{2^k} = b\)라 두고 (2)의 결과를 적용하면 \[ \int_{-\pi/2}^{\pi/2} \ln(b^2 + 1 + 2b\sin\theta)\,d\theta = \frac{1}{2}\int_{-\pi/2}^{\pi/2} \ln(b^4 + 1 + 2b^2\sin\theta)\,d\theta = \frac{1}{2}\int_{-\pi/2}^{\pi/2} \ln(a^{2^{k+2}} + 1 + 2a^{2^{k+1}}\sin\theta)\,d\theta \] 따라서 \(\frac{1}{2^k} \times \frac{1}{2} = \frac{1}{2^{k+1}}\)이 되어 \(n = k+1\)일 때도 등식이 성립한다.
수학적 귀납법에 의해 모든 자연수 \(n\)에 대하여 등식이 성립한다.

모든 \(\theta \in [-\pi/2, \pi/2]\)에 대하여 \(-1 \le \sin\theta \le 1\)이므로, \(a^{2^n} > 0\)에 대하여 \[ a^{2^{n+1}} + 1 - 2a^{2^n} \le a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta \le a^{2^{n+1}} + 1 + 2a^{2^n} \] 즉, \((1 - a^{2^n})^2 \le a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta \le (1 + a^{2^n})^2\)이다. 양변에 자연로그를 취하면 \[ 2\ln(1 - a^{2^n}) \le \ln(a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta) \le 2\ln(1 + a^{2^n}) \] 구간 \([-\pi/2, \pi/2]\)의 길이는 \(\pi\)이므로, 정적분의 성질에 의해 \[ 2\pi\ln(1 - a^{2^n}) \le \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta)\,d\theta \le 2\pi\ln(1 + a^{2^n}) \] 이 성립한다.

(3)과 (4)의 부등식의 각 변을 \(2^n\)으로 나누면 \[ \frac{2\pi\ln(1 - a^{2^n})}{2^n} \le \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta \le \frac{2\pi\ln(1 + a^{2^n})}{2^n} \] \(-1 \lt a \lt 1\)이므로 \(n \to \infty\)일 때 \(a^{2^n} \to 0\)이고 \(\ln(1 \pm a^{2^n}) \to 0\)이다. 또한 \(\lim_{n\to\infty} 2^n = \infty\)이므로 \[ \lim_{n\to\infty} \frac{2\pi\ln(1 - a^{2^n})}{2^n} = 0, \quad \lim_{n\to\infty} \frac{2\pi\ln(1 + a^{2^n})}{2^n} = 0 \] 수열의 극한의 대소관계(조임정리)에 의해 구하는 정적분의 값은 \(\mathbf{0}\)이다.

함수 \(f(x) = x^2 e^x\)의 도함수를 곱의 미분법으로 구하면 \[ f'(x) = 2x e^x + x^2 e^x = x(x + 2)e^x \] 모든 실수 \(x\)에 대하여 \(e^x > 0\)이므로 \(f'(x) = 0\)의 실근은 \(x = -2\)와 \(x = 0\)이다.
- \(x < -2\)일 때 \(f'(x) > 0\)이므로 \(f(x)\)는 증가한다.
- \(-2 \lt x \lt 0\)일 때 \(f'(x) < 0\)이므로 \(f(x)\)는 감소한다.
- \(x > 0\)일 때 \(f'(x) > 0\)이므로 \(f(x)\)는 증가한다.
따라서 \(f(x)\)는 \(x = -2\)에서 극댓값 \(M = f(-2) = 4e^{-2}\)를 갖고, \(x = 0\)에서 극솟값 \(m = f(0) = 0\)을 갖는다.

각 정수에 대한 함숫값을 계산하면 \[ f(-3) = 9e^{-3}, \quad f(-2) = 4e^{-2}, \quad f(-1) = e^{-1}, \quad f(0) = 0, \quad f(1) = e, \quad f(2) = 4e^2 \] 대소 관계를 판정하기 위해 무리수 \(e\)의 범위 \(2.7 \lt e \lt 3\)을 적용한다:
1. \(f(0) = 0\)이 가장 작다 (\(x \ne 0\)일 때 항상 \(f(x) > 0\)).
2. 음의 정수들의 비교:
\(\frac{f(-1)}{f(-3)} = \frac{e^{-1}}{9e^{-3}} = \frac{e^2}{9}\)이다. \(e < 3\)이므로 \(e^2 < 9\)가 되어 \(\frac{e^2}{9} < 1 \implies f(-1) < f(-3)\).
\(\frac{f(-3)}{f(-2)} = \frac{9e^{-3}}{4e^{-2}} = \frac{9}{4e}\)이다. \(e > 2.7 = \frac{27}{10}\)이므로 \(4e > 10.8 > 9\)이다. 따라서 \(\frac{9}{4e} < 1 \implies f(-3) < f(-2)\).
3. 양의 정수들의 비교: \(f(-2) = 4e^{-2} < 4 \times (2.7)^{-2} < 1\)이고, \(f(1) = e > 2.7 > 1\), \(f(2) = 4e^2 > f(1)\)이다.
종합하면 구하는 함숫값의 크기순 나열은 다음과 같다: \[ \mathbf{f(0) < f(-1) < f(-3) < f(-2) < f(1) < f(2)} \quad \left(0 < e^{-1} < 9e^{-3} < 4e^{-2} \lt e \lt 4e^2\right) \]

부등식은 \(0 \le f(b) \le 4e^{-2}\)이다. 모든 실수 \(x\)에 대해 \(f(x) \ge 0\)이므로 \(f(b) \le 4e^{-2}\)인 정수 \(b\)를 구하면 된다.
- \(b \ge 1\)일 때: \(f(1) = e > 4e^{-2}\)이고 \(x \ge 1\)에서 \(f(x)\)는 순증가하므로 \(f(b) > 4e^{-2}\)가 되어 만족하는 정수가 없다.
- \(b = 0\)일 때: \(f(0) = 0 \le 4e^{-2}\)이므로 만족한다.
- \(b \le -1\)일 때: (1)에서 \(x = -2\)가 극대이므로 모든 \(x \le 0\)에서 \(0 \le f(x) \le f(-2) = 4e^{-2}\)이다.
따라서 모든 음의 정수 \(b = -1, -2, -3, \dots\)에 대하여 \(0 \le f(b) \le 4e^{-2}\)가 항상 성립한다.
결론적으로 구하는 정수 \(b\)는 \(\mathbf{b \le 0\text{인 모든 정수}}\) (\(b = 0, -1, -2, -3, \dots\))이다.

방정식 \(f(x) = k\) (\(k > 0\))의 교점을 양수 \(k\)의 값에 따라 분석한다:
1. \(0 \lt k \lt 4e^{-2}\)일 때: 곡선 \(y = f(x)\)와 직선 \(y = k\)는 서로 다른 세 점에서 만난다 (\(x_1 < -2\), \(-2 \lt x_2 \lt 0\), \(x_3 > 0\)).
이 세 실근이 모두 정수이려면 \(f(x_1) = f(x_2) = k\)를 만족하는 서로 다른 두 음의 정수 \(x_1, x_2\)가 존재해야 한다.
그러나 (2)에서 보았듯이 \(-2 \lt x_2 \lt 0\) 범위의 정수는 \(x_2 = -1\) 하나뿐이고, \(f(-1) = e^{-1}\)이다.
반면 \(x_1 < -2\)인 정수들에 대하여 \(f(-3) = 9e^{-3} \ne e^{-1}\), \(f(-4) = 16e^{-4} \ne e^{-1}\), \dots 이므로 \(f(x_1) = e^{-1}\)을 만족하는 정수 \(x_1\)은 존재하지 않는다. 따라서 세 실근이 모두 정수가 될 수 없다.
2. \(k = 4e^{-2}\)일 때: 실근은 \(x = -2\) (중근)와 양수 근 1개이다. \(f(1) = e > 4e^{-2}\)이므로 양수 근은 \(0 \lt x \lt 1\) 사이에 있어 정수가 아니다.
3. \(k > 4e^{-2}\)일 때: 오직 1개의 양의 실근만 갖는다. 이 실근이 정수가 되려면 \(x = 1, 2, 3, \dots\)이어야 한다.
이때 \(k = f(x)\)이므로 가능한 \(k\)의 값은 \(f(1) = e, f(2) = 4e^2, \dots\)이다.
따라서 구하는 양의 실수 \(k\)의 최솟값은 \(\mathbf{k = e}\)이다.

두 점 \(A(\sqrt{6}+\sqrt{2}, \sqrt{6}-\sqrt{2})\), \(B(\sqrt{6}-\sqrt{2}, \sqrt{6}+\sqrt{2})\)를 지나는 직선의 기울기는 \[ m = \frac{(\sqrt{6}+\sqrt{2}) - (\sqrt{6}-\sqrt{2})}{(\sqrt{6}-\sqrt{2}) - (\sqrt{6}+\sqrt{2})} = \frac{2\sqrt{2}}{-2\sqrt{2}} = -1 \] 점 \(A\)를 지나므로 직선의 방정식은 \[ y - (\sqrt{6}-\sqrt{2}) = -1\left(x - (\sqrt{6}+\sqrt{2})\right) \implies y = -x + 2\sqrt{6} \] 일반형으로 정리하면 \(\mathbf{x + y - 2\sqrt{6} = 0}\)이다.
[별해] 두 점 \(A, B\)는 직선 \(y = x\)에 대하여 대칭이므로, 직선 \(AB\)는 \(y = x\)에 수직이다. 따라서 기울기는 \(-1\)이고 \(y = -x + 2\sqrt{6}\)이 즉시 유도된다.

두 동경 \(OA, OB\)가 \(x\)축의 양의 방향과 이루는 각을 각각 \(\alpha, \beta\)라 하자.
\[ \tan\alpha = \frac{\sqrt{6}-\sqrt{2}}{\sqrt{6}+\sqrt{2}} = \frac{(\sqrt{6}-\sqrt{2})^2}{6-2} = \frac{8-4\sqrt{3}}{4} = 2 - \sqrt{3} \] \[ \tan\beta = \frac{\sqrt{6}+\sqrt{2}}{\sqrt{6}-\sqrt{2}} = \frac{(\sqrt{6}+\sqrt{2})^2}{6-2} = \frac{8+4\sqrt{3}}{4} = 2 + \sqrt{3} \] 탄젠트의 덧셈정리에 의해 두 동경 사이의 사잇각 \(\theta = \beta - \alpha\)에 대하여 \[ \tan(\beta - \alpha) = \frac{\tan\beta - \tan\alpha}{1 + \tan\beta\tan\alpha} = \frac{(2+\sqrt{3}) - (2-\sqrt{3})}{1 + (2+\sqrt{3})(2-\sqrt{3})} = \frac{2\sqrt{3}}{1 + (4-3)} = \frac{2\sqrt{3}}{2} = \sqrt{3} \] \(A, B\)는 제1사분면의 점이고 \(\beta > \alpha\)이므로 중심각은 \(\beta - \alpha = \frac{\pi}{3}\)이다.
원의 반지름은 \(r = \sqrt{16} = 4\)이므로, 구하는 호 \(AB\)의 길이는 \[ l = r\theta = 4 \times \frac{\pi}{3} = \mathbf{\frac{4\pi}{3}} \]

호 \(AB\)와 선분 \(AB\)로 둘러싸인 도형의 넓이 \(S_1\)은 부채꼴 \(OAB\)의 넓이에서 삼각형 \(OAB\)의 넓이를 뺀 활꼴의 넓이이다.
부채꼴의 넓이는 \(S_{\text{sector}} = \frac{1}{2} r^2 \theta = \frac{1}{2} \times 4^2 \times \frac{\pi}{3} = \frac{8\pi}{3}\)이고, 삼각형의 넓이는 \(S_{\triangle OAB} = \frac{1}{2} r^2 \sin\theta = \frac{1}{2} \times 16 \times \sin\frac{\pi}{3} = 4\sqrt{3}\)이다.
따라서 구하는 활꼴의 넓이는 \(\mathbf{S_1 = \frac{8\pi}{3} - 4\sqrt{3}}\)이다.

점 \(P(\cos\theta - 1, \sin\theta)\)는 중심이 \((-1, 0)\)이고 반지름이 \(1\)인 원 \(C_1: (x+1)^2 + y^2 = 1\) 위의 점이다.
도형의 넓이는 활꼴의 넓이와 삼각형 \(ABP\)의 넓이의 합 \(S(\theta) = S_1 + \text{Area}(\triangle ABP)\)이다.
선분 \(AB\)의 길이는 \(|AB| = \sqrt{(-2\sqrt{2})^2 + (2\sqrt{2})^2} = 4\)로 일정하므로 \(\text{Area}(\triangle ABP) = \frac{1}{2} \times 4 \times h = 2h\)이다. 즉 점 \(P\)에서 직선 \(x + y - 2\sqrt{6} = 0\)까지의 거리 \(h\)가 최대일 때 넓이가 최대가 된다.
원 중심 \((-1, 0)\)에서 직선까지의 거리는 \(d = \frac{|-1 + 0 - 2\sqrt{6}|}{\sqrt{1^2 + 1^2}} = \frac{2\sqrt{6} + 1}{\sqrt{2}} = 2\sqrt{3} + \frac{\sqrt{2}}{2}\)이다.
점 \(P\)가 원 중심에서 직선 반대 방향으로 반지름 \(1\)만큼 가장 멀 때 최대 거리 \(h_{\max} = d + 1\)이다.
따라서 삼각형 \(ABP\)의 최대 넓이는 \(\text{Area}(\triangle ABP)_{\max} = 2(d + 1) = 4\sqrt{3} + \sqrt{2} + 2\)이다.
그러므로 구하는 넓이 \(S(\theta)\)의 최댓값은 다음과 같다: \[ S(\theta)_{\max} = \left(\frac{8\pi}{3} - 4\sqrt{3}\right) + (4\sqrt{3} + \sqrt{2} + 2) = \mathbf{\frac{8\pi}{3} + \sqrt{2} + 2} \]

\(\int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta\)에서 \(\theta = -t\)로 치환하면 \(d\theta = -dt\)이고 적분구간은 \([\pi/2, -\pi/2]\)로 역전된다.
\(\sin(-t) = -\sin t\)이므로 \[ \int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta = \int_{\pi/2}^{-\pi/2} \ln(a^2 + 1 + 2a\sin t)\,(-dt) = \int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin t)\,dt \] 적분변수를 \(\theta\)로 바꾸면 \[ \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 - 2a\sin\theta)\,d\theta = \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta \] 가 성립한다.

(1)에 의해 \(2\int_{-\pi/2}^{\pi/2} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \int_{-\pi/2}^{\pi/2} \ln((a^2+1)^2 - 4a^2\sin^2\theta)\,d\theta\)이다.
\(1 - 2\sin^2\theta = \cos 2\theta\)이므로 피적분함수는 \(\ln(a^4 + 1 + 2a^2\cos 2\theta)\)가 된다.
\(t = 2\theta\) 치환 후 주기성에 의해 \(\cos t\)의 적분은 \(\sin\theta\)의 적분과 같으므로 \[ \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta = \frac{1}{2}\int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^4 + 1 + 2a^2\sin\theta)\,d\theta \] 가 성립한다. 이제 수학적 귀납법을 적용한다:
1. \(n = 1\)일 때 위 식에 의해 성립한다.
2. \(n = k\)일 때 \(\int_{-\pi/2}^{\pi/2} \ln(a^2+1+2a\sin\theta)d\theta = \frac{1}{2^k}\int_{-\pi/2}^{\pi/2} \ln(a^{2^{k+1}}+1+2a^{2^k}\sin\theta)d\theta\)가 성립한다고 가정하자.
\(a^{2^k} = b\)라 하면 우변의 적분은 \(\int_{-\pi/2}^{\pi/2} \ln(b^2+1+2b\sin\theta)d\theta = \frac{1}{2}\int_{-\pi/2}^{\pi/2} \ln(b^4+1+2b^2\sin\theta)d\theta = \frac{1}{2}\int_{-\pi/2}^{\pi/2} \ln(a^{2^{k+2}}+1+2a^{2^{k+1}}\sin\theta)d\theta\)이다.
따라서 \(n = k+1\)일 때도 계수가 \(\frac{1}{2^k} \times \frac{1}{2} = \frac{1}{2^{k+1}}\)이 되어 성립한다.
그러므로 모든 자연수 \(n\)에 대하여 등식이 성립한다.

모든 \(\theta \in [-\pi/2, \pi/2]\)에 대하여 \(-1 \le \sin\theta \le 1\)이고 \(a^{2^n} > 0\)이므로 \[ (1 - a^{2^n})^2 = a^{2^{n+1}} + 1 - 2a^{2^n} \le a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta \le a^{2^{n+1}} + 1 + 2a^{2^n} = (1 + a^{2^n})^2 \] 양변에 자연로그를 취하면 \[ 2\ln(1 - a^{2^n}) \le \ln(a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta) \le 2\ln(1 + a^{2^n}) \] 구간 \([-\pi/2, \pi/2]\)의 길이 \(\pi\)에 대하여 각 변을 정적분하면 \[ 2\pi\ln(1 - a^{2^n}) \le \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^{2^{n+1}} + 1 + 2a^{2^n}\sin\theta)\,d\theta \le 2\pi\ln(1 + a^{2^n}) \] 이 성립한다.

(2)와 (3)의 부등식을 결합하면 \[ \frac{2\pi\ln(1 - a^{2^n})}{2^n} \le \int_{-\frac{\pi}{2}}^{\frac{\pi}{2}} \ln(a^2 + 1 + 2a\sin\theta)\,d\theta \le \frac{2\pi\ln(1 + a^{2^n})}{2^n} \] \(-1 \lt a \lt 1\)이므로 \(n \to \infty\)일 때 \(a^{2^n} \to 0\)이고 \(\ln(1 \pm a^{2^n}) \to 0\)이다.
따라서 \(\lim_{n\to\infty} \frac{2\pi\ln(1 \pm a^{2^n})}{2^n} = 0\)이다.
수열의 극한의 대소관계(샌드위치 정리)에 의해 구하는 정적분의 값은 \(\mathbf{0}\)이다.

함수 \(f(x) = x^2 e^x\)의 도함수는 \(f'(x) = 2x e^x + x^2 e^x = x(x + 2)e^x\)이다.
모든 실수 \(x\)에서 \(e^x > 0\)이므로 \(f'(x) = 0\)의 근은 \(x = -2, 0\)이다.
- \(x < -2\): \(f'(x) > 0\) (증가)
- \(-2 \lt x \lt 0\): \(f'(x) < 0\) (감소)
- \(x > 0\): \(f'(x) > 0\) (증가)
따라서 함수 \(f(x)\)는 \(x = -2\)에서 극댓값 \(M = f(-2) = 4e^{-2}\)를 갖고, \(x = 0\)에서 극솟값 \(m = f(0) = 0\)을 갖는다.

함수 \(f(x) = x^2 e^x\)의 정의를 활용하여 주어진 두 부등식을 각각 해결한다:
(ㄱ) 부등식 \(f(a) < 4e^{-2} < f(a+1)\)의 정수 \(a\) 판정:
\(f(-2) = 4e^{-2}\)이므로 \(x \le 0\) 범위에서는 모든 \(x\)에 대해 \(f(x) \le 4e^{-2}\)이다. 따라서 \(f(a+1) > 4e^{-2}\)가 성립하려면 \(a+1 > 0 \implies a \ge 0\)이어야 한다.
\(a = 0\)일 때: \(f(0) = 0\), \(f(1) = e\)이다. \(2 < e\)이므로 \(4e^{-2} = \frac{4}{e^2} < \frac{4}{4} = 1 < e\)이다. 즉, \(0 < 4e^{-2} < e\)가 성립한다.
\(a \ge 1\)일 때: \(f(a) \ge f(1) = e > 4e^{-2}\)이므로 좌측 부등식을 만족하지 못한다. 따라서 구하는 정수 \(a\)는 \(\mathbf{a = 0}\)이다.
(ㄴ) 부등식 \(f(b) < e^{-1} < f(b+1)\)의 정수 \(b\) 판정:
곡선 \(y = f(x)\)와 직선 \(y = e^{-1}\)의 교점은 \(x < -2\), \(-2 \lt x \lt 0\), \(x > 0\) 세 영역에 각각 하나씩 존재한다.
- \(x > 0\) 영역: \(f(0) = 0 < e^{-1} < f(1) = e\)이므로 \(b = 0\)이 부등식을 만족한다.
- \(x < -2\) 영역: \(f(x)\)는 증가하므로 \(f(b) < e^{-1} < f(b+1)\)을 검토한다.
\(b = -4\)일 때: \(f(-4) = 16e^{-4}\), \(f(-3) = 9e^{-3}\)이다.
\(\frac{f(-4)}{e^{-1}} = \frac{16}{e^3} < \frac{16}{(2.7)^3} = \frac{16}{19.683} < 1 \implies f(-4) < e^{-1}\).
\(\frac{f(-3)}{e^{-1}} = \frac{9}{e^2} > \frac{9}{3^2} = 1 \implies e^{-1} < f(-3)\).
따라서 \(f(-4) < e^{-1} < f(-3)\)이 참이므로 \(b = -4\)가 성립한다.
종합하면 구하는 정수는 \(\mathbf{a = 0}\), \(\mathbf{b = -4 \text{ 또는 } b = 0}\)이다.

방정식 \(f(x) = k\) (\(k > 0\))의 실근의 개수는 \(k\)의 크기에 따라 분류된다:
1. \(0 \lt k \lt 4e^{-2}\)일 때: 직선 \(y = k\)는 서로 다른 세 실근 \(x_1 < -2 \lt x_2 \lt 0 < x_3\)을 갖는다.
이 세 실근이 모두 정수가 되려면 \(-2 \lt x_2 \lt 0\) 사이에 정수가 존재해야 하므로 반드시 \(x_2 = -1\)이어야 한다.
이때 \(k = f(-1) = e^{-1}\)이 된다.
하지만 (2)에서 보았듯이 \(e^{-1}\)을 함숫값으로 갖는 \(x < -2\)의 실근 \(x_1\)은 \(-4 \lt x_1 \lt -3\) 사이에 존재하므로 정수가 아니다.
따라서 \(0 \lt k \lt 4e^{-2}\) 범위에서는 모든 실근이 정수가 되는 \(k\)가 존재하지 않는다.
2. \(k = 4e^{-2}\)일 때: 실근은 \(x = -2\) (중근)와 \(0 \lt x_3 \lt 1\)인 양수 근 1개이다. 양수 근이 정수가 아니므로 불가하다.
3. \(k > 4e^{-2}\)일 때: \(x > 0\)에서 유일한 양의 실근을 갖는다.
이 실근이 정수가 되려면 \(x = 1, 2, 3, \dots\)이어야 하므로 가능한 \(k\)의 값은 \[ k = f(1) = e, \quad k = f(2) = 4e^2, \quad \dots \] 이다. 따라서 \(k\)의 최솟값은 \(\mathbf{k = e}\)이다.

두 점 \(A(2\sqrt{2}, 2\sqrt{2})\), \(B(\sqrt{6}-\sqrt{2}, \sqrt{6}+\sqrt{2})\)를 지나는 직선의 기울기는 \[ m = \frac{(\sqrt{6}+\sqrt{2}) - 2\sqrt{2}}{(\sqrt{6}-\sqrt{2}) - 2\sqrt{2}} = \frac{\sqrt{6}-\sqrt{2}}{\sqrt{6}-3\sqrt{2}} = \frac{\sqrt{2}(\sqrt{3}-1)}{\sqrt{2}(\sqrt{3}-3)} = \frac{\sqrt{3}-1}{\sqrt{3}(1-\sqrt{3})} = -\frac{1}{\sqrt{3}} \] 점 \(A(2\sqrt{2}, 2\sqrt{2})\)를 지나므로 구하는 직선의 방정식은 \[ y - 2\sqrt{2} = -\frac{1}{\sqrt{3}}(x - 2\sqrt{2}) \implies x + \sqrt{3}y - (2\sqrt{2} + 2\sqrt{6}) = 0 \] 이다.

두 선분 \(OA, OB\)가 \(x\)축의 양의 방향과 이루는 각을 각각 \(\alpha, \beta\)라 하자.
- 점 \(A(2\sqrt{2}, 2\sqrt{2})\)에 대하여 \(\tan\alpha = \frac{2\sqrt{2}}{2\sqrt{2}} = 1 \implies \alpha = \frac{\pi}{4}\).
- 점 \(B(\sqrt{6}-\sqrt{2}, \sqrt{6}+\sqrt{2})\)에 대하여 \(\tan\beta = \frac{\sqrt{6}+\sqrt{2}}{\sqrt{6}-\sqrt{2}} = 2 + \sqrt{3} \implies \beta = \frac{5\pi}{12}\).
탄젠트 덧셈정리에 의해 두 선분이 이루는 사잇각은 \[ \tan(\beta - \alpha) = \frac{\tan\beta - \tan\alpha}{1 + \tan\beta\tan\alpha} = \frac{(2+\sqrt{3}) - 1}{1 + (2+\sqrt{3}) \times 1} = \frac{1+\sqrt{3}}{3+\sqrt{3}} = \frac{1+\sqrt{3}}{\sqrt{3}(\sqrt{3}+1)} = \frac{1}{\sqrt{3}} \] 따라서 중심각은 \(\beta - \alpha = \frac{\pi}{6}\)이다.
원의 반지름은 \(r = \sqrt{16} = 4\)이므로, 구하는 호 \(AB\)의 길이는 \[ l = r\theta = 4 \times \frac{\pi}{6} = \mathbf{\frac{2\pi}{3}} \] 이다.

점 \(P(\cos\theta - 1, \sin\theta)\)는 중심이 \((-1, 0)\), 반지름이 \(1\)인 원 \(C: (x+1)^2 + y^2 = 1\) 위의 점이다.
호 \(AB\)와 두 선분 \(AP, BP\)로 둘러싸인 도형의 넓이 \(S(\theta)\)는 활꼴의 넓이 \(S_{\text{seg}}\)와 삼각형 \(ABP\)의 넓이의 합이다: \[ S(\theta) = S_{\text{seg}} + \text{Area}(\triangle ABP) \] 활꼴의 넓이는 고정되어 있으므로, \(S(\theta)\)의 최댓값 \(M\)과 최솟값 \(m\)의 차는 삼각형 \(ABP\)의 최대 넓이와 최소 넓이의 차와 같다.
현 \(AB\)의 길이는 제이코사인법칙 또는 삼각함수에 의해 \[ |AB| = \sqrt{4^2 + 4^2 - 2 \cdot 4 \cdot 4 \cos\frac{\pi}{6}} = \sqrt{32 - 16\sqrt{3}} = 2(\sqrt{6} - \sqrt{2}) \] 점 \(P\)에서 직선 \(x + \sqrt{3}y - (2\sqrt{2} + 2\sqrt{6}) = 0\)까지의 거리를 \(h\)라 하면, \(\text{Area}(\triangle ABP) = \frac{1}{2} |AB| h = (\sqrt{6}-\sqrt{2})h\)이다.
원 \(C\)의 중심 \((-1, 0)\)에서 직선까지의 거리 \(d\)는 \[ d = \frac{|-1 + 0 - (2\sqrt{2} + 2\sqrt{6})|}{\sqrt{1^2 + (\sqrt{3})^2}} = \frac{2\sqrt{6} + 2\sqrt{2} + 1}{2} \] 원 위의 점에서 직선까지의 최대 거리는 \(h_{\max} = d + 1\), 최소 거리는 \(h_{\min} = d - 1\)이다.
따라서 최대 넓이와 최소 넓이의 차는 \[ M - m = (\sqrt{6} - \sqrt{2})(h_{\max} - h_{\min}) = (\sqrt{6} - \sqrt{2}) \times 2 = 2(\sqrt{6} - \sqrt{2}) \] 구하고자 하는 값은 다음과 같다: \[ (M - m)^2 = \left[ 2(\sqrt{6} - \sqrt{2}) \right]^2 = 4(6 + 2 - 2\sqrt{12}) = 4(8 - 4\sqrt{3}) = \mathbf{32 - 16\sqrt{3}} \]

\(n = 0\)일 때 닫힌구간 \([0, 2]\)에서 함수 \(f(x)\)는 다음과 같다: \[ f(x) = 1 - |x - 1| = \begin{cases} x & (0 \le x \le 1) \\ 2 - x & (1 \le x \le 2) \end{cases} \] 직선 \(y = ax\) (\(0 \lt a \lt 1\))는 원점 \((0, 0)\)을 지나며, \(0 \le x \le 1\)에서 \(ax < x\)이므로 이 구간에서는 교점이 원점뿐이다.
따라서 두 번째 교점은 \(1 \le x \le 2\) 구간의 직선 \(y = 2 - x\)와의 연립에서 발생한다: \[ ax = 2 - x \implies (1 + a)x = 2 \implies x = \frac{2}{1 + a} \] 이때 \(y\)좌표는 \(y = a \cdot \frac{2}{1 + a} = \frac{2a}{1 + a}\)이다.
직선과 곡선 \(y = f(x)\)로 둘러싸인 도형은 세 꼭짓점 \((0, 0)\), \((1, 1)\), \(\left(\frac{2}{1+a}, \frac{2a}{1+a}\right)\)을 갖는 삼각형이다.
\(x = 1\)에서 두 함수의 세로 선분 길이는 \(1 - a\)이므로, 삼각형을 \(x = 1\)을 경계로 좌우로 분할하여 넓이를 계산하면 \[ S_0 = \frac{1}{2}(1 - a)(1 - 0) + \frac{1}{2}(1 - a)\left(\frac{2}{1+a} - 1\right) = \frac{1}{2}(1 - a) \times \frac{2}{1+a} = \mathbf{\frac{1 - a}{1 + a}} \]

닫힌구간 \([2n, 2n+2]\)에서 함수 \(f(x) = 1 - |x - 2n - 1|\)은 꼭짓점 \((2n+1, 1)\)을 갖고, 양 끝점 \((2n, 0)\), \((2n+2, 0)\)을 연결하는 산 모양의 꺾은선이다.
원점을 지나는 직선 \(y = ax\)가 이 구간에서 두 점에서 만나려면 다음 두 조건을 동시에 만족해야 한다:
1. 꼭짓점 \((2n+1, 1)\)의 아래를 지나야 하므로: \(a(2n+1) < 1 \implies a < \frac{1}{2n+1}\)
2. 오른쪽 끝점 \((2n+2, 0)\)의 위를 지나야 하므로: \(a(2n+2) > 0\)은 항상 성립하며, 이전 구간의 오른쪽 끝점 또는 시작점에서 만나지 않고 내부에서 2개 교점을 형성하려면 시작점 \((2n, 0)\)보다 위이고 \(x = 2n\)에서 \(ax > 0\)이다.
엄밀하게 직선이 감소 구간 \(y = -(x - 2n - 1) + 1 = 2n + 2 - x\)와 만나는 점의 좌표는 \[ ax = 2n + 2 - x \implies x_2 = \frac{2n + 2}{1 + a}, \quad y_2 = \frac{a(2n + 2)}{1 + a} \] 증가 구간 \(y = x - 2n\)과 만나는 점의 좌표는 \[ ax = x - 2n \implies x_1 = \frac{2n}{1 - a}, \quad y_1 = \frac{2na}{1 - a} \] 두 교점이 모두 구간 \([2n, 2n+2]\)에 존재하고 꼭짓점을 사이에 두어야 하므로 \(2n \lt x_1 \lt 2n+1 \lt x_2 \lt 2n+2\)가 성립한다.
\(x_1 < 2n+1 \iff \frac{2n}{1-a} < 2n+1 \iff 2n < 2n + 1 - a(2n+1) \iff a < \frac{1}{2n+1}\).
\(x_2 > 2n \iff \frac{2n+2}{1+a} > 2n+1 \iff 2n+2 > 2n + 1 + a(2n+1) \iff a < \frac{1}{2n+1}\),
동시에 \(x_1 > 2n\)은 \(a > 0\)일 때 항상 성립하고, 다음 산과의 교점 경계에 의해 구하는 \(a\)의 범위는 \(\mathbf{\frac{1}{2n+3} \lt a \lt \frac{1}{2n+1}}\)이다.
둘러싸인 삼각형의 밑변 높이를 산출하여 넓이를 계산하면 다음과 같다: \[ S_n = \frac{1}{2}(x_2 - x_1)[1 - a(2n+1)] = \mathbf{\frac{(1 - a - 2na)^2}{1 - a^2}} \]

직선 \(y = ax\)가 \([2n, 2n+2]\)에서 두 점에서 만나고, 다음 구간 \([2n+2, 2n+4]\)에서는 한 점에서 만나거나 만나지 않으려면 다음이 성립해야 한다:
- \([2n, 2n+2]\)에서 두 점 교점: \(a < \frac{1}{2n+1} \implies 2na + a < 1 \implies 2na < 1 - a \implies n < \frac{1 - a}{2a}\)
- \([2n+2, 2n+4]\)에서 한 점 또는 만나지 않음: \(a \ge \frac{1}{2(n+1)+1} = \frac{1}{2n+3} \implies 2na + 3a \ge 1 \implies n \ge \frac{1 - 3a}{2a}\)
따라서 자연수 \(n\)의 값의 범위는 \(\mathbf{\frac{1 - 3a}{2a} \le n < \frac{1 - a}{2a}}\)이다.
양변에 \(a > 0\)를 곱하면 \(\frac{1 - 3a}{2} \le na < \frac{1 - a}{2}\)이다.
\(\lim_{a \to 0^+} \frac{1 - 3a}{2} = \frac{1}{2}\), \(\lim_{a \to 0^+} \frac{1 - a}{2} = \frac{1}{2}\)이므로, 수열의 극한의 대소관계(조임정리)에 의해 \[ \lim_{a \to 0^+} na = \mathbf{\frac{1}{2}} \]

모든 \(k = 0, 1, \dots, n\)에 대하여 \(S_k = \frac{1}{1-a^2}[4a^2 k^2 - 4a(1-a)k + (1-a)^2]\)이다.
이를 합공식 \(\sum_{k=0}^n k = \frac{n(n+1)}{2}\), \(\sum_{k=0}^n k^2 = \frac{n(n+1)(2n+1)}{6}\)을 적용하여 정리하면 \[ \frac{1}{n}\sum_{k=0}^n S_k = \frac{n+1}{(1-a^2)n}\left[\frac{4}{3}a^2 n^2 + \frac{2}{3}(4a-3)an + (1-a)^2\right] = \frac{1}{1-a^2}\left(1 + \frac{1}{n}\right)\left[\frac{4}{3}(na)^2 + \frac{2}{3}(4a-3)(na) + (1-a)^2\right] \] 문항 (3)에서 \(\frac{1-3a}{2a} \le n \implies \frac{1}{n} \le \frac{2a}{1-3a}\)이므로 \(a \to 0^+\)일 때 \(\frac{1}{n} \to 0\)이다.
또한 \(\lim_{a \to 0^+} na = \frac{1}{2}\)을 대입하면 \[ \lim_{a \to 0^+} \frac{1}{n}\sum_{k=0}^n S_k = \frac{1}{1 - 0}(1 + 0)\left[\frac{4}{3}\left(\frac{1}{2}\right)^2 + \frac{2}{3}(0 - 3)\left(\frac{1}{2}\right) + (1 - 0)^2\right] = \frac{1}{3} - 1 + 1 = \mathbf{\frac{1}{3}} \]

함수 \(y = |x(x-2)|\)는 \(x < 0\) 또는 \(x > 2\)에서 \(y = x^2 - 2x\)이고, \(0 \le x \le 2\)에서 \(y = -x^2 + 2x\)이다.
기울기가 \(1\)인 직선 \(y = x + b\)의 \(y\)절편 \(b\)의 변화에 따른 교점 개수를 분석한다:
- \(b < -2\)일 때: 곡선과 만나지 않는다.
- \(b = -2\)일 때: 점 \((2, 0)\)을 지나며 한 점에서 만난다.
- \(-2 \lt b \lt 0\)일 때: 두 점에서 만난다.
- \(b = 0\)일 때: 점 \((0, 0)\), \((1, 1)\), \((2, 0)\)이 아니라, \(y = x\)와 곡선의 교점은 \((0, 0)\), \((1, 1)\), \((3, 3)\)의 서로 다른 세 점이다.
- \(b > 0\)일 때: 직선이 위로 볼록한 부분 \(y = -x^2 + 2x\) (\(0 \lt x \lt 2\))에 접할 때 세 점에서 만난다.
\(-x^2 + 2x = x + b \iff x^2 - x + b = 0\). 판별식 \(D = 1 - 4b = 0 \implies b = \frac{1}{4}\).
이때 접점은 \(x = \frac{1}{2} \in (0, 2)\)이므로 적합하다.
따라서 구하는 \(b\)의 값은 \(\mathbf{b = 0, \frac{1}{4}}\)이다.

\(m \ge 0, b > 0\)이면 직선 \(y = mx + b\)의 \(y\)절편이 양수이므로 원점 \((0, 0)\)이나 \((2, 0)\)을 지날 수 없다.
따라서 직선이 함수 \(y = |x(x-2)|\)의 그래프와 서로 다른 세 점에서 만나는 경우는 직선이 \(0 \lt x \lt 2\)에서 위로 볼록한 포물선 \(y = -x^2 + 2x\)에 접할 때뿐이다.
이차방정식 \(-x^2 + 2x = mx + b \iff x^2 + (m - 2)x + b = 0\)이 중근을 가져야 하므로 \[ D = (m - 2)^2 - 4b = 0 \implies b = \frac{1}{4}(m - 2)^2 \] 이때의 중근(접점의 \(x\)좌표)은 \(p = \frac{2 - m}{2} = 1 - \frac{m}{2}\)이다.
접점이 반드시 \(0 \lt x \lt 2\) 사이에 존재해야 하므로 \[ 0 < 1 - \frac{m}{2} < 2 \implies -1 < -\frac{m}{2} < 1 \implies -2 \lt m \lt 2 \] 조건에서 \(m \ge 0\)이므로 구하는 \(m\)의 범위는 \(\mathbf{0 \le m < 2}\)이고, 이때 \(\mathbf{b = \frac{1}{4}(m - 2)^2}\)이다.

문항 (2)에 의해 \(m \ge 0, b > 0\)에서 세 교점을 가질 때는 접할 때뿐이며 \(b = \frac{1}{4}(m-2)^2\) (\(0 \le m < 2\))이므로 \(0 < b \le 1\)이다.
세 교점 \(A(\alpha, m\alpha+b)\), \(B(p, mp+b)\), \(C(\beta, m\beta+b)\) (\(\alpha \lt p \lt \beta\))에 대하여 \(A, B\) 사이의 넓이를 \(S_1\), \(B, C\) 사이의 넓이를 \(S_2\)라 하자.
(i) \(b = 1\)일 때 (\(m = 0\)):
직선은 \(y = 1\)이며, 포물선의 꼭짓점 \((1, 1)\)에서 접한다 (\(p = 1\)).
함수 \(y = |x(x-2)|\)와 직선 \(y = 1\)은 대칭축 \(x = 1\)에 대하여 선대칭이다.
따라서 대칭축을 기준으로 좌우의 영역이 합동이므로 \(\mathbf{S_1 = S_2}\)가 성립한다.
(ii) \(0 \lt b \lt 1\)일 때 (\(m > 0\)):
직선과 \(y = -x(x-2)\)의 접점 \(p = 1 - \frac{m}{2}\)은 \(0 \lt p \lt 1\)을 만족한다.
\(x = \alpha\)에서 \(y = x^2 - 2x\)와 만나므로 \(1 - \sqrt{2} < \alpha \lt p \lt 1\)이다.
구간 \([\alpha, p]\)에서 직선과 곡선으로 둘러싸인 도형은 \([1-\sqrt{2}, 1]\)에서 \(y = 1\)과 곡선으로 둘러싸인 도형(넓이 \(S_0\))에 진부분집합으로 포함된다. 따라서 \(\mathbf{S_1 < S_0}\)이다.
반면 구간 \([p, \beta]\)에서 둘러싸인 도형은 \([1, 1+\sqrt{2}]\)에서 \(y = 1\)과 곡선으로 둘러싸인 도형(넓이 \(S_0' = S_0\))을 진부분집합으로 포함한다. 따라서 \(\mathbf{S_2 > S_0}\)이다.
그러므로 \(S_1 \lt S_0 \lt S_2\)가 되어 \(S_1 \ne S_2\)이다.
종합하면 두 넓이가 같아지는 실수 \(b\)의 값은 \(\mathbf{b = 1}\)뿐이다.

문제에서 제시된 넓이 \(\beta\)인 도형은 [그림 1]과 같이 반지름의 길이가 \(1\)이고 중심각의 크기가 \(\frac{\pi}{3}\)인 부채꼴에서 한 변의 길이가 \(1\)인 정삼각형(넓이 \(\alpha\))을 뺀 활꼴이다.
원 \(P_0\)은 중심이 \((0, 0)\)이고 반지름이 \(1\)인 원이다.
[그림 2]와 같이 원의 중심각 \(2\pi\)를 \(\frac{\pi}{3}\)씩 6등분하면, 원 \(P_0\)은 한 변의 길이가 \(1\)인 정삼각형 6개와 넓이가 \(\beta\)인 활꼴 6개로 빈틈없이 분할된다.
따라서 원 \(P_0\)의 넓이는 다음과 같다: \[ S_0 = 6\alpha + 6\beta \implies \mathbf{a_0 = 6, \quad b_0 = 6} \]

그림 \(P_1\)은 [그림 3]과 같이 원 \(P_0\)에 좌우로 [그림 4]와 같은 초승달 모양의 도형 2개를 더한 것이다.
[그림 4]의 도형은 [그림 5]와 같이 정삼각형 4개와 바깥쪽 활꼴 2개, 안쪽 오목 활꼴 2개로 분할된다.
[그림 6]처럼 넓이 \(\beta\)인 오목한 활꼴 2개를 반대편 빈 곳으로 평행이동하여 메우면, [그림 4]의 도형의 넓이는 정확히 한 변의 길이가 1인 정삼각형 4개의 넓이와 넓이 \(\beta\)인 활꼴 2개의 넓이의 합과 같다: \[ \text{Area}(\text{초승달}) = 4\alpha + 2\beta \] 문항 (1)에서 \(S_0 = 6\alpha + 6\beta\)이므로, \(P_1\)의 넓이 \(S_1\)은 \[ S_1 = S_0 + 2(4\alpha + 2\beta) = (6\alpha + 6\beta) + (8\alpha + 4\beta) = 14\alpha + 10\beta \] 따라서 구하는 자연수는 \(\mathbf{a_1 = 14, \quad b_1 = 10}\)이다.

자연수 \(n\)에 대하여 그림 \(P_n\)은 그림 \(P_{n-1}\)의 좌우 양 끝에 문항 (2)의 초승달 모양 도형 2개를 추가하여 얻어진다.
따라서 \(P_n\)의 넓이 \(S_n\)과 \(P_{n-1}\)의 넓이 \(S_{n-1}\)의 차는 항상 일정하다: \[ S_n - S_{n-1} = 2(4\alpha + 2\beta) = 8\alpha + 4\beta \quad (n \ge 1) \] 그러므로 계수 수열 \(\{a_n\}\)과 \(\{b_n\}\)은 각각 첫째항이 \(a_1 = 14\), \(b_1 = 10\)이고 공차가 각각 \(8\), \(4\)인 등차수열을 이룬다.
- \(a_n\)의 일반항: \(a_n = 14 + 8(n - 1) = 8n + 6\)
- \(b_n\)의 일반항: \(b_n = 10 + 4(n - 1) = 4n + 6\)
\(n = 2023\)을 대입하면 \[ a_{2023} = 8 \times 2023 + 6 = 16184 + 6 = \mathbf{16190} \] \[ b_{2023} = 4 \times 2023 + 6 = 8092 + 6 = \mathbf{8098} \]

함수 \(g(x) = f(x) - x\)라 정의하면, \[ g(x) = x^3 - px^2 + px - x = x^3 - px^2 + (p-1)x = x [x^2 - px + (p-1)] = x(x - 1)(x - (p-1)) \] 삼차방정식 \(g(x) = 0\)의 세 실근은 \(x = 0, \, p-1, \, 1\)이다.
문제의 조건에서 \(1 \lt p \lt 2\)이므로 각 변에서 1을 빼면 \(0 < p - 1 < 1\)이다.
따라서 세 실근의 대소관계는 \(0 < p - 1 < 1\)이다.
최고차항의 계수가 양수인 삼차함수 \(g(x)\)의 그래프 개형에 의하여, \[ 0 \lt x \lt p-1 \implies g(x) > 0 \iff f(x) > x \] \[ p-1 \lt x \lt 1 \implies g(x) < 0 \iff f(x) < x \] 따라서 구하는 실수의 값은 \(\mathbf{\beta = p - 1}\)이다.

모든 자연수 \(n\)에 대하여 명제 \(P(n): 0 \lt a_n \lt 1\)이 성립함을 수학적 귀납법으로 증명한다.
(i) \(n = 1\)일 때: 문제의 조건에서 \(0 \lt a_1 \lt 1\)이 주어졌으므로 명제 \(P(1)\)은 참이다.
(ii) \(n = k\)일 때: \(0 \lt a_k \lt 1\)이 성립한다고 가정하자.
함수 \(f(x) = x^3 - px^2 + px\)의 도함수를 구하면 \(f'(x) = 3x^2 - 2px + p\)이다.
이차방정식 \(3x^2 - 2px + p = 0\)의 판별식을 계산하면 \[ D/4 = (-p)^2 - 3 \cdot p = p(p - 3) \] \(1 \lt p \lt 2\)이므로 \(p > 0\)이고 \(p - 3 < 0\)이다. 따라서 \(D/4 < 0\)이다.
이차항의 계수가 \(3 > 0\)이고 판별식이 음수이므로, 모든 실수 \(x\)에 대하여 \(f'(x) > 0\)이다.
따라서 함수 \(f(x)\)는 전 구간 \((-\infty, \infty)\)에서 엄격히 단조증가한다.
함수값의 경계를 확인하면 \(f(0) = 0\), \(f(1) = 1^3 - p(1)^2 + p(1) = 1\)이다.
\(f(x)\)가 증가함수이므로 \(0 \lt x \lt 1\)일 때 \(f(0) < f(x) < f(1)\), 즉 \(0 < f(x) < 1\)이다.
귀납 가설에 의해 \(0 \lt a_k \lt 1\)이므로 \(0 < f(a_k) < 1\)이다.
수열의 점화식 \(a_{k+1} = f(a_k)\)에 의해 \(0 < a_{k+1} < 1\)이 성립하므로, \(n = k+1\)일 때도 명제가 참이다.
(i), (ii)에 의해 수학적 귀납법에 의하여 모든 자연수 \(n\)에 대하여 \(0 \lt a_n \lt 1\)이 성립한다.

문항 (1)에서 \(\beta = p - 1\)이고 \(0 < \beta < 1\)이다. \(a_1 \ne \beta\)이므로 다음 두 경우로 나뉜다.
(Case 1) \(0 \lt a_1 \lt \beta\)인 경우:
- \(n = 1\): \(0 \lt a_1 \lt \beta\)이므로 성립한다.
- \(n = k\)일 때 \(0 \lt a_k \lt \beta\)라 가정하면, \(f(x)\)가 증가함수이므로 \(f(0) < f(a_k) < f(\beta)\)이다.
이때 \(f(0) = 0\)이고, \(f(\beta) = f(p-1) = p - 1 = \beta\)이므로 \(0 < a_{k+1} < \beta\)가 성립한다.
따라서 수학적 귀납법에 의해 모든 자연수 \(n\)에 대하여 \(0 \lt a_n \lt \beta\)가 성립한다.
(Case 2) \(\beta \lt a_1 \lt 1\)인 경우:
- \(n = 1\): \(\beta \lt a_1 \lt 1\)이므로 성립한다.
- \(n = k\)일 때 \(\beta \lt a_k \lt 1\)이라 가정하면, \(f(x)\)의 증가성에 의해 \(f(\beta) < f(a_k) < f(1)\)이다.
\(f(\beta) = \beta\), \(f(1) = 1\)이므로 \(\beta < a_{k+1} < 1\)이 성립한다.
따라서 수학적 귀납법에 의해 모든 자연수 \(n\)에 대하여 \(\beta \lt a_n \lt 1\)이 성립한다.

문항 (3)의 결과에 따라 \(0 \lt a_1 \lt \beta\)인 경우와 \(\beta \lt a_1 \lt 1\)인 경우로 나누어 증명한다.
(Case 1) \(0 \lt a_1 \lt \beta\)인 경우:
문항 (3)의 결과에 의하여 모든 자연수 \(n\)에 대하여 \(0 \lt a_n \lt \beta\)가 성립한다.
문항 (1)의 결과에 의하여 \(0 \lt x \lt \beta\)일 때 \(f(x) > x\)이다.
따라서 \(x = a_n\)을 대입하면 \(f(a_n) > a_n\)이 성립하며, 점화식 \(a_{n+1} = f(a_n)\)에 의해 \[ a_{n+1} > a_n \] 이 모든 자연수 \(n\)에 대하여 성립한다 (즉, 수열 \(\{a_n\}\)은 엄격한 단조증가수열이다).
(Case 2) \(\beta \lt a_1 \lt 1\)인 경우:
문항 (3)의 결과에 의하여 모든 자연수 \(n\)에 대하여 \(\beta \lt a_n \lt 1\)이 성립한다.
문항 (1)의 결과에 의하여 \(\beta \lt x \lt 1\)일 때 \(f(x) < x\)이다.
따라서 \(x = a_n\)을 대입하면 \(f(a_n) < a_n\)이 성립하며, 점화식 \(a_{n+1} = f(a_n)\)에 의해 \[ a_{n+1} < a_n \] 이 모든 자연수 \(n\)에 대하여 성립한다 (즉, 수열 \(\{a_n\}\)은 엄격한 단조감소수열이다).

타원의 방정식 \(x^2 + 3y^2 = 3\)에 직선의 방정식 \(y = x + k\)를 대입하여 정리하면 \[ x^2 + 3(x + k)^2 = 3 \implies x^2 + 3(x^2 + 2kx + k^2) = 3 \] \[ 4x^2 + 6kx + 3(k^2 - 1) = 0 \] 타원과 직선이 서로 다른 두 점에서 만나려면 위 \(x\)에 대한 이차방정식이 서로 다른 두 실근을 가져야 하므로 판별식 \(D > 0\)이어야 한다. \[ D/4 = (3k)^2 - 4 \cdot 3(k^2 - 1) = 9k^2 - 12k^2 + 12 = -3k^2 + 12 = 3(4 - k^2) > 0 \] 따라서 \(4 - k^2 > 0 \implies k^2 < 4\)이므로 구하는 실수 \(k\)의 값의 범위는 \[ \mathbf{-2 \lt k \lt 2} \]

1단계: 점 \(P\)의 좌표 구하기
타원 위의 점 \(P\)에서의 접선의 기울기가 1이므로, 접선의 방정식을 \(y = x + k_0\)라 두면 판별식 \(D = 0\)일 때이다.
문항 (1)의 판별식 \(3(4 - k_0^2) = 0\)에서 \(k_0 = \pm 2\)이다.
이차방정식 \(4x^2 + 6k_0 x + 3(k_0^2 - 1) = 0\)에 대입하면: - \(k_0 = 2\)일 때: \(4x^2 + 12x + 9 = (2x + 3)^2 = 0 \implies x = -\frac{3}{2}\) (조건 불만족: \(x > 0\)) - \(k_0 = -2\)일 때: \(4x^2 - 12x + 9 = (2x - 3)^2 = 0 \implies x = \frac{3}{2} > 0\) (조건 만족)
이때 \(y = x - 2 = \frac{3}{2} - 2 = -\frac{1}{2}\)이므로 점 \(P\)의 좌표는 \(\mathbf{P\left(\frac{3}{2}, -\frac{1}{2}\right)}\)이다.
2단계: 선분 \(QR\)의 길이(밑변) 산출
\(4x^2 + 6kx + 3(k^2 - 1) = 0\)의 두 실근을 \(\alpha, \beta\) (\(\alpha < \beta\))라 하자.
근과 계수의 관계 또는 근의 공식에 의해 \[ \beta - \alpha = \frac{\sqrt{D}}{4} = \frac{\sqrt{12(4 - k^2)}}{4} = \frac{2\sqrt{3(4 - k^2)}}{4} = \frac{\sqrt{3(4 - k^2)}}{2} \] 두 점 \(Q, R\)을 지나는 직선 \(y = x + k\)의 기울기가 1이므로 선분 \(QR\)의 길이는 \[ |QR| = \sqrt{1^2 + 1^2} \cdot (\beta - \alpha) = \sqrt{2} \cdot \frac{\sqrt{3(4 - k^2)}}{2} \] 3단계: 점 \(P\)와 직선 사이의 거리(높이) 및 삼각형 넓이 산출
점 \(P\left(\frac{3}{2}, -\frac{1}{2}\right)\)와 직선 \(x - y + k = 0\) 사이의 거리 \(h\)는 \[ h = \frac{\left|\frac{3}{2} - \left(-\frac{1}{2}\right) + k\right|}{\sqrt{1^2 + (-1)^2}} = \frac{|k + 2|}{\sqrt{2}} \] \(-2 \lt k \lt 2\)이므로 \(k + 2 > 0\)이다. 따라서 \(h = \frac{k + 2}{\sqrt{2}}\)이다.
따라서 삼각형 \(PQR\)의 넓이 \(f(k)\)는 \[ f(k) = \frac{1}{2} \cdot |QR| \cdot h = \frac{1}{2} \cdot \left(\sqrt{2} \cdot \frac{\sqrt{3(4 - k^2)}}{2}\right) \cdot \frac{k + 2}{\sqrt{2}} = \mathbf{\frac{\sqrt{3}}{4}(k + 2)\sqrt{4 - k^2}} \quad (-2 \lt k \lt 2) \]

구간 \(-2 \lt k \lt 2\)에서 함수 \(g(k) = \{f(k)\}^2\)이라 정의하면 \[ g(k) = \left[\frac{\sqrt{3}}{4}(k + 2)\sqrt{4 - k^2}\right]^2 = \frac{3}{16}(k + 2)^2 (4 - k^2) = \frac{3}{16}(k + 2)^3 (2 - k) \] \(g(k)\)를 \(k\)에 대하여 미분하면 \[ g'(k) = \frac{3}{16} \left[ 3(k + 2)^2 (2 - k) + (k + 2)^3 (-1) \right] = \frac{3}{16}(k + 2)^2 \left[ 3(2 - k) - (k + 2) \right] \] \[ g'(k) = \frac{3}{16}(k + 2)^2 (6 - 3k - k - 2) = \frac{3}{16}(k + 2)^2 (4 - 4k) = \frac{3}{4}(k + 2)^2 (1 - k) \] \(-2 \lt k \lt 2\)에서 \((k + 2)^2 > 0\)이므로, 도함수 \(g'(k)\)의 부호는 오직 \((1 - k)\)에 의해 결정된다: - \(-2 \lt k \lt 1\)일 때: \(g'(k) > 0\)이므로 함수 \(g(k)\)는 증가한다. - \(k = 1\)일 때: \(g'(1) = 0\)이다. - \(1 \lt k \lt 2\)일 때: \(g'(k) < 0\)이므로 함수 \(g(k)\)는 감소한다.
따라서 함수 \(g(k) = \{f(k)\}^2\)은 \(k = 1\)에서 극대이자 유일한 최댓값을 갖는다.
구하는 최댓값을 계산하면 다음과 같다: \[ g(1) = \frac{3}{16}(1 + 2)^3 (2 - 1) = \frac{3}{16} \cdot 3^3 \cdot 1 = \frac{3 \cdot 27}{16} = \mathbf{\frac{81}{16}} \]

주어진 직선 \(l_1: y = \frac{4}{3}x + 8\)의 기울기는 \(\frac{4}{3}\)이다.
직선 \(l_1\)에 수직인 직선의 기울기는 두 기울기의 곱이 \(-1\)이어야 하므로 \(m = -\frac{3}{4}\)이다.
점 \((4, 5)\)를 지나고 기울기가 \(-\frac{3}{4}\)인 직선 \(l_2\)의 방정식은 \[ y - 5 = -\frac{3}{4}(x - 4) \implies y = -\frac{3}{4}x + 3 + 5 \implies y = -\frac{3}{4}x + 8 \] 수선의 발은 두 직선 \(l_1\)과 \(l_2\)의 교점이므로 연립하여 풀면 \[ \frac{4}{3}x + 8 = -\frac{3}{4}x + 8 \implies \left(\frac{4}{3} + \frac{3}{4}\right)x = 0 \implies x = 0 \] \(x = 0\)을 대입하면 \(y = 8\)이다.
따라서 구하는 수선의 발의 좌표는 \(\mathbf{(0, 8)}\)이다.

원의 방정식 \((x - s)^2 + (y - r)^2 = r^2\)은 중심이 \((s, r)\)이고 반지름이 \(r = f(s)\)이다.
원의 중심의 \(y\)좌표가 반지름 \(r\)과 같으므로, 이 원은 항상 \(x\)축(\(y = 0\))과 접하고 \(x\)축 위쪽(\(y > 0\))에 위치한다.
문항 (1)의 결과에서 점 \((4, 5)\)에서 직선 \(y = \frac{4}{3}x + 8\)에 내린 수선의 발은 \((0, 8)\)이며, 이 점은 함수 \(y = \frac{4}{3}|x| + 8\)의 그래프 위의 점이다.
점 \((4, 5)\)와 수선의 발 \((0, 8)\) 사이의 거리는 \(\sqrt{(4 - 0)^2 + (5 - 8)^2} = \sqrt{16 + 9} = 5\)이고, 점 \((4, 5)\)와 \(x\)축 사이의 거리도 \(5\)이다.
따라서 중심이 \((4, 5)\)이고 반지름이 5인 원은 \(x\)축과 접하고, 점 \((0, 8)\)에서 그래프와 오직 한 점에서 만난다. 즉, \(s = 4\)일 때 \(f(4) = 5\)이다.
\(s > 4\)일 때 \(x\)축에 접하는 원이 함수 \(y = \frac{4}{3}|x| + 8\) (\(x > 0\)에서 \(y = \frac{4}{3}x + 8\))의 그래프와 한 점에서 만나려면 직선 \(y = \frac{4}{3}x + 8\)에 접해야 한다.
직선 \(4x - 3y + 24 = 0\)과 원의 중심 \((s, f(s))\) 사이의 거리가 원의 반지름 \(f(s)\)와 같으므로, \[ \frac{|4s - 3f(s) + 24|}{\sqrt{4^2 + (-3)^2}} = f(s) \implies \frac{|4s - 3f(s) + 24|}{5} = f(s) \] \(s > 4\)에서 원의 중심은 직선 아래쪽에 위치하므로 \(4s - 3f(s) + 24 > 0\)이다.
따라서 절댓값을 풀면 \[ 4s - 3f(s) + 24 = 5f(s) \implies 8f(s) = 4s + 24 \implies f(s) = \frac{1}{2}s + 3 \] \(s = 4\)를 대입하면 \(f(4) = \frac{1}{2}(4) + 3 = 5\)로 연속이다.
따라서 \(s \ge 4\)일 때 구하는 함수는 \(\mathbf{f(s) = \frac{1}{2}s + 3}\)이다.

함수 \(y = \frac{4}{3}|x| + 8\)의 그래프는 꼭짓점 \((0, 8)\)에서 꺾이는 V자 형태이다.
\(x\)축에 접하는 원이 이 그래프와 한 점에서 만나려면 반직선 \(y = \frac{4}{3}x + 8\) (\(x > 0\)) 또는 \(y = -\frac{4}{3}x + 8\) (\(x < 0\))에 접하거나, 그래프의 꼭짓점 \((0, 8)\)을 지나야 한다.
\(s = 4\)일 때 원이 꼭짓점 \((0, 8)\)에서 접선과 만나고, 대칭성에 의해 \(s = -4\)일 때도 꼭짓점 \((0, 8)\)을 지난다.
따라서 \(-4 \lt s \lt 4\)이면 원 \((x - s)^2 + (y - r)^2 = r^2\)은 양쪽 반직선과 접할 수 없으며, 반드시 그래프의 꼭짓점 \((0, 8)\)을 지나야만 한 점에서 만난다.
원의 중심 \((s, f(s))\)에서 점 \((0, 8)\)까지의 거리가 원의 반지름 \(f(s)\)와 같아야 하므로: \[ \sqrt{(s - 0)^2 + (f(s) - 8)^2} = f(s) \] 양변을 제곱하여 정리하면: \[ s^2 + \{f(s)\}^2 - 16f(s) + 64 = \{f(s)\}^2 \] \[ 16f(s) = s^2 + 64 \implies \mathbf{f(s) = \frac{1}{16}s^2 + 4} \] [기하학적 별해 (포물선의 정의)]:
원의 중심 \((s, f(s))\)는 점 \((0, 8)\)까지의 거리와 \(x\)축(\(y = 0\))까지의 거리가 항상 같다.
이는 점 \((0, 8)\)을 초점으로 하고 직선 \(y = 0\)을 준선으로 하는 포물선의 자취이다.
초점과 준선 사이의 중점이 꼭짓점이므로 꼭짓점은 \((0, 4)\)이고, 초점거리 \(p = 4\)이다.
따라서 포물선의 방정식은 \(x^2 = 4 \cdot 4(y - 4) = 16(y - 4) \iff y = \frac{1}{16}x^2 + 4\)이므로, \(\mathbf{f(s) = \frac{1}{16}s^2 + 4}\)가 성립한다.