(1) 넓이의 최대·최소 (12점): 원의 중심 \((3, 4)\)에서 직선 \(3x + 4y + 10 = 0\)까지의 거리는 \(d = \dfrac{|9 + 16 + 10|}{5} = 7\)이고 반지름 \(r = 2\)이다 [5점].
따라서 높이는 최대 \(7 + 2 = 9\), 최소 \(7 - 2 = 5\)이므로 넓이의 최댓값은 \(\dfrac{1}{2}\cdot 6\cdot 9 = 27\), 최솟값은 \(\dfrac{1}{2}\cdot 6\cdot 5 = 15\)이다 [7점].
(2) \(\overline{\mathrm{OP}}^2\)의 최대·최소 합 (13점): 원점에서 중심까지의 거리는 \(5\)이므로 \(\overline{\mathrm{OP}}\)의 최댓값은 \(5 + 2 = 7\), 최솟값은 \(5 - 2 = 3\)이다. 따라서 제곱의 합은 \(7^2 + 3^2 = 58\)이다 [13점].
답: (1) 최댓값 \(27\), 최솟값 \(15\)    (2) \(58\)

(1) 기함수 항 제거 (10점): \(f(x)\)가 우함수이므로 \(3x f(x)\)는 기함수이다. 따라서 \(\int_{-1}^1 3x f(x)\,dx = 0\)이다 [10점].
(2) \(\int_0^1 f(x)\,dx\) 계산 (15점): \(x^2 f(x)\)와 \(2f(x)\)는 모두 우함수이므로 \[ 16 = 2\int_0^1 x^2 f(x)\,dx + 4\int_0^1 f(x)\,dx = 2(3) + 4\int_0^1 f(x)\,dx \implies \int_0^1 f(x)\,dx = \frac{10}{4} = \frac{5}{2} \quad [15\text{점}] \] 답: (1) \(0\)    (2) \(\dfrac{5}{2}\)

(1) 전체 넓이 (10점): 제시문 가)에 의해 \(S = \dfrac{1}{6}(4 - 0)^3 = \dfrac{32}{3}\)이다 [10점].
(2) 상수 \(m\) 도출 (15점): 곡선과 직선 \(y = mx\)의 교점은 \(x = 0, 4 - m\)이므로 둘러싸인 넓이는 \(\dfrac{1}{6}(4 - m)^3 = \dfrac{16}{3}\)이다 [8점].
따라서 \((4 - m)^3 = 32 \implies 4 - m = 2\sqrt[3]{4} \implies m = 4 - 2\sqrt[3]{4}\)이다 [7점].
답: (1) \(\dfrac{32}{3}\)    (2) \(m = 4 - 2\sqrt[3]{4}\)

(1) 공비 \(r\) 도출 (12점): \(b = ar,\ c = ar^2\) (\(r \ne 1, r > 0\))을 등차중항 식 \(4b = a + 3c\)에 대입하면 \(3r^2 - 4r + 1 = (3r - 1)(r - 1) = 0\)이므로 \(r = \dfrac{1}{3}\)이다 [12점].
(2) \(a, b, c\) 계산 (13점): \(a\left(1 + \dfrac{1}{3} + \dfrac{1}{9}\right) = \dfrac{13}{9}a = 26 \implies a = 18\)이고, 따라서 \(b = 6,\ c = 2\)이다 [13점].
답: (1) \(r = \dfrac{1}{3}\)    (2) \(a = 18,\ b = 6,\ c = 2\)