【解説・採点基準付き】2025年佐賀大医学部・数学の解答・解説

1から6の目が1つずつ書いてあるが、 $k=1,\,2,\,3,\,4,\,5,\,6$ について、 $k$ の目が出る確率が、1の目が出る確率の $k$ 倍であるさいころを考える。次の問に答えよ。

(1) このさいころを1回投げたとき、3の目が出る確率を求めよ。

(2) $n$ を2以上の自然数とする。このさいころを $n$ 回投げたとき、3の目が2回以上出る確率を $n$ を用いて表せ。

(3) このさいころを2回投げて出る目の和が偶数になるとき、3の目が1回以上出る条件付き確率を求めよ。

(1)　配点 4点

1の目が出る確率を $p$ とおくと、 $k$ の目が出る確率は $kp$（ $k=1,\,2,\,\cdots,\,6$）。確率の和は1なので

$$p+2p+3p+4p+5p+6p=21p=1\qquad\therefore\ p=\dfrac{1}{21}$$

よって3の目が出る確率は

$$3p=\dfrac{3}{21}$$

答　$\dfrac{1}{7}$

(2)　配点 8点

1回投げたとき3の目が出る確率は $\dfrac{1}{7}$、出ない確率は $\dfrac{6}{7}$ で、何回目でも変わらない。余事象は「3の目が0回または1回」である。

・3の目が0回　$\left(\dfrac{6}{7}\right)^n$

・3の目がちょうど1回　3の目が何回目に出るかで $n$ 通りあるので $n\cdot\dfrac{1}{7}\left(\dfrac{6}{7}\right)^{n-1}={}_n\mathrm{C}_1\cdot\dfrac{1}{7}\left(\dfrac{6}{7}\right)^{n-1}$

2つは同時に起こらないので、求める確率は

$$1-\left(\dfrac{6}{7}\right)^n-n\cdot\dfrac{1}{7}\left(\dfrac{6}{7}\right)^{n-1}=1-\dfrac{6^n+n\cdot6^{n-1}}{7^n}=1-\dfrac{(n+6)\cdot6^{n-1}}{7^n}$$

答　$1-\dfrac{(n+6)\cdot6^{n-1}}{7^n}$

（ $n=2$ のとき $1-\dfrac{48}{49}=\dfrac{1}{49}$ で、「2回とも3」の確率 $\left(\dfrac{1}{7}\right)^2$ と一致する）

(3)　配点 8点

分母と分子を言葉にすると

・分母：2回投げて目の和が偶数

・分子：2回投げて目の和が偶数、かつ3の目が1回以上

和が偶数になるのは、2回とも奇数か、2回とも偶数のとき。3は奇数なので、分子は「2回とも奇数で、3の目が1回以上」と同じである。

1回投げて奇数（1、3、5）が出る確率は $\dfrac{1+3+5}{21}=\dfrac{3}{7}$、偶数（2、4、6）が出る確率は $1-\dfrac{3}{7}=\dfrac{4}{7}$。よって分母の確率は

$$\left(\dfrac{3}{7}\right)^2+\left(\dfrac{4}{7}\right)^2=\dfrac{9+16}{49}=\dfrac{25}{49}$$

1回投げて1か5が出る確率は $\dfrac{1+5}{21}=\dfrac{2}{7}$。2回とも奇数のうち、3の目が1回も出ないのは2回とも1か5のときなので、分子の確率は

$$\left(\dfrac{3}{7}\right)^2-\left(\dfrac{2}{7}\right)^2=\dfrac{9-4}{49}=\dfrac{5}{49}$$

よって求める条件付き確率は

$$\dfrac{\ \dfrac{5}{49}\ }{\dfrac{25}{49}}=\dfrac{5}{25}$$

答　$\dfrac{1}{5}$

別解（(3)：21面の多面体として数える）

(1) のように、1の目が1面、2の目が2面、…、6の目が6面ある21面の多面体と考え、面をすべて区別する。どの面も同じ確率で出る。確率は分母と分子の数え方がそろっていればよいので、2回の出方は $21^2$ 通りで、どれも同様に確からしい。奇数の面は $1+3+5=9$ 個、偶数の面は $2+4+6=12$ 個、1か5の面は6個なので

・分母（和が偶数）　$9^2+12^2=81+144=225$ 通り

・分子（2回とも奇数で、3の目が1回以上）　$9^2-6^2=81-36=45$ 通り

よって $\dfrac{45}{225}=\dfrac{1}{5}$。

$\mathrm{O}$ を原点とする座標空間上に3点 $\mathrm{A}(1,\,0,\,0)$、 $\mathrm{B}(0,\,2,\,0)$、 $\mathrm{C}(0,\,0,\,1)$ をとり、点 $\mathrm{C}$ を中心とする半径1の球面を $S$ とする。点 $\mathrm{P}$ が $S$ 上を動くとき、次の問に答えよ。

(1) 球面 $S$ の方程式を求めよ。

(2) 点 $\mathrm{Q}(a,\,b,\,c)$ は、点 $\mathrm{P}$ のとり方によらず、 $\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}-\overrightarrow{\mathrm{OQ}}\cdot\overrightarrow{\mathrm{CP}}=2$ を満たすとする。定数 $a$、 $b$、 $c$ の値を求めよ。

(3) 点 $\mathrm{P}$ が $S$ 上を動くときの、 $\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}$ と $\mathrm{AP}^2+\mathrm{BP}^2$ の最大値をそれぞれ求めよ。

(1)　配点 4点

中心 $\mathrm{C}(0,\,0,\,1)$、半径1なので

答　$x^2+y^2+(z-1)^2=1$

（展開すると $x^2+y^2+z^2=2z$。 $S$ は $xy$ 平面に原点 $\mathrm{O}$ で接している）

(2)　配点 8点

$\mathrm{P}(x,\,y,\,z)$ とおく。 $\mathrm{P}$ は $S$ 上にあるので、(1) より

$$x^2+y^2+z^2=2z\quad\cdots\text{①}$$

$\overrightarrow{\mathrm{AP}}=(x-1,\,y,\,z)$、 $\overrightarrow{\mathrm{BP}}=(x,\,y-2,\,z)$ なので、①を使うと

$$\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}=(x-1)x+y(y-2)+z^2=(x^2+y^2+z^2)-x-2y=-x-2y+2z$$

また $\overrightarrow{\mathrm{CP}}=(x,\,y,\,z-1)$ より $\overrightarrow{\mathrm{OQ}}\cdot\overrightarrow{\mathrm{CP}}=ax+by+c(z-1)$。よって与えられた条件は

$$(-1-a)x+(-2-b)y+(2-c)z+c-2=0\quad\cdots\text{②}$$

が $S$ 上のすべての点 $(x,\,y,\,z)$ で成り立つこと。

②が成り立つためには、 $S$ 上の点で成り立つことが必要である。

・$\mathrm{O}(0,\,0,\,0)$ は $S$ 上の点。代入すると $c-2=0$ より $c=2$

・$(1,\,0,\,1)$ は $S$ 上の点。 $c=2$ とあわせて代入すると $-1-a=0$ より $a=-1$

・$(0,\,1,\,1)$ は $S$ 上の点。 $c=2$ とあわせて代入すると $-2-b=0$ より $b=-2$

逆に $a=-1$、 $b=-2$、 $c=2$ のとき、②の左辺は $x$、 $y$、 $z$ によらず0になるので、どの $\mathrm{P}$ でも条件は成り立つ。

答　$a=-1$、 $b=-2$、 $c=2$

(2) の別解（ベクトルのまま計算する）

$\vec{p}=\overrightarrow{\mathrm{OP}}$、 $\vec{a}=\overrightarrow{\mathrm{OA}}$、 $\vec{b}=\overrightarrow{\mathrm{OB}}$、 $\vec{c}=\overrightarrow{\mathrm{OC}}$、 $\vec{q}=\overrightarrow{\mathrm{OQ}}$ とおく。 $|\vec{p}-\vec{c}|=1$、 $|\vec{c}|=1$ より $|\vec{p}|^2=2\vec{c}\cdot\vec{p}$。また $\vec{a}\cdot\vec{b}=0$ なので

$$\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}-\overrightarrow{\mathrm{OQ}}\cdot\overrightarrow{\mathrm{CP}}=|\vec{p}|^2-(\vec{a}+\vec{b})\cdot\vec{p}-\vec{q}\cdot\vec{p}+\vec{q}\cdot\vec{c}=(2\vec{c}-\vec{a}-\vec{b}-\vec{q})\cdot\vec{p}+\vec{q}\cdot\vec{c}$$

$\vec{u}=2\vec{c}-\vec{a}-\vec{b}-\vec{q}$ とおく。 $\mathrm{P}=\mathrm{O}$（ $\vec{p}=\vec{0}$）とすると $\vec{q}\cdot\vec{c}=2$ なので、条件は「 $\vec{u}\cdot\vec{p}=0$ がすべての $\mathrm{P}$ で成り立つ」こと。 $\vec{u}\neq\vec{0}$ と仮定し、 $\vec{p}=\vec{c}+\dfrac{\vec{u}}{|\vec{u}|}$、 $\vec{p}=\vec{c}-\dfrac{\vec{u}}{|\vec{u}|}$ の2点（どちらも $S$ 上）をとると、 $\vec{u}\cdot\vec{c}+|\vec{u}|=0$、 $\vec{u}\cdot\vec{c}-|\vec{u}|=0$。辺々引くと $|\vec{u}|=0$ となり矛盾。よって $\vec{u}=\vec{0}$、すなわち

$$\vec{q}=2\vec{c}-\vec{a}-\vec{b}=(-1,\,-2,\,2)$$

このとき $\vec{q}\cdot\vec{c}=2$ も成り立つ。（ $\vec{q}=2\left(\vec{c}-\dfrac{\vec{a}+\vec{b}}{2}\right)$ なので、辺 $\mathrm{AB}$ の中点を $\mathrm{M}$ とすると $\overrightarrow{\mathrm{OQ}}=2\overrightarrow{\mathrm{MC}}$ になっている）

(3)　配点 8点

(2) より、すべての $\mathrm{P}$ について

$$\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}=\overrightarrow{\mathrm{OQ}}\cdot\overrightarrow{\mathrm{CP}}+2,\qquad\overrightarrow{\mathrm{OQ}}=(-1,\,-2,\,2)$$

$|\overrightarrow{\mathrm{OQ}}|=\sqrt{1+4+4}=3$、また $\mathrm{P}$ は $S$ 上にあるので $|\overrightarrow{\mathrm{CP}}|=1$。

$\overrightarrow{\mathrm{OQ}}$ と $\overrightarrow{\mathrm{CP}}$ のなす角を $\theta$（ $0\leqq\theta\leqq\pi$）とすると

$$\overrightarrow{\mathrm{OQ}}\cdot\overrightarrow{\mathrm{CP}}=|\overrightarrow{\mathrm{OQ}}||\overrightarrow{\mathrm{CP}}|\cos\theta=3\cos\theta\leqq3$$

等号は $\theta=0$、すなわち $\overrightarrow{\mathrm{CP}}=\dfrac13\overrightarrow{\mathrm{OQ}}=\left(-\dfrac13,\,-\dfrac23,\,\dfrac23\right)$ のときで、このとき $\mathrm{P}\left(-\dfrac13,\,-\dfrac23,\,\dfrac53\right)$ は $\mathrm{CP}=1$ なので確かに $S$ 上の点である。

よって $\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}\leqq3+2=5$ で、等号は $\mathrm{P}\left(-\dfrac13,\,-\dfrac23,\,\dfrac53\right)$ のときに成り立つ。

答　$\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}$ の最大値 5

次に、点と点をつなぐと $\overrightarrow{\mathrm{AB}}=\overrightarrow{\mathrm{AP}}+\overrightarrow{\mathrm{PB}}=\overrightarrow{\mathrm{AP}}-\overrightarrow{\mathrm{BP}}$。両辺の大きさを2乗すると

$$|\overrightarrow{\mathrm{AB}}|^2=\mathrm{AP}^2-2\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}+\mathrm{BP}^2$$

$|\overrightarrow{\mathrm{AB}}|^2=1+4=5$ なので

$$\mathrm{AP}^2+\mathrm{BP}^2=5+2\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}\leqq5+2\cdot5=15$$

等号は同じく $\mathrm{P}\left(-\dfrac13,\,-\dfrac23,\,\dfrac53\right)$ のときに成り立つ。

答　$\mathrm{AP}^2+\mathrm{BP}^2$ の最大値 15

（どちらも $\mathrm{P}\left(-\dfrac13,\,-\dfrac23,\,\dfrac53\right)$ のとき）

(3) の別解（中点を使って平方完成し、球の中心と半径に注目する）

辺 $\mathrm{AB}$ の中点を $\mathrm{M}\left(\dfrac12,\,1,\,0\right)$ とする。 $\overrightarrow{\mathrm{OP}}$ を変数と見て平方完成すると（始点を $\mathrm{O}$ にそろえて $\vec{p}$、 $\vec{a}$、 $\vec{b}$ で書く）

$$\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{BP}}=(\vec{p}-\vec{a})\cdot(\vec{p}-\vec{b})=\left|\vec{p}-\dfrac{\vec{a}+\vec{b}}{2}\right|^2-\dfrac{|\vec{a}-\vec{b}|^2}{4}=\mathrm{MP}^2-\dfrac54$$

よって $\mathrm{MP}$ が最大のとき最大。 $\mathrm{MC}=\sqrt{\dfrac14+1+1}=\dfrac32$、 $\mathrm{CP}=1$ なので

$$\mathrm{MP}\leqq\mathrm{MC}+\mathrm{CP}=\dfrac32+1=\dfrac52$$

等号は $\mathrm{M}$、 $\mathrm{C}$、 $\mathrm{P}$ がこの順に一直線上にあるとき、すなわち $\mathrm{P}$ が直線 $\mathrm{MC}$ と $S$ の交点のうち $\mathrm{M}$ から遠い方のとき（ $\overrightarrow{\mathrm{CP}}=\dfrac23\overrightarrow{\mathrm{MC}}$ で、 $\mathrm{P}\left(-\dfrac13,\,-\dfrac23,\,\dfrac53\right)$）。よって最大値は $\left(\dfrac52\right)^2-\dfrac54=5$。

また $\mathrm{AP}^2+\mathrm{BP}^2=|\vec{p}-\vec{a}|^2+|\vec{p}-\vec{b}|^2=2\mathrm{MP}^2+\dfrac{\mathrm{AB}^2}{2}$（中線定理）なので、最大値は $2\cdot\dfrac{25}{4}+\dfrac52=15$。

（ $\overrightarrow{\mathrm{OQ}}=2\overrightarrow{\mathrm{MC}}$ なので、本解の「 $\overrightarrow{\mathrm{CP}}$ が $\overrightarrow{\mathrm{OQ}}$ と同じ向き」と、別解の「 $\mathrm{M}$、 $\mathrm{C}$、 $\mathrm{P}$ が一直線上」は同じ点を表している）

$n$ を0以上の整数とする。次の問に答えよ。

(1) 関数 $y=\dfrac{(\log x)^{n+1}}{x}\ (x>1)$ の極値を $n$ を用いて表せ。

(2) (1)の結果を用いて、 $\displaystyle\lim_{x\to\infty}\dfrac{(\log x)^n}{x}=0$ を示せ。

(3) 極限

$$I_n=\lim_{x\to\infty}\int_1^x\dfrac{(\log t)^n}{t^2}\,dt$$

について、 $I_n$ の漸化式を求め、 $I_n$ を $n$ を用いて表せ。

(1)　配点 6点

$$y’=\dfrac{(n+1)(\log x)^n\cdot\dfrac1x\cdot x-(\log x)^{n+1}}{x^2}=\dfrac{(\log x)^n(n+1-\log x)}{x^2}$$

$x>1$ のとき $\log x>0$ なので $\dfrac{(\log x)^n}{x^2}>0$。よって $y’$ の符号は $n+1-\log x$ の符号と一致し、 $1<x<e^{n+1}$ で正、 $x>e^{n+1}$ で負である（下の図で、直線 $y=n+1$ が曲線 $y=\log x$ より上にあるか下にあるか）。

$x=e^{n+1}$ のとき $y=\dfrac{(n+1)^{n+1}}{e^{n+1}}$ より、増減は次のようになる。

| $x$ | $1$ | $\cdots$ | $e^{n+1}$ | $\cdots$ |

|—|—|—|—|—|

| $y’$ | | $+$ | $0$ | $-$ |

| $y$ | | $\nearrow$ | $\left(\dfrac{n+1}{e}\right)^{n+1}$ | $\searrow$ |

（グラフの概形。 $x\to\infty$ で0に近づくことは (2) で示す）

答　$x=e^{n+1}$ で極大値 $\left(\dfrac{n+1}{e}\right)^{n+1}$（極小値はない）

(2)　配点 6点

$M=\left(\dfrac{n+1}{e}\right)^{n+1}$ とおく。(1) の増減表より、 $x>1$ で $\dfrac{(\log x)^{n+1}}{x}$ は $x=e^{n+1}$ のとき最大値 $M$ をとる。また $\log x>0$ より正なので

$$0<\dfrac{(\log x)^{n+1}}{x}\leqq M$$

各辺を $\log x\ (>0)$ で割ると

$$0<\dfrac{(\log x)^n}{x}\leqq\dfrac{M}{\log x}$$

$x\to\infty$ のとき $\log x\to\infty$ なので $\dfrac{M}{\log x}\to0$。よって、はさみうちの原理より

$$\lim_{x\to\infty}\dfrac{(\log x)^n}{x}=0$$

（終）

(3)　配点 8点

$J_n(x)=\displaystyle\int_1^x\dfrac{(\log t)^n}{t^2}\,dt\ (x>1)$ とおく。

$n=0$ のとき

$$J_0(x)=\int_1^x\dfrac{dt}{t^2}=\left[-\dfrac1t\right]_1^x=1-\dfrac1x\ \to\ 1\quad(x\to\infty)$$

より $I_0=1$。

$n\geqq1$ のとき、 $\dfrac{1}{t^2}=\left(-\dfrac1t\right)’$ を積分する方向で部分積分すると

$$J_n(x)=\left[-\dfrac{(\log t)^n}{t}\right]_1^x+\int_1^x\dfrac1t\cdot n(\log t)^{n-1}\cdot\dfrac1t\,dt=-\dfrac{(\log x)^n}{x}+nJ_{n-1}(x)$$

（ $t=1$ の端の項は $\log1=0$ より0）

$x\to\infty$ とすると、(2) より $\dfrac{(\log x)^n}{x}\to0$ である。よって $I_{n-1}$ が存在すれば $I_n$ も存在し

$$I_n=nI_{n-1}\quad(n\geqq1)$$

$I_0$ は存在するので、順に $I_1,\,I_2,\,\cdots$ も存在して、この漸化式がなりたつ。

答　$I_n=nI_{n-1}\ (n\geqq1)$、 $I_0=1$

漸化式を繰り返し用いると

$$I_n=nI_{n-1}=n(n-1)I_{n-2}=\cdots=n(n-1)\cdots2\cdot1\cdot I_0=n!$$

これは $n=0$ のときも $0!=1=I_0$ でなりたつ。

答　$I_n=n!$

（ $I_n$ は下の図の色をつけた部分、曲線 $y=\dfrac{(\log t)^n}{t^2}$ と $t$ 軸の $t\geqq1$ の部分にはさまれた部分の面積。図は $n=1$ の場合で、面積は $1!=1$）

(3) の別解（漸化式を定数数列にする）

$I_n=nI_{n-1}$ の両辺を $n!$ で割ると $\dfrac{I_n}{n!}=\dfrac{I_{n-1}}{(n-1)!}$。よって数列 $\left\{\dfrac{I_n}{n!}\right\}$ は定数数列で、 $\dfrac{I_n}{n!}=\dfrac{I_0}{0!}=1$ より $I_n=n!$。

（係数に $n$ が入る漸化式を、割って隣り合う項の形にそろえる解き方。この問題は繰り返し用いる方が速いので本解にした）

$\alpha=3+4i$ とし、複素数平面上で

$$z\overline{z}-\overline{\alpha}z-\alpha\overline{z}=0$$

を満たす点 $z$ 全体が表す図形を $C$ とする。次の問に答えよ。

(1) $C$ はどのような図形になるか。

(2) 原点と $C$ 上の3点が正方形の4つの頂点をなすとき、この3点を表す複素数をそれぞれ求めよ。

(3) $C$ 上の点 $z$ について、複素数平面上の3点 $0$、 $\alpha$、 $z$ が鈍角三角形の3つの頂点をなすとき、複素数 $z=a+bi$ の実部 $a$ がとる値の範囲を求めよ。

(1)　配点 5点

与えられた方程式の両辺に $\alpha\overline{\alpha}$ を足すと

$$z\overline{z}-\overline{\alpha}z-\alpha\overline{z}+\alpha\overline{\alpha}=\alpha\overline{\alpha}$$

$$(z-\alpha)(\overline{z}-\overline{\alpha})=\alpha\overline{\alpha}$$

$(z-\alpha)(\overline{z}-\overline{\alpha})=(z-\alpha)\overline{(z-\alpha)}=|z-\alpha|^2$、 $\alpha\overline{\alpha}=|\alpha|^2=3^2+4^2=25$ なので

$$|z-\alpha|^2=25\qquad\text{すなわち}\qquad|z-(3+4i)|=5$$

答　点 $3+4i$ を中心とする半径 $5$ の円（原点を通る）

(2)　配点 7点

$z=0$ は与えられた方程式を満たすので、原点 $\mathrm{O}$ は $C$ 上にある。 $\mathrm{A}(\alpha)$ とする。

正方形の4つの頂点（ $\mathrm{O}$ と $C$ 上の3点）はすべて $C$ 上にあるので、 $C$ は正方形の外接円であり、正方形の中心（対角線の交点）は $C$ の中心 $\mathrm{A}$ である。

よって残りの3頂点は、 $\overrightarrow{\mathrm{AO}}$ を $\mathrm{A}$ のまわりに $\dfrac{\pi}{2}$、 $\pi$、 $-\dfrac{\pi}{2}$ 回転した点である。 $\overrightarrow{\mathrm{AO}}$ を表す複素数は $0-\alpha=-\alpha$ で、 $\dfrac{\pi}{2}$、 $\pi$、 $-\dfrac{\pi}{2}$ 回転を表す複素数はそれぞれ $i$、 $-1$、 $-i$ なので、求める点を $w$ とすると

$$w-\alpha=-\alpha\cdot i,\qquad w-\alpha=-\alpha\cdot(-1),\qquad w-\alpha=-\alpha\cdot(-i)$$

よって

$$w=\alpha(1-i)=(3+4i)(1-i)=7+i$$

$$w=2\alpha=6+8i$$

$$w=\alpha(1+i)=(3+4i)(1+i)=-1+7i$$

答　$7+i$、 $6+8i$、 $-1+7i$

(3)　配点 8点

$\mathrm{O}(0)$、 $\mathrm{A}(\alpha)$、 $\mathrm{Z}(z)$ とする。3点が三角形の頂点をなすので、 $z\neq0$ で、 $\mathrm{O}$、 $\mathrm{A}$、 $\mathrm{Z}$ は一直線上にない。

(1) より $\mathrm{OA}=|\alpha|=5$、 $\mathrm{AZ}=|z-\alpha|=5$ なので、 $\triangle\mathrm{OAZ}$ は $\mathrm{OA}=\mathrm{AZ}$ の二等辺三角形である。底角 $\angle\mathrm{AOZ}=\angle\mathrm{AZO}$ は鋭角なので、鈍角になりうるのは $\angle\mathrm{OAZ}$ だけである。

$\angle\mathrm{OAZ}$ は、円 $C$ の中心 $\mathrm{A}$ から見た弦 $\mathrm{OZ}$ の中心角である。(2) の正方形の頂点のうち、 $7+i$、 $-1+7i$ は $\mathrm{A}$ から見て $\mathrm{O}$ と隣り合う頂点なので $\angle\mathrm{OAZ}=\dfrac{\pi}{2}$、向かいの頂点 $6+8i$（ $=2\alpha$）では $\angle\mathrm{OAZ}=\pi$ である。

$\mathrm{Z}$ が $\mathrm{O}$ から $C$ 上を反時計回りに動くと、 $\angle\mathrm{OAZ}$ は $0$ から大きくなり、 $7+i$ で $\dfrac{\pi}{2}$、 $6+8i$ で $\pi$ になる。その先は小さくなり、 $-1+7i$ で $\dfrac{\pi}{2}$ になって $\mathrm{O}$ に戻る。

よって $\angle\mathrm{OAZ}$ が鈍角になるのは、 $\mathrm{Z}$ が $7+i$ から $6+8i$ を通って $-1+7i$ に至る弧（両端を除く）の上にあるときである。

ただし、この弧の上の $6+8i$ は $\mathrm{O}$、 $\mathrm{A}$ と一直線上にあり、三角形にならないので除く。

弧の上で実部 $a$ は、 $7+i$ から $8+4i$（ $C$ 上で実部が最大の点）までは $7$ から $8$ まで増え、 $8+4i$ から $-1+7i$ までは $8$ から $-1$ まで減る。また、 $C$ 上で $a=6$ となる点は、 $(6-3)^2+(b-4)^2=25$ より $b=0,\ 8$ の $6$ と $6+8i$ で、 $6$ は $\mathrm{O}$ と $7+i$ の間にあって弧の上にない。よって $a=6$ となる点は除いた $6+8i$ だけで、 $a=6$ はとらない。

答　$-1<a<6,\ 6<a\leqq8$

別解（(3)：余弦定理で式にする）

余弦定理より $\angle\mathrm{OAZ}$ が鈍角 $\iff\mathrm{OZ}^2>\mathrm{OA}^2+\mathrm{AZ}^2\iff|z|^2>50$。 $z$ は $C$ 上にあるので $|z|^2=z\overline{z}=\overline{\alpha}z+\alpha\overline{z}$ で、右辺は $\overline{\alpha}z=(3a+4b)+(3b-4a)i$ の実部の2倍。よって $|z|^2=2(3a+4b)$ で、条件は $3a+4b>25$。直線 $3a+4b=25$ は $\mathrm{A}$ を通り、 $C$ と $7+i$、 $-1+7i$ で交わるので、条件を満たすのは原点と反対側の半円（両端を除く）で、本解と同じ弧になる。あとは $6+8i$ を除いて実部の範囲を読む。