方針の立て方
実際に図形を描いて試してみると題意をつかみやすい．問題文の通りに考えると，「 $\alpha,\beta$ を決めると線分 $\mathrm{P}_1\mathrm{P}_2$ が決まり， $a$ を変数( $b$ は $a$ によって定まる)として $S\left(a,b\right)$ を考えることができる」ということである． $S\left(a,b\right)$ を考えるときには， $\alpha,\beta$ は定数扱いする．
(1)
$b$ は $a$ によって定まるので， $S\left(a,b\right)$ は実質 $a$ の一変数関数(2次関数)となる．後は2次関数の最大値問題を解く解法を取ればよい．
※ $M\left(\alpha,\beta\right)$ は，引数からも分かるように $\alpha,\beta$ の関数である．よって， $M\left(\alpha,\beta\right)$ について考えるときには，変数は $\alpha,\beta$ である．
(2)
まずは指定されている条件を $\alpha,\beta$ の式で書き直すこと．そうすれば，以下では $\alpha,\beta$ を変数で扱うと都合がいいことが分かる(書き直した条件： $\beta=\alpha+1$ より，実質変数は $\alpha$ のみとなる)．後は，存在範囲を考えれば良い．典型的な一文字固定法の考え方で解こうとすると， $-1\leqq k\leqq0$ と $0\leqq k\leqq1$ のときで場合分けが必要になることが分かる．後は，それぞれで場合分けをして考えていく．図形で考えたときに $S\left(a,b\right)$ がどういう意味を持つのかを考えよう．

解答例
(1)
線分 $\mathrm{P}_1\mathrm{P}_2:y=\left(\alpha+\beta\right)x-\alpha\beta$ ( $\alpha\leqq x\leqq\beta$ )
点 $\mathrm{P}\left(a,b\right)$ を代入して，
$b=\left(\alpha+\beta\right)a-\alpha\beta$ ( $\alpha\leqq a\leqq\beta$ )
$\therefore S\left(a,b\right)=b-a^2=\left(\alpha+\beta\right)a-\alpha\beta-a^2=-\left(a-\frac{\alpha+\beta}{2}\right)^2+\frac{\left(\beta-\alpha\right)^2}{4}\leqq\frac{\left(\beta-\alpha\right)^2}{4}$
等号成立は $a=\frac{\alpha+\beta}{2}$ のときであり，これは $\mathrm{P}_1$ と $\mathrm{P}_2$ の中点であり，適当である．
$\therefore M\left(\alpha,\beta\right)=\frac{\left(\beta-\alpha\right)^2}{4}$ ……(答)

(2)
ⅰ)を満たすには，
$\frac{\left(\beta-\alpha\right)^2}{4}=\frac{1}{4}$
であれば必要十分． $\beta-\alpha>0$ に注意して解くと，
$\beta-\alpha=1\Leftrightarrow\beta=\alpha+1$
ⅱ)を満たすには，
$\left|\alpha+\beta\right|\leqq1$
これらを図示すると，

つまり，
$\begin{cases} \beta=\alpha+1 \\ -1\leqq\alpha\leqq0 \end{cases}$
さて，考えている存在範囲の $x$ 座標の範囲は $-1\leqq\alpha\leqq x\leqq\beta=\alpha+1\leqq1$ より， $-1\leqq x\leqq1$ である．そこで，考えている存在範囲の $x=k\left(-1\leqq k\leqq1\right)$ での $y$ 座標の最大値と最小値の差を求める．これを求めるには， $\alpha,\beta$ を変数として， $S\left(k,b\right)$ の最大値と最小値を考えれば良い．ここで，
$S\left(k,b\right)=\left(\alpha+\beta\right)k-\alpha\beta-k^2=\left(2\alpha+1\right)k-\alpha\left(\alpha+1\right)-k^2=-\left(\alpha-\frac{2k-1}{2}\right)^2+\frac{1}{4}$
である．
・ $-1\leqq k\leqq0$ のとき
$-1\leqq\alpha\leqq k$ の範囲を考えれば必要十分．

※ $\frac{2k-1}{2}<k$ はいつでも成り立つ．
①の場合 $\left(\frac{2k-1}{2}\leqq-1\Leftrightarrow k\leqq-\frac{1}{2}\right)$
$0=\left.S\left(k,b\right)\right|_{\alpha=k}\leqq S\left(k,b\right)\leqq\left.S\left(a,b\right)\right|_{\alpha=-1}=-k^2-k$
②の場合 $\left(-1\leqq\frac{2k-1}{2}\Leftrightarrow-\frac{1}{2}\leqq k\right)$
$0=\left.S\left(k,b\right)\right|_{\alpha=k}\leqq S\left(k,b\right)\leqq\left.S\left(a,b\right)\right|_{\alpha=\frac{2k-1}{2}}=\frac{1}{4}$
・ $0\leqq k\leqq1$ のとき，
$k\leqq\beta\leqq1\Leftrightarrow k-1\leqq\alpha\leqq0$ の範囲を考えれば必要十分．

※ $k-1<\frac{2k-1}{2}$ はいつでも成り立つ．
①の場合 $\left(0\leqq\frac{2k-1}{2}\Leftrightarrow\frac{1}{2}\leqq k\right)$
$0=\left.S\left(k,b\right)\right|_{\alpha=k-1}\leqq S\left(k,b\right)\leqq\left.S\left(a,b\right)\right|_{\alpha=0}=-k^2+k$
②の場合 $\left(\frac{2k-1}{2}\leqq0\Leftrightarrow k\leqq\frac{1}{2}\right)$
$0=\left.S\left(k,b\right)\right|_{\alpha=k-1}\leqq S\left(k,b\right)\leqq\left.S\left(a,b\right)\right|_{\alpha=\frac{2k-1}{2}}=\frac{1}{4}$
以上より，求める面積は，
$\int_{-1}^{-\frac{1}{2}}\left(-k^2-k\right)dk+\int_{-\frac{1}{2}}^{0}\frac{1}{4}dk+\int_{0}^{\frac{1}{2}}\frac{1}{4}dk+\int_{\frac{1}{2}}^{1}\left(-k^2+k\right)dk=\left[-\frac{1}{3}k^3-\frac{1}{2}k^2\right]_{-1}^{-\frac{1}{2}}+\left[\frac{1}{4}k\right]_{-\frac{1}{2}}^0+\left[\frac{1}{4}k\right]_0^{\frac{1}{2}}+\left[-\frac{1}{3}k^3+\frac{1}{2}k^2\right]_{\frac{1}{2}}^1=\frac{5}{12}$ ……(答)