方針の立て方
(1)
具体的に題意を満たす場合を考えれば解答が得られる．

(2)
前問の解法を応用する．前問では，参加者の賞金額が0円，1円となるときを考え足し合わせたので，本問では，0円，1円，2円，……， $c$ 円を考え総和を取ればよい．あとは，その確率が0.5以上となるときを解析すれば解答にたどりつく．

(3)
期待値の定義に従って期待値を求めていく． $4\cdot{0.8}^{100}$ という具体的に数値を書き下すのは現実的に困難な値があるが，解答で求められているのが小数第1位までのため厳密な数値は必要ないと判断する．本解説ではその件を丁寧に論述したが，本番では途中経過は求められないため，直観的に ${0.8}^{100}$ は殆ど無視できると考え，4.0と即答してもよいだろう．

解答例
(57)(58)(59)……0.36
(60)(61)……03
(62)(63)(64)……04.0

解説
コインで裏が出る確率は $1-0.8=0.2$
(1)
・参加者の賞金額が0円となる確率
1回目で裏が出れば必要十分……0.2
・参加者の賞金額が1円となる確率
１回目で表を出し，2回目で裏が出れば必要十分…… $0.2\times0.8=0.16$
よって，求める確率は，
$0.2+0.16=0.36$ ……(答)

(2)
求める $c$ は100ではない．よって，以下では $0\leqq c\leqq99$ の範囲で考える．
参加者の賞金額が $n$ 円( $0\leqq n\leqq99$ )となる確率は， $n$ 回目まで表を出し， $n+1$ 回目で裏が出す確率と等しく， $0.2\times{0.8}^n$ ．
よって，賞金額が $c$ 円( $0\leqq c\leqq99$ )以下となる確率は，
$\sum_{n=0}^{c}\left(0.2\times{0.8}^n\right)=\frac{0.2\left(1-{0.8}^{c+1}\right)}{1-0.8}=1-{0.8}^{c+1}$
これが0.5以上となるのは， $1-{0.8}^{c+1}\geqq0.5\Leftrightarrow0.5\geqq{0.8}^{c+1}$ ．
${0.8}^3=0.512,{0.8}^4=0.4096$ より，上記不等式を満たす最小の $c$ は， $c+1=4\Leftrightarrow c=3$ ……(答)

(3)
参加者の賞金額が100円となる確率は100回表を出す確率と等しく ${0.8}^{100}$ ．
よって，期待値は，
$\sum_{n=0}^{99}{n\cdot\left(0.2\times{0.8}^n\right)}+100\cdot{0.8}^{100}=0.2\times\sum_{n=0}^{99}{n\cdot{0.8}^n}+100\cdot{0.8}^{100}$
ここで，
$\sum_{n=0}^{99}{n\cdot{0.8}^n}=1\cdot0.8+2\cdot{0.8}^2+3\cdot{0.8}^3+\cdots\cdots+99\cdot{0.8}^{99}$
$0.8\times\sum_{n=0}^{99}{n\cdot{0.8}^n}=1\cdot{0.8}^2+2\cdot{0.8}^3+3\cdot{0.8}^4+\cdots\cdots+99\cdot{0.8}^{100}$
より，両辺を引き算すると，
$0.2\times\sum_{n=0}^{99}{n\cdot{0.8}^n}=\left(0.8+{0.8}^2+{0.8}^3+{0.8}^4+\cdots\cdots+{0.8}^{99}\right)-99\cdot{0.8}^{100}=\frac{0.8\left(1-{0.8}^{99}\right)}{1-0.8}-99\cdot{0.8}^{100}=4-104\cdot{0.8}^{100}$
よって，期待値は，
$4-104\cdot{0.8}^{100}+100\cdot{0.8}^{100}=4-4\cdot{0.8}^{100}$
となる．これの小数点第2位以下を四捨五入するために $4\cdot{0.8}^{100}$ の値について考える．
まず， ${0.8}^4=0.4096<\frac{1}{2}$ より ${0.8}^{100}<\left(\frac{1}{2}\right)^{25}$
さらに， $\left(\frac{1}{2}\right)^{10}=\frac{1}{1024}<\frac{1}{1000}={10}^{-3}$ より， ${0.8}^{100}<\left(\frac{1}{2}\right)^{25}<\left(\frac{1}{2}\right)^{20}<{10}^{-6}$ となる．
$\therefore4-4\times{10}^{-6}<4-4\cdot{0.8}^{100}<4$
以上より，期待値の小数点第2位以下を四捨五入すると，4.0……(答)