完全には解けてないですが、とりあえず分かるところまで提出してみた

（追記）なるほど確かに。ご指摘ありがとうございます。また考えてみます。

これですか？

ここで力尽きました

漸化式書き間違えてますね

今度はどうでしょう

もっといいやり方があるかな

前回提出時は適切な指摘ありがとうございました
今度は解けた ・・・と思うけど、どうでしょう？

現実世界の積層膜は、屈折率の低い空気側から、屈折率のより高い膜内に入るときと、その逆（出るとき）で、反射率は違うし、膜と膜の界面は、密着させるほど反射率が低くなりそうだし、干渉が起きると波長によって反射率が変わったりと・・・色々なことが起きそうですが・・・

そういったことを省いて単純化したモデルとして、面白いと思いながら問題を解きました。
（ちなみに理系ではありますが光学関係は最も苦手とする分野のひとつでした）

膜同士の界面を同一視して解答してるけど、これであっているのかどうか。

解答です．

(1)膜が1枚の場合
光源から出た光量を1とする．裏面まで透過する光は次の経路をとる．
透過→偶数(0,2,4,…)回の反射→透過
これらの和は次のようになる．
α^2＋α^2×(1−α)^2＋α^2×(1−α)^4＋…
＝α/(2−α)

これは光量1の光を当てるとα/(2−α)だけ裏側まで透過することを意味しているので，通常α/(2−α)を透過率というが，ここでは実際に膜に入った光αに対して裏まで透過した光量の比1/(2−α)を実質透過率K(1)とする．K(n)でn枚重ねの膜の実質透過率を意味する．

(2)膜がn＋1枚重ねの場合
光源側のn枚(Pと呼ぶ)と，裏側の1枚(Qと呼ぶ)に分け，その境界面をRと呼ぶ．
Rをm回またいでQからP内部に入る光をT(m)，Pから外へ出る光をt(m)，PからQ内部に入る光をS(m)，Qから外へ出る光をs(m)とする．
光量の保存より，
T(m)＝t(m)＋S(m＋1)
S(m)＝s(m)＋T(m＋1)

また，実質透過率を用いて次の式が成り立つ．
t(m)＝K(n)T(m)
s(m)＝K(1)S(m)

これら4つの式からs(m)に関する漸化式を作る．
S(m＋2)
＝T(m＋1)−t(m＋1)
＝T(m＋1)−K(n)T(m＋1)
＝(1−K(n))T(m＋1)
＝(1−K(n))(S(m)−s(m))
＝(1−K(n))(1−K(1))S(m)

この両辺にK(1)を掛ければ

s(m＋2)＝(1−K(n))(1−K(1))s(m)

となる．s(1)は境界Rを1回だけ通って裏側に出てくるものだからαK(n)K(1)である．
よって，m＝2M＋1(M＝0,1,2,…)として，s(m)＝V(M)とおくと
V(M)＝αK(n)K(1){(1−K(n))(1−K(1))}^M

求めたいものは
s(1)＋s(3)＋s(5)＋…
＝V(0)＋V(1)＋V(2)＋…
＝αK(n)K(1)/{1−(1−K(n))(1−K(1))}
＝αK(n)K(1)/(K(n)＋K(1)−K(n)K(1))

n＋1枚の場合の実質透過率はしたがって

K(n＋1)＝K(n)K(1)/(K(n)＋K(1)−K(n)K(1))

となる．K(1)＝1/(2−α)を代入すると

K(n＋1)＝K(n)/{(1−α)K(n)＋1}

あとは，何項か求めてみると一般項は簡単に予想がつき，それを仮定して数学的帰納法により示せばよい．K(n)＝1/{(n＋1)−nα}である．

裏側から出てくる光の量としてはαを掛けて，α/{(n＋1)−nα}であり，これが求めるべき答えである．

1枚の実質透過率が1/(2−α)なので，n枚重ねの場合の透過量は次のように近似できるような気がするかもしれません．
α/(2−α)^n
しかしこれは，直進して出てきた光の総量にすぎず，中で反射を繰り返して出てきた光が一切含まれていません．そのため，nが大きいほど実際よりもかなり小さな値となってしまいます．n＝2までなら比較的良い近似にはなっています．