この手の問題は、線対称の図形を考えましょう。
場合分けも忘れずに。

正三角形　５６８×５６８　のピラミッドを書けば
ボールの軌道は１本の直線で表せます

永久駆動さんのレスを見て思いついたのですが、
正三角形で作った正三角形を作り、

一番上の三角形△には０、その下の逆三角形▽には１、その横の二つ△には２、その下の二つ▽は３、その横は４・・・
というようにしていけば１、３、５、７、９・・・番目の三角形の個数は１、２、３、４、５・・・というように増えていくのがわかります。
というように
１１３３の番号が付く正三角形は５６７個ある（１１３３＋1）÷２
（１）の場合だと真ん中にある三角形は一回目の反射のときに止まったはずなので除外すると
５６７−１＝５６６
つまり１１３３かいめにはんしゃして頂点（つまり逆三角形の一番下の頂点）に止まる場合が５６６つある。
という事ではないでしょうか？

上で書き忘れです。
大きな正三角形の逆三角形の両端の頂点では2回目で止まってしまうので両端を含めませんし、それ以外の小さな三角形の両端は二回反射する前で止まった事になるので止まったと考えられる頂点は▽の一番下の部分だけという事になります。


さらに、（２）は一番上の三角形を上、左、右からＯＡＢと打つ。さらに、その下の三角形の一番下の頂点はＯになるので、打っていくと、余った頂点はＯＡＢのうち無いものだと分かる。

大きい三角形の左端の辺を考えると、上からＯＡＢＯＡＢＯＡＢ・・・と続く。
逆三角形の上の辺をなしているので横線の数は三角形の個数と同じであり、横線の数は正三角形より上から左下にのびる／の数と同じより、１１３３の三角形の／の個数は５６７個です。一番目はＡ二番目はＢと考えていくと１１３３÷３をするとあまりは２よりＢが一番左である。その下の頂点の記号を知りたいので一個すすめて一番左端はＯと考えます。

つまり
Ｏ　・・・・・・・（567個）・・・一番右端
となる。頂点は５６９個あり、ＯＡＢＯＡＢ・・・と続く頂点Ａの数は５６９÷３＝１８９あまり２。
あまり２のところはＯから始まるのでＯＡとなる。
Ａは一番右端なのでたしてはいけないので
１８９つある
さらに真ん中の三角形を考えて、５６９÷２＝２８４あまり１だから２８５番目が真ん中。
２８５÷３＝９５あまり無しより285番目の三角形の頂点はＢなので考えなくてよい。
よって１８９つ

答え（１）　５６６つ
　　（２）　１８９つ

だと思います。たぶんコレかと思うんですけど計算間違いとかあるかも・・・。あまり自信はありません・・・。

↑多少違っているのでは・・・

567までは正しいと思うのですが、そこからの考え方。
例えば567ある頂点ヘの打ち出し角度を考えた場合その角度は
x=n/568*60　である事が解ります。ここでn=2の場合は　x=2/568=1/284となり
途中283個頂点がある段階で止まってしまいます。
ここで　568=2*2*2*71　から　素因数2を除いた　284から計算される頂点の数283
(偶数番目の頂点）と、71を除いた8から計算される7、但し2,4,6は偶数なので除いた
1,3,5,7(*71)の実質4を引いた567-283-4=280が答えだと思います。

(2)については頂点の数が567という事は両端を加えて三角形としては569の点を
持つと思われます。569=189*3+2より一番端はA、後はBOABOAと続いてBまで有り、
両端を除くとBOABOABOAと189個BOAが続いて最後がAと考えられます。(ABO各189個)
ここで(1)で考えた偶数番目がのぞかれると、283/3=94余り1、ここで見て解るように
最初と最後がOである為　A、Bは94個、Oは95個と判ります。
次に　71*1　71*3　71*5　71*7　個目について考えると、71=23*3+2から
(23*3+2)*1=23*3+2　　(23*3+2)*3=(23*3+2)*3　(23*3+2)*5=(23*5+3)*3+1
(23*3+2)*7=(23*7+4)*3+2　となり3で割った際の余りは　2,0,1,2となります。
順番で見て判るように余り　2→O　1→B　0→A　ですから　A、Bは1個、Oは2個
と判ります。よって
A,Bになる可能性　189-94-1=94
Oになる可能性　　189-95-2=92
と思われます。

以上何か計算間違い、ご意見がありましたらどうぞ