質問です。
おつりがない、つまりぴったりの支払いは不可ということでしょうか。

Bはバーツですか？
それともベリー（マンガONE PIECEのお金です ）ですか？

暗黙のルールとしては「ぴったり払うことが可能であれば、必ずぴったり払」うけど，今回は「お釣りと一緒に客に渡」したということなので，ぴったりと払ってはいなくて，おつりがあった，という解釈でよろしいでしょうか？

これで銅貨？

リデノミネーションを希望します！

答えを発表します。

まず、前提となるのは、
・店員はコインの枚数が最小になるようにお釣りを渡す
・客はお釣りの枚数が最小になるようにコインを置く
・これらのことを客も店員も理解している
・店員は置かれたコインを見て、客が買いたいアプリが判断できた
ということ。

客は三種類のコインを十分に持っていれば、
お釣りが出ないように支払うはずです。
お釣りが出たということは十分なコインを持っていなかったということです。

お釣りが100B以上になることはなく、
お釣りには100Bコインは含まれません。

置かれたコインと同じ種類のコインがお釣りに含まれることもありません。
よって、10Bコインが置かれた場合、お釣りは50Bコイン1枚となります。
置かれた10Bコインが1枚の場合、アプリの値段の10の位は6。
これを満たすのは160Bと360B。
160Bの場合、置かれたコインは210B。
コインが3枚の場合も4枚の場合も可能。
360Bの場合は置かれたコインが410Bとなりますが、
4枚以下のコインで410Bにするのは不可能です。
置かれた10Bコインが2枚の場合、アプリの値段の10の位は7。
これを満たすのは70Bのみですが、120Bのアプリがあるので不適。
置かれた10Bコインが3枚の場合、アプリの値段の10の位は8。
これを満たすのは280Bのみですが、4枚以下のコインで330Bにするのは不可能。
10の位が9のアプリはないので、10Bコイン4枚の場合はありません。
10Bコインが置かれなかったとすると、
置かれたコインの総額は150B,200B,250B,300B,350B,400Bのどれか。
200B、400Bのアプリがあるので200Bでも400Bでもありません。
250Bの場合はアプリが200Bとなりますが、200Bの支払いが可能なので不適。
150B,300B,350Bのいずれか。

以上より、1回目に置かれたコインは
10B×1+100B×2=210B、アプリは160Bでお釣りは50B×1。
50B×3=150B、アプリは120Bでお釣りは10B×3。
100B×3=300B、アプリは280Bでお釣りは10B×2。
のどれか。
どの場合も店員は置かれたコインにより、アプリの金額が特定できます。

同様にして、2回目に置かれたコインは、
A.10B×1+50B×2+100B×1=210B、アプリは160B。
B.50B×2+100B×2=300B、アプリは280B。
C.50B×1+100B×3=350B、アプリは310B。
の可能性が考えられます。
Aの場合は、10B,50B,100Bのコインで160Bの支払いが可能なので不適。
1回目のお釣りが30Bだったときは、10Bコインを3枚持っているので、
B,Cどちらの場合にもアプリの代金ぴったりを払うことが可能。
1回目のお釣りが20Bだったとき。
Cの代金をぴったり払うことができるのでCはあり得ません。
Bの場合、1回目と2回目のアプリの値段が280Bで同じになります。
同じアプリを購入することはないのでこの場合も不適。
よって、1回目のお釣りは50Bと確定。
Bの場合、2回目に50Bコインを2枚置いているので、
1回目の時点で50Bコインを1枚は持っていたことが分かります。
すると、1回目に代金ぴったり支払うことが可能となるので不適。
残された可能性はCの場合のみ。

最初に10Bコイン1枚、50Bコイン0枚、100Bコイン5枚(以上)を持っていて、
1回目には10Bコイン1枚、100Bコイン2枚を置いて160Bのアプリを購入、
50Bコイン1枚をお釣りとして受け取った。
2回目には50Bコイン1枚、100Bコイン3枚を置いて、310Bのアプリを購入、
10Bコイン4枚をお釣りとして受け取った。
ということになります。
どこにも矛盾は生じません。
1回目に置かれたコインの総額は210B、2回目に置かれたコインの総額は350Bです。