水槽の形状が明記されていませんが、立方体ということで宜しいでしょうか？

あと、
＞水槽Ａに深さＹcmまで水を入れた。
＞その水を今度は水槽Ｂに移し変えると水が少し溢れた。
のところではＡの水を空っぽになるまでＢにいれて、余った分が溢れた
という解釈で宜しいでしょうか？

さらに、水槽の厚みは考えないものとするのでしょうか？

以上全てＹＥＳなら、
＞水槽Ｂの水を水槽Ａに移し変えると深さがＸcmの５分の４になっていた
の部分で
Ｙ＾3＝（4/5）Ｘ＾3
より、Ｙ＝（（4/5）＾（1/3））Ｘ
となり、この時点で、Ｘ，Ｙがともに有理数にならないので、自然数解は存在しないというのが答えになりそうなんですが。