とりあえず

これで合ってますか？(プログラムを使って解きました。)

これはプログラムがないと無理ですね・・・

もっと小さく…できたらどうしよう

どうやら私とそちらで認識の違いがありそうですねぇ。

大分苦しい回答だがもはやこれしかあるまい。もしこれがハズレなら回答公開を待つしかありませんねぇ。

これで

以前どこかで
　xyz/{(x+y+z)(x-y+z)(y+z-x)}^1/2 の最小値はいくらか。というような問題を見た記憶があるんですが、この問題も同じようなものでは?

でもこの値だと手計算はいささか面倒だと思いますがね

このスレで河野真衣さんの書き込みに２回コメントをつけましたが、２回とも削除されました。
２回目は「コメントをつけた後に削除するのはやめてほしいです」と書いておいたにもかかわらずです。
>>8に3回目の書き込みがありましたが、これらは嫌がらせ行為と判断し、コメントはつけません。

↓にこれに対する書き込みをしていただきましたが、書き込みの内容が気に入らないとか思っているわけではありません。
コメントをつけるたびに削除されていますので、また削除されるかもしれないと思うとコメントをつける気になれないというだけです。
もうお孫さんがいらっしゃるようなお年の方ならこういう場合にどうするべきなのかお分かりだと思うのですが・・・

2011/8/25 22:50追記
↓2011/8/24 18:43に書き込まれた河野真衣さんの投稿があったはずなのですが、また削除されたようですね。
反応するだけ無駄なようですので、今後は河野真衣さんの書き込みは無条件に削除することにいたします。

正解発表です。
手計算では無理では？という方が何名かいましたので手計算で十分解けるということを説明いたします。

三角形の頂点をA,B,C,辺BC,CA,ABの長さをそれぞれa,b,cとします。
円の直径をdとします。
三角形が円に内接しますので正弦定理により、sinA=a/d,sinB=b/d,sinC=c/d
a,b,c,dは自然数ですので、sinA,sinB,sinCはすべて有理数です。
角C=180度-角A-角Bですので、sinC=sin(180-B-C)=sin(B+C)=sinBcosC+cosBsinC
(cosB)^2=1-(sinB)^2=(d^2-b^2)/(d^2)
(cosC)^2=1-(sinC)^2=(d^2-c^2)/(d^2)

sinB,sinCは有理数でしたので、ある有理数α、βを使ってsinA=α√(d^2-b^2)+β√(d^2-c^2)と書くことができます。
sinAは0ではないので、d^2-b^2,d^2-c^2がともに平方数になる必要があります。
sinBについても同様に計算すると、d^2-a^2が平方数になることも分かります。
ということはd^2=x^2+y^2となる自然数x,yが2組以上存在するということです。
1組だけではa,b,cの3つをまかなうことはできませんので。
まずこのような条件を満たすdを見つけましょう。
d=1,2,3,・・・と順番に調べていけばd=25が最小だと分かります。
これは暗算でも見つけることができるくらいです。
たとえばd=25のとき
25^2-1^2=(25+1)(25-1)=26*24 13という因数は1回しか現れないので平方数にはなりません
25^2-2^2=27*23 23は1回しか現れないので平方数ではありません
25^2-3^2=28*22 11は以下略
25^2-4^2=29*21 29は以下略
25^2-5^2=30*20 3は以下略
25^2-6^2=31*19 19は以下略
25^2-7^2=32*18=16*2*2*9=(4*2*3)^2=24^2なので平方数
25^2-8^2=33*17 17は以下略
25^2-9^2=34*16 17は以下略
25^2-10^2=35*15 7は以下略
25^2-11^2=36*14 7は以下略
25^2-12^2=37*13 13は以下略
25^2-13^2=38*12 19は以下略
25^2-14^2=39*11 11は以下略
25^2-15^2=40*10=4*10*10=(2*10)^2=20^2なので平方数
25^2-16^2=41*9 41は平方数でないので不適
25^2-17^2=42*8 7は以下略
25^2-18^2=43*7 7は以下略
25^2-19^2=44*6 11は以下略
25^2=20^2+15^2でしたのでこれ以上調べる必要はありません。
書くと長くなりますが、それぞれの計算は頭の中で一瞬でできるものですので大した時間はかかりません。
ピタゴラス数の作り方を知っていればもっと早くできるでしょう。

d=25のときに条件を満たす三角形があればそれが答えです。
25^2=7^2+24^2=20^2+15^2ですので、a,b,cは7,15,20,24のうちの３つです。
三角形の面積はab*sinC/2=abc/2d
s=(a+b+c)/2とすると、S=√(s(s-a)(s-b)(s-c))も三角形の面積です。
abcは偶数なのでabc/2dを既約分数にすると分母に因数2を含みません。
sが整数でないと仮定すると、sは分母に因数2を含む分数になります。
a,b,cは整数なので、Sの√の中は分母に因数2を含む分数となり、abc/2dとは一致しません。
よって、sは整数であり、a+b+cは偶数です。
7+15+20+24は偶数なので、除外されるのは偶数であり、20か24です。
7,15,24を3辺とする三角形はありませんので、7,15,20と決まります。
このとき、abc/2d=7*15*20/(2*25)=7*3*2=42
s=(7+15+20)/2=21より、S=√(21*14*6*1)=√(7*3*7*2*6)=7*6=42
となり一致します。

このことから3辺が7,15,20の三角形は直径25の円に内接することが分かり、条件を満たしていることが確認できます。
答え：３辺の長さと直径は、7,15,20,25