解:如图,连接OE、OF
设⊙O的半径为r.
∵⊙O内切于△ABC,切点分别是E、F、G,
∴OE⊥AC于E,OF⊥BC于F,
CE=CF,AE=AG,BF=BG.
∵∠C=90°,
∴四边形OECF为正方形.
∴CE=CF=OE=r.
∵AC=6,BC=8,
∴AB=
=
=10,
AE=AG=6-r,BF=BG=8-r.
∵AG+BG=AB,
∴6-r+8-r=10.
解得 r=2.
∴⊙O的半径为2.
分析:连接OE、OF,易证四边形OECF为正方形,利用切线长定理可以得到:AE=AG=6-r,BF=BG=8-r,根据AG+BG=AB即可列方程求得r的长度.
点评:本题考查了切线长定理,正确作出辅助线,证明四边形OECF为正方形是关键,本题把求线段长的问题转化成了方程问题,体现了方程思想的应用.