解：在矩形ABCD中，∵∠D＝90°，AB＝6，BC＝8，

∴AC＝10，

如图1，设⊙O与AD边相切于E，连接OE，

则OE⊥AD，

∴OE∥CD，

∴△AOE∽△ACD，

$\therefore \frac{O E}{C D}=\frac{A O}{A C}$

$\therefore \frac{A O}{10}=\frac{2}{6},$

$\therefore A O=\frac{10}{3}$

如图2，设⊙O与BC边相切于F，连接OF，

则OF⊥BC，

∴OF∥AB，

∴△COF∽△CAB，

$\therefore \frac{O C}{A C}=\frac{O F}{A B}$

$\therefore \frac{O C}{10}=\frac{2}{6}$

$\therefore O C=\frac{10}{3}$

$\therefore A O=\frac{20}{3}$