解:(1)∵四邊形ABCD是菱形,
∴AC⊥BD,且AC與BD互相平分,
∵AC=8,BD=6,
∴OA=4,OB=3,
∴AB=

=

=5;
(2)①當0<t≤

時,由題意,得AP=t,點Q在BC上運動,
如圖1,過點B作BE⊥AD,垂足為E,
∵AC=8,BD=6,
∴

AD•BE=

AC•BD,
由題意可得BE=

,
∴S=

AP•BE,即S=

t;
②當

≤t<5時,點Q在BA上運動,
由題意,得AP=t,AQ=10-2t.
如圖2,過點Q作QG⊥AD,垂足為G,則QG∥BE,
∴△AQG∽△ABE,
∴

=

,
∴QG=

-

,
∴S=

AP•QG,
即S=-

t
2+

t(

)(

≤t<5).
當0≤t<

時,S=

t•4
當t=

時,S的最大值為6;
當

≤t<5時,S=-

t
2+

t,即S=-

(t-

)
2+6.
∴當t=

時,S的最大值為6.
綜上所述,當t=

時,S有最大值,最大值為6.
(3)a=

.
∵a≤

,
∴點Q在CB上,
由題意可知PQ≥BE>PA,
∴當QA=QP時,△APQ是等腰三角形.
如圖3,過點Q作QM⊥AP,垂足為點M,QM交AC于點F,
則AM=

AP=2.由△AMF∽△AOD∽△CQF,
得

=

=

=

,
∴FM=

,
∴QF=MQ-FM=

,
∴CQ=

=

.
則

=

,
∴a=

=

.

分析:(1)根據菱形的性質可知AC⊥BD,且AC與BD互相平分,再根據勾股定理即可求出菱形的邊長;
(2)①當0<t≤

時,由題意,得AP=t,點Q在BC上運動,過點B作BE⊥AD,垂足為E,由直角三角形的性質求出BE的長,由三角形的面積公式可得到S與t的關系式;
②當

≤t<5時,點Q在BA上運動,由題意,得AP=t,AQ=10-2t,過點Q作QG⊥AD,垂足為G,則QG∥BE,可得出△AQG∽△ABE,由相似三角形的對應邊成比例即可得出S關于t的關系式,再根據二次函數的最值問題進行解答即可;
(3)先判斷出等腰三角形的兩腰長,過點Q作QM⊥AP,垂足為點M,QM交AC于點F,根據△AMF∽△AOD∽△CQF,可得出FM的值,由QF=MQ-FM得出QF的值,進而可得出a的值.
點評:本題考查的是相似三角形的性質、菱形的性質、二次函數的最值及等腰三角形的性質,根據題意作出輔助線,利用數形結合求解是解答此題的關鍵.