解:(1)由已知f(x)=a(x+1)x(x-1)+3bx(x-1)+1=ax
3+3bx
2-(a+3b)x+1,
∴f'(x)=3ax
2+6bx-(a+3b)
∴

∴f(x)=6x
3-12x
2+6x+1.
(2)∵f'(x)=18x
2-24x+6=6(3x-1)(x-1)
由f'(x)>0得,x>1或x<

,即f(x)在(1,+∞)和(-∞,

)上單調遞增,
由f'(x)<0得,

<x<1,即f(x)在(

,1)上單調遞減.
(3)方程

等價于18x
3-36x
2+19=0.
令g(x)=18x
3-36x
2+19.
則g'(x)=54x
2-72x=18x(3x-4)令g'(x)=0得x=0或x=

.
當x∈(0,

)時,g'(x)<0,g(x)是單調遞減函數;
當x∈(

,+∞)時,g'(x)>0,g(x)是單調遞增函數;
∵g(1)=1>0,g(

)=-

<0,g(2)=19>0,
∴方程g(x)=0在區間(1,

),(

,2)內分別有唯一實根.
∴存在正整數m=1使得方程

在區間(1,2)上有且只有兩個不相等的實數跟.
分析:(1)先利用定義求出f(x)=a(x+1)x(x-1)+3bx(x-1)+1,再利用x=1處取得極值,在x=2處的切線的平行向量為

求出a,b即可;
(2)先求導函數,利用導函數大于0的區間為原函數的增區間,以及導函數小于0的區間為原函數的減區間即可求f(x)的單調區間;
(3)先把方程

等價于g(x)=18x
3-36x
2+19=0.在求出g(x)的導函數,判斷出g(x)的圖象變化規律,再利用零點存在性定理即可判斷是否存在正整數m滿足要求.
點評:本題主要考查了函數與方程的綜合應用以及利用導數研究函數的單調性和平面向量的有關知識.是對知識的一個大匯總,屬于有難度的題.