解:由題意得

(x>0)
令x=tanα

,則

由于

,所以

,即函數(shù)f(x)的值域?yàn)椋?,1)
(1)由

y
2-2xy+x
2=y
2+y
2x
2于是解得

,所以原函數(shù)的反函數(shù)

(0<x<1)
(2)證明:因?yàn)閍
1=a>0,a
n+1=f(a
n),n∈N
*,所以

∴

,所以

=

②因?yàn)閍
n+1=f(a
n),所以a
n=f
-1(a
n+1)
所以

,又由原函數(shù)的值域知a
n+1∈(0,1)
所以

,則

進(jìn)而

,所以

于是

分析:由題意得

(x>0),令x=tanα

,則

,由于

,所以

,即函數(shù)f(x)的值域?yàn)椋?,1)
(1)由

,反解x可得

,所以原函數(shù)的反函數(shù)

(0<x<1)
(2)因?yàn)閍
1=a>0,a
n+1=f(a
n),n∈N
*,所以

①利用放縮法.

,所以

=

②因?yàn)閍
n+1=f(a
n),所以a
n=f
-1(a
n+1),所以

,又由原函數(shù)的值域知a
n+1∈(0,1),所以

,則

,進(jìn)而

,所以

于是可得結(jié)論.
點(diǎn)評(píng):本題以新定義為載體,考查函數(shù)及反函數(shù)的求解,考查不等式的證明,解題的關(guān)鍵是適當(dāng)放縮,難度較大.