A
分析:令直線ax+by-1=0中x=0,表示出此時的y,即為直線在y軸上的截距,根據此截距為1列出關于b的方程,求出方程的解得到b的值,然后由直線

x-y-3

=0的斜率為

,得到其傾斜角的正切值為

,根據傾斜角的范圍,利用特殊角的三角函數值求出傾斜角的度數,從而得到直線ax+by-1=0的傾斜角,進而得到此直線的斜率,根據斜率列出關系式,把b的值代入即可求出a的值.
解答:令直線ax+by-1=0中x=0,解得y=

,
由直線在y軸上的截距為1,得到

=1,
則b=1,
∵直線

x-y-3

=0的斜率為

,
∴tanα=

,α∈[0,180°],
∴傾斜角α=60°,
∴直線ax+by-1=0的傾斜角為120°,
則其斜率為-

,
即-

=-

,又b=1,
則a=

.
故選A
點評:此題考查了直線的傾斜角,直線截距的求法,以及直線傾斜角與斜率的關系,熟練掌握直線傾斜角與斜率的關系是解本題的關鍵.