分析:根據同類項的定義列出關于a、b的二元一次方程組,求解得到a、b的值,再根據單項式的乘法進行計算即可得解.
解答:解:根據題意得,
,
由①得,a=-2b③,
③代入②得,5×(-2b)+8b=2,
解得b=-1,
把b=-1代入③得,a=-2×(-1)=2,
∴兩單項式分別為-3x
5y
2、
x
5y
2,
它們的積為-3x
5y
2•
x
5y
2=-x
10y
4.
故選D.
點評:本題考查的是二元一次方程組的解法,方程組中未知數的系數較小時可用代入法,當未知數的系數相等或互為相反數時用加減消元法較簡單,根據同類項的定義列出方程組是解題的關鍵.