分析:根据同类项的定义列出关于a、b的二元一次方程组,求解得到a、b的值,再根据单项式的乘法进行计算即可得解.
解答:解:根据题意得,
,
由①得,a=-2b③,
③代入②得,5×(-2b)+8b=2,
解得b=-1,
把b=-1代入③得,a=-2×(-1)=2,
∴两单项式分别为-3x
5y
2、
x
5y
2,
它们的积为-3x
5y
2•
x
5y
2=-x
10y
4.
故选D.
点评:本题考查的是二元一次方程组的解法,方程组中未知数的系数较小时可用代入法,当未知数的系数相等或互为相反数时用加减消元法较简单,根据同类项的定义列出方程组是解题的关键.