分析:A、合并同类项得到结果,即可作出判断;
B、利用积的乘方及幂的乘方运算法则计算得到结果,即可作出判断;
C、利用同底数幂的除法法则计算得到结果,即可作出判断;
D、利用多项式乘以多项式法则计算得到结果,即可作出判断.
解答:解:A、5a-2a=3a,本选项错误;
B、(-a3b)2=a6b2,本选项正确;
C、a8÷a2=a6,本选项错误;
D、(a+b)(a-2b)=a2-2ab+ab-2b2=a2-ab-2b2,本选项错误,
故选B
点评:此题考查了多项式乘以多项式,合并同类项,积的乘方与幂的乘方,以及同底数幂的除法,熟练掌握运算法则是解本题的关键.