解:x2-(a2+a)x+a3=(x-a)(x-a2).
当a=0时,原不等式化为x2<0,不等式的解集为∅;
当a=1时,原不等式化为(x-1)2<0,不等式的解集为∅;
当0<a<1时,a2<a,由x2-(a2+a)x+a3=(x-a)(x-a2)<0,得:a2<x<a.
所以,原不等式的解集为{x|a2<x<a};
当a<0或a>1时,a<a2,由x2-(a2+a)x+a3=(x-a)(x-a2)<0,得:a<x<a2.
所以,原不等式的解集为{x|a<x<a2}.
综上:当a=0或a=1时,原不等式的解集为∅;
当0<a<1时,原不等式的解集为{x|a2<x<a};
当a<0或a>1时,原不等式的解集为{x|a<x<a2}.
分析:把不等式左边因式分解后发现,需要对a的取值进行讨论,因此,分a=0,a=1,0<a<1及a<0或a>1四种情况求解二次不等式,最后把不等式的解集分别下结论.
点评:本题考查了含有参数的一元二次不等式的解法,考查了分类讨论的数学思想,需要注意的是最后的结论不能取并集,此题是中档题.