Pues habrá que hacer las derivadas con paciencia y comprobar.
$$\begin{align}& y=xe^{5x} \cos 2x \\ &\\ &y'=e^{5x}\cos 2x+x(5e^{5x}\cos 2x-2e^{5x}sen 2x)=\\ &\\ &e^{5x}((1+5x)\cos 2x-2xsen2x)\\ &\\ &\\ &y''=5e^{5x}((1+5x)\cos 2x-2xsen2x)+\\ &e^{5x}(5cos2x-2(1+5x)sen2x-2sen2x-4xcos 2x)=\\ &\\ &e^{5x}(10cos 2x+21x·\cos 2x-4sen 2x-20x·sen 2x)=\\ &\\ &e^{5x}((10+21x)cos2x-(4+20x)sen2x)\\ &\\ &\\ &y'''(x)=5e^{5x}((10+21x)cos2x-(4+20x)sen2x)+\\ &e^{5x}(21cos2x-(20+42x)sen2x-20sen2x-(8+40x)cos2x)=\\ &\\ &e^{5x}((63+65x)\cos 2x-(60+142x)sen2x)\\ &\\ &\\ &y''''=5e^{5x}((63+65x)\cos 2x-(60+142x)sen2x)+\\ &e^{5x}(65cos2x-(126+130x)sen2x -142sen 2x-(120+284x)cos2x)=\\ &\\ &e^{5x}((260+41x)cos2x-(568+840x)sen2x)\\ &\\ &\text{Y sustituyendo en la ecuación será}\\ &e^{5x}((260+41x)cos2x-(568+840x)sen2x)\\ &-20e^{5x}((63+65x)\cos 2x-(60+142x)sen2x)\\ &+158e^{5x}((10+21x)cos2x-(4+20x)sen2x)\\ &-580e^{5x}((1+5x)\cos 2x-2xsen2x)\\ &+841e^{5x}( x·\cos 2x )=\\ &\\ &e^{5x}[(260-20·63+158·10-580)cos2x\\ &+x(41-20·65+158·21-580·5+841)cos2x\\ &+(-568+20·60-158·4)sen2x\\ &+x(-840+20·142-158·20+580·2)sen2x]\\ &\\ &=e^{5x}(0·cos2x+0x·cos2x+0·sen2x+0x·sen2x)=\\ &\\ &e^{5x}(0+0+0+0) = 0e^{5x}=0\end{align}$$
¡Uff! Luego es verdadero el enunciado.
Y eso es todo.