·
Puedes hacer dos cosas. Derivar tal cual está usando la fórmula para la derivada del producto o efectiar primero el paréntesis ydespues son sencillas derivadas de polinomios
$$\begin{align}&f(x) = x(x-4)^3\\&\\&f'(x)=(x-4)^3+x·3(x-4)^2=\\&(x-4)^2(x-4+3x)=\\&(x-4)^2(4x-4)=\\&4(x-4)^2(x-1)\\&\\&f''(x)= 4·2(x-4)(x-1)+4(x-4)^2=\\&4(x-4)(2x-2+x-4)=\\&4(x-4)(3x-6) =\\&12(x-4)(x-2)\end{align}$$
o de la otra forma es
$$\begin{align}&f(x) = x(x-4)^3=\\&x^4-12x^3+48x^2-64x\\&\\&f'(x)=4x^3-36x^2+96x-64\\&\\&f''(x) = 12x^2 - 72x+96\end{align}$$
Me parece que es más sencillo de la segunda forma y además queda de la forma que más gusta a la gente ver los polinomios, luego te recomiendo la segunda forma.