Tenemos dos límites bien claros el eje X por debajo y la recta vertical x=5 por la derecha.
Por otra parte esta la función x·sqrt(x^2-9) que se ve claramente que es creciente, a mayor valor de x mayores son los dos factores.
Entonces el límite por la izquierda lo marcará la intersección de esta función con el eje X
0 = x·sqrt(x^2-9)
podría parecer que x=0 es una solución. Pero no lo es, ya que la función no está definida en el 0 porque la raíz cuadrada sería de -9
Entonces consideramos 0 el segundo factor
sqrt(x^2-9) = 0
x^2 - 9 = 0
x^2 = 9
x= -3 y 3
El -3 no cierra la figura, es el 3 el que cierra la figura con el eje X y la recta x=5. Luego el límite izquierdo es 3
$$\begin{align}&Area=\int_3^5x \sqrt{x^2-9}\;dx=\\ &\\ &t=x^2-9;\quad dt=2xdx;\quad x\,dx=\frac{dt}{2}\\ &x=3\implies t=0\\ &x=5\implies t=16\\ &\\ &=\int_0^{16}\frac{\sqrt {t}}{2}dt=\left.\frac 12 \frac{t^{3/2}}{\frac 32} \right|_0^{16}=\left.\frac{\sqrt {t^3}}{3}\right|_0^{16}=\\ &\\ &\frac{\sqrt{(2^4)^3}}{3}=\frac{\sqrt{2^{12}}}{3}=\frac{2^6}{3}=\frac{64}{3}\end{align}$$Y eso es todo.