X puede tomar valores tales que
x^2 <= 2ax
como supondré que a>=0 entonces x>=0
x <= 2a
Luego toma valores en [0, 2a]
y tomara valores entre dos funciones de x
y^2 <= 2ax-x^2
y € [-sqrt(2ax-x^2), sqrt(2ax-x^2)
se supone que el volumen es el contenido entre el plano z=0 y la función
z = xy/c
Luego el volumen es
$$\begin{align}&V=\int_0^{2a}\int_{-\sqrt{2ax-x^2}}^{\sqrt{2ax-x^2}}\;\frac {xy}c \;dy\,dx=\\ &\\ &\text{primero un cambio sencillo para ayudar}\\ &x=t+a \quad dx=dt\\ &x=0\implies t=-a\\ &x=2a\implies t=a\\ &\\ &\int_{-a}^{a}\int_{-\sqrt{2a(t+a)-(t+a)^2}}^{\sqrt{2a(t+a)-(t+a)^2}}\;\frac {(t+a)y}c \;dy\,dt=\\ &\\ &=\int_{-a}^{a}\int_{-\sqrt{a^2-t^2}}^{\sqrt{a^2-t^2}}\;\frac {(t+a)y}c \;dy\,dt=\\ &\\ &\\ &\text{El dominio es ahora un círculo de radio a}\\ &\text{y el cambio a cilíndricas es}\\ &t=\rho\,\cos\theta\\ &y =\rho\,sen\theta\\ &Jacobiano=\rho\\ &\\ &=\int_0^{a}\int_0^{2\pi}\rho·(\rho \cos\theta+a)\rho\,sen\theta \;d\theta\,d\rho=\\ &\\ &=\frac 1c\int_0^{a}\int_0^{2\pi}(\rho^3sen\theta \cos\theta+a \rho^2sen\theta)\;d\theta\,d\rho=\\ &\\ &\frac 1c\int_0^a\left[\frac{\rho^3sen^2\theta}{2}-a\rho^2cos\theta \right]_0^{2\pi}d\rho=\\ &\\ &\frac 1c\int_0^a(0-a\rho^2-0+\end{align}$$
De verdad que no volveré a hacer ejercicios donde el enunciado no sea fiable y completo.
Esta integral da 0, luego en el enunciado tiene que haber una acotación.
Creo que la acotación que se necesita es y>=0 con todo ello sería el mismo trabajo que he hecho solo que el li, ite inferior de y sería 0 y el ángulo theta varía entre 0 y pi.
Retomando la parte final
$$\begin{align}&\frac 1c\int_0^a\left[\frac{\rho^3sen^2\theta}{2}-a\rho^2cos\theta \right]_0^{\pi}d\rho=\\ &\\ &\frac 1c\int_0^a\left(0+a\rho^2-0+a\rho^2 \right)d\rho=\\ &\\ &\frac{2a}{c}\int_0^a\rho^2 d\rho=\frac {2a}c· \left.\frac{\rho^3}{3}\right|_0^a=\frac{2a^4}{3c}\end{align}$$
Y tampoco sería la solución que tienes sino con exponente a la cuarta.
Por favor, los enunciados deben estar bien, no hay nada peor que meterse en un ejercicio de cambio múltiple de variables con unos datos imprecisos.