Entonces me parece que quieres decir esto:
$$C(q)= \frac{5q^2}{\sqrt {q^2+ 3}}+500$$
que se escribe así:
C(q)= \frac{5q^2}{\sqrt {q^2+ 3}}+500
a) Los costos fijos son los que se dan cuando la cantidad de cantidad producida es 0. Sustituyendo q=0 en la formula tendremos
C(0) = 500
Luego los costos fijos son 500
b) La función de costo marginal es la derivada del costo respecto de q
$$\begin{align}&C(q)= \frac{5q^2}{\sqrt {q^2+ 3}}+500\\ &\\ &Cmg(q) = C'(q)=\frac{10q \sqrt{q^2+3}-5q^2 \frac{2q}{2 \sqrt{q^2+3}}}{q^2+3}=\\ &\\ &\\ &\frac{20q(q^2+3)-10q^3}{2(q^2+3)\sqrt{q^2+3}}=\\ &\\ &\\ &\\ &\frac{20q^3+60q-10q^3}{2 \sqrt{(q^2+3)^3}}=\\ &\\ &\\ &\\ &\frac{5q^3+30q}{\sqrt{(q^2+3)^3}}\end{align}$$
c) La función de costo promedio es la función de costo entre las unidades
$$\begin{align}&Cp(q)=\frac{ \frac{5q^2}{\sqrt {q^2+ 3}}+500}{q}=\\ &\\ &\\ &\\ &\\ & =\frac{5q}{\sqrt {q^2+ 3}}+\frac{500}{q}\end{align}$$
Y eso es todo.