No hay funciones normales que satisfagan esa ecuación diferencial. Es por ello que se crearon unas funciones especiales llamadas funciones de Bessel.
Wikipedia, funciones de Bessel
La forma canónica de tu ecuacion se obtine multiplicando por r^2
$$r^2 \frac{d^2R}{dr^2}+r \frac{dR}{dr}+(\mu^2r^2-0^2)y=0$$
Y haciendo un cambio de variable
$$\begin{align}&t=\mu r\\ &\frac{dR}{dr}=\frac {dR}{dt}·\frac{dt}{dr}=\mu \frac{dR}{dt}\\ &\\ &\frac{d^2R}{dr^2}=\frac{d\left(\mu \frac{dR}{dt}\right)}{dr}=\mu \frac{d\left(\frac{dR}{dt}\right)}{dt}\frac{dt}{dr}=\mu \frac{d^2R}{dt^2}\mu=\mu^2 \frac{d^2R}{dt^2}\\ &\\ &\text {y queda esta ecuación}\\ &\\ &\left(\frac t\mu\right)^2 \mu^2 \frac{d^2R}{dr^2}+\frac t \mu \mu \frac{dR}{dr}+(t^2-0^2)y=0\\ &\\ &\\ &t^2 \frac{d^2R}{dr^2}+t \frac{dR}{dr}+(t^2-0^2)y=0\\ &\\ &\\ &\text{Luego es una Bessel de t, }\text{siendo } t=\mu r\\ &\end{align}$$
Y la solución de la ecuación diferencial es una combinación lineal de las funciones de Bessel de primera y segunda especia, es
$$R(r) = c_1 J_0(\mu r)+c_2 Y_0(\mu r)$$
Y eso es todo.