Lo que pasa es que no sé cuánta teoría te habrán enseñado.
Todo parte de la función exponencial que se define así para los números complejos
Si z = a+bi
e^z = e^(a+bi) = e^a(cosb + i·senb)
Entonces dado un un número complejo z se define lnz como el número complejo w tal que
e^w = z
debemos conseguir un w tal que
e^w = x^2 + 2xyi - y^2 - a^2
sea w = c+di
e^c(cosd + i send) = x^2-y^2-a^2 + i(2xy)
igualando parte real e imaginaria
e^c(cosd) = x^2-y^2-a^2
e^c(send) = 2xy
si dividimos la segunda entre la primera tenemos
tgd = 2xy / (x^2-y^2-a^2)
d = arctg[2xy / (x^2-y^2-a^2)] + 2k·Pi
Si elevamos las dos al cuadrado y las sumamos queda
e^(2c) = [(x^2-y^2-a^2)^2+4x^2y^2]
e^c = sqrt[(x^2-y^2-a^2)^2+4x^2y^2]
c = ln(sqrt[(x^2-y^2-a^2)^2+4x^2y^2])
Luego la parte real será
$$\begin{align}&Real=\frac{m}{2\pi}ln\left(\sqrt{(x^2-y^2-a^2)^2+4x^2y^2}\right)\\ &\\ &imaginaria = \frac{m}{2\pi}arctg \left(\frac{2xy}{x^2-y^2-a^2}\right)\end{align}$$ Y eso es todo, no se si será suficiente, si te pueden algo más dímelo. Y si ya está bien no olvides puntuar.