Lo principal para poder resolver este problema es saber que dadas dos circunferencias tangentes, el punto de tangencia esta alineado con los centros de las circunferencias.
Vamos a conocer el centro de la circunferencia, eso se hace completando cuadrados
x^2+2x + y^2+6y + 5 =
(x+1)^2 - 1 + (y+3)^2 -9 + 5 =
(x+1)^2 + (y+3)^2 - 5 = 0
Y puesta en forma canónica (x-a)^2 + (y-b)^2 - R^2=0, el centro de la circunferencia es (a, b) luego el centro es:
(-1, -3)
Luego el centro de la circunferencia que nos piden estará en la recta determinada por los puntos
(-1, -3) y (1, -2)
Sea (a, b) el centro, pera pertenecer a esa recta se debe cumplir
(a+1)/(1-(-1)) = (b+3)/(-2-(-3))
(a+1) / 2 = (b+3) /1
a+1= 2b + 6
1) a - 2b = 5
Que esa circunferencia pase por (4, 1) nos ayudará a encontrar el centro.
Sea (a, b) el centro debe equidistar de los puntos (4, 1) y (1, -2). En vez de tomar la distancias tomamos los cuadrados de las distancia y nos ahorramos las molestas raíces cuadradas que no me gusta usar porque no se pueden dibujar.
(a-4)^2 + (b-1)^2 = (a-1)^2 + (b+2)^2
a^2 - 8a +16 + b^2 - 2b +1 = a^2 - 2a +1 + b^2 + 4b + 4
-6a - 6b +12 = 0
2) -a - b + 2 = -2
Las ecuaciones que ha marcado como 1) y 2) son las debo solucionar. Las he dejado así para resolver fácilmente sumándolas que nos dará
a - 2b - a - b = 5 - 2
-3b = 3
b=-1
y ahora calculamos a
a - 2(-1)= 5
a + 2 = 5
a = 3
Luego el centro es (a,b) = (3, -1)
Y ahora calculamos el radio (o el radio al cuadrado que es lo que necesitamos) calculando la distancia ( o el cuadrado de la distancia) a cualquiera de los puntos (4, 1) o (1, -2)
R^2 = (3-4)^2 + (-1-1)^2 = 1+4 = 5
La ecuación canónica es
(x-a)^2 + (y-b)^2 = R^2
(x-3)^2 + (y+1)^2 = 5
Esa es la mejor forma de expresarla, pero si quieres poner la ecuación general operas y será
x^2 - 6x + 9 + y^2 + 2y + 1 = 5
x^2 + y^2 - 6x + 2y + 5 = 0
Y eso es todo.