El dibujo deja bastante claro el problema, pero vamos a hacerlo como si fuese un problema cualquiera.
Hallamos la ecuación canónica de la segunda
C2: (x+2)^2 +(y+4)^2 = 80+4+16=100
C2: (x+2)^2 +(y+4)^2=100
Es una circunferencia de radio 10 con centro en (-2,-4)
La primera era de radio 4 con centro (0,0)
Bueno pues con esos datos se puede hacer el dibujo para ver que la primera está dentro de la segunda.
Vamos a ver que el punto (4,-12) está en la segunda circunferencia.
(4+2)^2 +(-12+4)^2 = 36 + 64 = 100
Lo está. Pues ahora tendremos que trazar las tangentes a la circunferencia interior que pasan por (4,-12)
Las rectas que pasan por (4,-12) son de la forma
(4,-12)+t(a,b) = (4+at, -12+bt)
Y su corte con la circunferencia será
(4+at)^2+(-12+bt)^2 = 16
16+a^2·t^2 + 8at +144 + b^2·t^2 - 24bt = 16
(a^2+b^2)t^2 +(8a-24b)t +144 = 0
La recta será tangente cuando la el discriminante de esta ecuación sea 0
(8a-24b)^2 - 4·144(a^2+b^2) =0
64a^2 + 576b^2 - 384ab - 576a^2 - 576b^2 = 0
- 512a^2 - 384ab = 0
Una solución es a=0
La otra
-512a - 384b = 0
-4a - 3b = 0
3b = - 4a
por ejemplo a=3, b=-4
Luego las tangentes son
r1: (4, -12+t) que es lo mismo que (4, t)
r2: (4+3t, -12-4t)
Y ahora calculamos los cortes con la segunda circunferencia
r1 n C2:
(4+2)^2 +(t+4)^2=100
(t+4)^2 = 64
t+4=+-8
t = 4 y -12
para t=4 tenemos el punto (4,4)
para t = -12 tenemos el punto (4,-12) que es el mismo punto A.
Luego el punto B es (4,4)
Y ahora calculamos r2 n C2
(4+3t+2)^2 + (-12-4t+4)^2=100
(6+3t)^2 + (-8-4t)^2 = 100
36 +9t^2 + 36t + 64 + 16t^2 + 64t = 100
25t^2 + 100t =0
t=0 es una solución y la otra
25t +100 = 0
t=-4
Y los puntos correspondientes son
para t=0 ==>(4,-12) que es el punto A
para t=-4 ==>(4-3·4, -12+16) = (-8, 4)
Luego el punto C es (-8,4)
Lo que procedería seria calcular la mitad del producto vectorial de los vectores AB y AC. Pero es que se ve tan claro que forman un triángulo rectángulo
A(4, -12), B(4, 4), C(-8,4)
A y B están en vertical y el segmento mide 16
B y C están en horizontal y el segmento mide 12
Esos segmentos son los catetos y son base y altura
Luego el área del triángulo es
Área = 16·12 / 2 =16·6 = 96 u^2
La verdad es que el dibujo me ayudó bastante, aquí está:

Y eso es todo.