Es un problema difícil, no conozco yo teorías que lleguen tan lejos. Si las has dado dime en que libro salen.
P(a,b,c) = (a + b)(a + b + c + 4) – 2c^2 + 5c + 3 =
a^2 + ab + ac + 4a +ab + b^2 + bc + 4b - 2c^2 + 5c + 3
Parece que pueda ser el producto de algo de este tipo
(a + b + nc + m) (a + b + pc + q) =
donde n,m,p,q son números
a^2+ ab + pac + qa + ab + b^2 + pbc + qb + nac + nbc + npc^2 + nqc + ma + mb +mpc + mq
Igualando las dos expresiones y simplificando los términos iguales (a^2+ab+ab+b^2) queda
ac + 4a + bc + 4b - 2c^2 + 5c + 3 =
pac + qa + pbc + qb + nac + nbc + npc^2 + nqc + ma + mb + mpc + mq=
agrupamos términos de este miembro para dejarlos como en el primero
(p+n)ac + (q+m)a + (p+n)bc + (q+m)b + npc^2 + (nq+mp)c + mq
Y ahora igualamos los coeficientes de los términos semejantes
p+n = 1
q+m = 4
p+n = 1
q+m = 4
np = -2
nq+mp = 5
mq = 3
Ves que hay ecuaciones iguales, eso es buena señal para confirmar que el tipo de factorización elegido es acertado, quitando las repetidas queda
1) p+n = 1
2) q+m = 4
3) np = -2
4) nq+mp = 5
5) mq = 3
De 1) y 3) tenemos que p, n son -1 y 2 aunque no sabemos cual es cual
De 2) y 5) sabemos que m, q son 1 y 3 tampoco sin saber cual es cual
Y ahora vamos a ver cómo deben ser para que se cumpla la ecuación 4, debe ser
2·3 + 1(-1) = 5
Aunque el orden de sumandos y factores puede ser otro
Igualamos para verlo claro
nq+mp = 2·3 + 1(-1)
pues me parece que los puse en orden sin querer
pueden ser n=2, p=-1, q=3, m=1
Entonces la factorización sería
P(a,b,c) = (a+b+2c+1)(a+b-c+3)
Vamos a comprobarlo
(a+b+2c+1)(a+b-c+3) =
a^2 + ab - ac + 3a + ab + b^2 - bc + 3b + 2ac + 2bc - 2c^2 + 6c + a + b - c + 3 =
a^2 + ab + ac + 4a + ab + b^2 + bc + 4b - 2c^2 + 5c + 3
Que es exactamente lo mismo que obtuvimos arriba al principio.
Y eso es todo, espero que te sirva y lo hayas entendido. Si no es así pregúntame, y si ya está bien, no olvides puntuar para poder hacer otras preguntas.
Y dado el problema tan raro me gustaría que me dijeras de dónde salió, si es de un libro que me digas el libro, el curso que estás estudiando de colegio o carrera, etc.
A lo mejor allí hay otro método, yo lo hice como mejor pude y creo que con bastante suerte de que la suposición que hice fue verdadera.