Extraemos factor común x en el numerador
$$\begin{align}&x[(a+b)^2-(a+b)+1] + (a+b) - (a+b) + 1 =\\ &\\ &x[(a+b)^2 - (a+b) +1] + 1\end{align}$$
Nos fijamos que el lado derecho podemos ponerlo como
$$\begin{align}&(a+b)^2 - (a+b) +1\\ &\\ &\text{si llamamos }\\ &\\ &c = (a+b)^2 - (a+b) +1 \end{align}$$
podemos poner a ligualdad como
$$\begin{align}&\frac{cx +1}{a+b+1} = c\\ & \\ & cx+1=c(a+b+1)\\ & \\ & cx = c(a+b+1) -1\\ & \\ & x= \frac{c(a+b+1) -1}{c}\\ & \\ & x = a+b+1 - \frac 1c\\ & \\ & x= a+b+1 - \frac{1}{(a+b)^2-(a+b)+1}\\ & \\ & x= \frac{(a+b)^3-(a+b)^2+a+b+(a+b)^2-(a+b)+1-1}{(a+b)^2-(a+b)+1}\\ & \\ & x=\frac{(a+b)^3}{(a+b)^2-(a+b)+1}\\ & \\ & \end{align}$$
Llamemos d=(a+b), tenemos esta división
d^3 |d^2 - d + 1
-d^3 + d^2 - d ------------
--------------- d + 1
0 d^2 - d
-d^2 + d - 1
-----------
0 0 - 1
$$\begin{align}&x=d+1-\frac 1{d^2-d+1}\\ &\\ &x=a+b+1-\frac{1}{(a+b)^2-(a+b)+1}\end{align}$$
En vista del pobre resultado de la división casi es mejor dejarlo como estaba antes
$$\begin{align}& x=\frac{(a+b)^3}{(a+b)^2-(a+b)+1}\end{align}$$
Y por supuesto el resultado no se parece a ninguna de las respuestas que aparecen. Revisa el enunciado. Si es ese, está mal. He revisado el ejercicio con un programa de ordenador y da exactamente la misma respuesta que yo he obtenido.