Si entendí bien lo que piden, el planteo sería
$$\begin{align}&(a+(\frac{\sqrt{3}}{2})i)^2=(a-(\frac{\sqrt{3}}{2})i)\\&Veamos...\\&a^2+a \sqrt{3} i + \frac{3}{4}i^2=a-(\frac{\sqrt{3}}{2})i\\&a^2-\frac{3}{4} +a \sqrt{3} i =a-(\frac{\sqrt{3}}{2})i\\&\text{Para que dos complejos sean iguales, tanto la parte real como la imaginaria deben coincidir, por lo tanto}\\&a^2-\frac{3}{4} = a\\&a \sqrt{3}=-\frac{\sqrt{3}}{2}\\&\text{Despejamos en la segunda ecuación}\\&a = -\frac{\sqrt{3}}{2 \cdot \sqrt{3}}=-\frac{1}{2}\\&\text{Veamos si cumple la primer ecuación}\\&(-\frac{1}{2})^2-\frac{3}{4} = -\frac{1}{2}\\&(\frac{1}{4})-\frac{3}{4} = -\frac{1}{2}\\&-\frac{1}{2}=-\frac{1}{2} ...Cumple!\\&\text{Por lo tanto la solución es a = }-\frac{1}{2}\end{align}$$
Salu2