·
Me temo que es imposible a no ser que haya una errata en el enunciado.
$$\begin{align}&\lim_{x\to 0}\frac{sen\;x^2}{\cos^2(Ax)-1}=\\&\\&\text{aplicamos la regla de l'Hôpital derivando}\\&\text{el numerador y el denominador}\\&\\&\lim_{x \to 0}\frac{2x·\cos\;x^2}{-2A·sen(Ax)\cos(Ax)}=\\&\\&\text{el denominador contiene el seno del ángulo doble}\\&\\&\lim_{x \to 0}\frac{2x·\cos\;x^2}{-A·sen(2Ax)}=\\&\\&\text{aplicamos l'Hôpital de nuevo}\\&\\&\lim_{x \to 0}\frac{2(\cos\;x^2-2x^2sen\;x^2)}{-2A^2·\cos(2Ax)}=\frac{2(1-0)}{-2A^2·1}=\\&\\&\frac{2}{-2A^2}=-\frac{1}{A^2}\\&\end{align}$$
Y eso no puede valer nunca 1 ya que siempre tiene valor negativo.
En el caso de que el enunciado correcto fuera que el límite es -1 igualaríamos a 1 el límite que hemos obtenido y las respuestas serían A=1 y A=-1
Y eso es todo, si acaso revisa el enunciado, y si es ese no hay respuesta.