Ecuaciones con dos incógnitas

a)
2x-3y=-1
2xy= -24
Multiplicamos la de arriba por -y para luego sumarla a la segunda
-2xy + 3y^2 = y
Y al sumarlas
3y^2 = -24 + y
3y^2 - y + 24 = 0
y = [1 +- sqrt(1 - 288)] / 6
y = [1 +- sqrt(287)] / 6
No tiene soluciones reales. Si ya has dado el tema de los Números Complejos las soluciones son:
y1 = (1/6) (1 + 287i)
y2 = (1/6) (1 - 287i)
Por eso que no tiene soluciones reales, fíjate a ver si está bien escrito el enunciado o es así.
------------------------
b)
x^2+y^2=9
2x-y= 6
Despejamos y en la segunda y lo sustituiremos en la primera
y = 2x-6
x^2 + (2x-6)^2 = 9
x^2 + 4x^2 + 36 - 24x = 9
5x^2 - 24x + 27 = 0
x = [24 +- sqrt(576 - 540)] / 10
x= [24 +- sqrt(36)] / 10
x = (24 +- 6) / 10
x1 = 18/10 = 9/5
x2 = 30 / 10 = 3
Luego las soluciones son 9/5 y 3
Y esto es todo. Espero que te sirva y lo hallas entendido.
Me comentas si has dado Números Complejos y se está bien el enunciado del primero.