Se me había olvidado insertar el dibujo.

Corresponde a la parte a recién hecha
b) F(1/2, 2) = P(Y1<=1/2, Y2<=2)
Ahora Y2 debe ser menor que 2. Se nos fijamos en el dibujo, eso hace que el triangulito superior entre dentro de los valores validos. El límite inferior para Y2 será y1-1 y el superior 1-y1
$$\begin{align}&F(1/2,1/2)=\int_0^{1/2}\int_{y_1-1}^{1-y_1}30y_1y_2^2dy_2dy_1 =\\ &\\ &\\ &\int_0^{1/2}\left[ 10y_1y_2^3 \right]_{y_1-1}^{1-y_1}dy_1=\\ &\\ &\\ &\int_0^{1/2}10y_1\left(1-3y_1+3y_1^2-y_1^3 -y_1^3+3y_1^2-3y_1+1\right)dy_1=\\ &\\ &\\ &\int_0^{1/2}\left(20y_1-60y_1^2+60y_1^3-20y_1^4\right)dy_1=\\ &\\ &\\ &\\ &\left[10y_1^2-20y_1^3+15y_1^4-4y_1^5 \right]_0^{1/2}=\\ &\\ &\\ &\frac{10}{4}-\frac{20}{8}+\frac{15}{16}-\frac{4}{32}=\\ &\\ &\\ &\frac{80-80+30-4}{32}=\frac{26}{32}=\frac{13}{16}\end{align}$$
c) P(Y1 >Y2)
En el dibujo trazamos la recta y2=y1. Pasa por (0,0) y el punto F del dibujo. Lo que está a la derecha cumple Y1>Y2. Lo más sencillo es restar de 1 el triangulito que queda encima de esa recta.
$$\begin{align}&P(Y1 \gt Y2)=1-\int_0^{1/2}\int_{y_1}^{1-y_1}30y_1y_2^2dy_2dy_1=\\ &\\ &\\ &1-\int_0^{1/2}10y_1\left[ y_2^3 \right]_{y_1}^{1-y_1}dy_1=\\ &\\ &\\ &\\ &1-\int_0^{1/2}10y_1(1-3y_1+3y_1^2-y_1^3-y_1^3)dy_1=\\ &\\ &\\ &1-\int_0^{1/2}(10y_1-30y_1^2+30y_1^3-20y_1^4)dy_1=\\ &\\ &\\ &1- \left[ 5y_1^2 -10y_1^3+\frac{30}{4}y_1^4-4y_1^5\right]_0^{1/2} =\\ &\\ &\\ &1 - \frac54 +\frac{10}{8}-\frac{30}{64}+\frac{4}{32}=\\ &\\ &\\ &\frac{64-80+80-30+8}{64}=42/64 =\frac{21}{32}=0.65625\end{align}$$
Y eso es todo.