La función sen^-1 se llama arcoseno, la función arcoseno(x) la escribiré arcsenx. Es una integral bastante complicada, nos dejamos de límites por el momento
$$\begin{align}&\int x·arcsen\,x\;dx=\\ & \\ & u=arcsen(x)\quad du \frac{dx}{\sqrt{1-x^2}}\\ & \\ & dv=xdx\quad\quad\quad v=\frac {x^2} {2}\\ & \\ & =\frac{x^2·arcsen\,x}{2}-\int \frac{x^2}{2 \sqrt{1-x^2}}dx=\end{align}$$Ahora calculamos esta aparte:
$$\begin{align}&-\int \frac{x^2}{2 \sqrt{1-x^2}}dx=\\ &\\ &x=sent implies t=arcsen\,x\\ &dx=\cos t\;dt\\ &\\ &=-\int \frac{sen^2t·\cos t}{2 \sqrt{1-sen^2t}}dt=\\ &\\ &-\int \frac{sen^2t·\cos t}{2 \cos t}dt=\\ &\\ &-\frac 12\int sen^2t \;dt=\\ &\\ &-\frac 12\int\left( \frac 12-\frac{\cos 2t}{2} \right)dt =\\ &\\ &-\frac t4+ \frac{sen 2t}{8}=\\ &\\ &-\frac t4+ \frac{2sent·cost}{8}=\\ &\\ &\frac {-t+sent·cost}{4}=\\ &\\ &\frac{-arcsen\,x+x \sqrt{1-x^2}}{4}\\ &\\ &\text{y juntando esta con la que dejamos queda}\\ &\\ &I=\frac{x^2·arcsen\,x}{2}+\frac{x\sqrt{1-x^2}\;-arcsen\,x}{4}\\ &\\ &\text {y evaluada entre 0 y 1 es}\\ &\\ &I_0^1=\frac{arcsen \,1}{2}+\frac{0-arcsen\,1}{4}-\frac 02+\frac{0-arcsen\,0}{4}=\\ &\\ &\frac{\frac{\pi}{2}}{2}-\frac{\frac{\pi}{2}}{4}=\frac{\pi}{4}-\frac {\pi}{8}=\frac {\pi}{8}\end{align}$$Y eso es todo.