Como puedo calcular el valor exacto de

Para aclararnos 5Pi/8 = 5·180º/8 = 112.5º

No es ún ángulo de los sencillos, pero es la mitad de 225º (=5pi/4) que conocemos exacto. Y hay una fórmula para calcular el coseno del ángulo mitad.

$$\begin{align}&\cos \frac A2 =\pm \sqrt{\frac{1+cosA}{2}}\\ &\\ &\cos\,\frac{5\pi}{4}= -\frac{\sqrt 2}{2}\\ &\\ &\cos\,\frac{5\pi}{8}=-\sqrt{\frac{1-\frac{\sqrt 2}{2}}{2}}=\\ &\\ &\\ &-\sqrt{\frac{2-\sqrt 2}{4}}=-\frac{\sqrt{2-\sqrt 2}}{2}\end{align}$$

La cosecante es 1/seno. Y la fórmula del coseno de la diferencia de dos ángulos es

sen(A-B) = senA·cosB - cosA·senB

pi/4 es el típico 45º

2pi/3 es 120º

$$\begin{align}&sen\left(\frac{\pi}{4}-\frac{2\pi}{3}  \right)=\\ &\\ &\\ &\\ &sen\left(\frac{\pi}{4}\right)\cos\left(\frac{2\pi}{3}\right)- \cos\left(\frac{\pi}{4}\right)sen\left(\frac{2\pi}{3}\right)=\\ &\\ &\\ &\\ &\frac{\sqrt 2}{2}·\frac {-1}2-\frac{\sqrt 2}{2}·\frac {\sqrt 3}2=\frac{-\sqrt 2(\sqrt 3+1)}{4}\\ &\\ &\\ &\\ &\\ &csc\left(\frac{\pi}{4}-\frac{2\pi}{3}  \right)=\frac{-4}{\sqrt 2(\sqrt 3+1)}\end{align}$$

Y ahora hacemos la resta:

$$\begin{align}&-\frac{\sqrt{2-\sqrt 2}}{2}+\frac{4}{\sqrt 2(\sqrt 3+1)}=\\ &\\ &\\ &-\frac{\sqrt{2-\sqrt 2}}{2}+\sqrt 2(\sqrt 3-1)\approx0.652592748\end{align}$$

Pues esa es la expresión y el valor aproximado qu ehe comprobado que coincide con el obtenido calculando la fórmula trigonométrica con la calculadora, luego está bien.