Hay que calcular la función distancia de los puntos de la recta al origen y ver que en ese punto está el mínimo.
Siempre que se hacen problemas de máximos o mínimos con la función distancia, se pueden hacer con la función distancia al cuadrado, los puntos máximos o mínimos son los mismos y nos ahorramos algo de derivación al eliminar la raíz cuadrada.
Entonces la función distancia al cuadrado de los puntos de la recta al origen es.
$$\begin{align}&f(t)=(at+\alpha)^2+(bt+\beta)^2+(ct+\gamma)^2\\ &\\ &\text {derivamos e igualamos a 0}\\ &\\ &f'(t) = 2a(at+\alpha)+ 2b(bt+\beta)+ 2c(ct+\gamma)=0\\ &\\ &a(at+\alpha)+ b(bt+\beta)+ c(ct+\gamma)=0\\ &\\ &a^2t+a\alpha+b^2t+b\beta+c^2t+c\gamma = 0\\ &\\ &(a^2+b^2+c^2)t= - (a\alpha+b\beta+c\gamma)\\ &\\ &t= - \frac{a\alpha+b\beta+c\gamma}{a^2+b^2+c^2}\end{align}$$
Luego sale el punto que dice el enunciado, es un punto crítico. Para ver si es un máximo o mínimo relativo se puede hacer de dos formas.
1) Calculamos la derivada segunda que es
f ''(t) = 2a^2+2b^2+2c^2
La cual es siempre positiva y por lo tanto es un mínimo
2) Por deducción. Solo hay un punto crítico. Si es máximo todos los demás puntos están más cerca, si es mínimo todos estarán mas lejos. Y el límite de está función cuando t tiende a infinito es infinito, luego algún punto habrá más lejano que t0 cuya distancia al origen es finita y entonces todos están más lejos y por lo tanto es un mínimo.
Y eso es todo.