https://www.passeidireto.com/pergunta/103594280/qual-o-volume-maximo-de-um-paralelepipedo-retangulo-inscrito-em-uma-esfera-de-ra
Recomendo esse arquivo que achei no Passei Direto