digamos que X es el n'umero que queremos encontrar entonces:
X = 3Y
X^2 - Y^2 = 648
entonces podrias reemplazar X en la segunda ecuacion:
(3Y)^2 - Y^2 = 648
y operas y despejas:
9Y^2 - Y^2 = 648
8Y^2 = 648
Y^2 = 648 / 8
Y^2 = 81
y despejas el cuadradado aplicando una raiz a cada lado de la ecuacion:
raiz Y^2 = raiz 81
entonces esta es la solucion
Y = 9;
luego sabemos cuanto es X reemplazando en la primera ecuacion Y;
X = 9*3
X = 27. Ademas puedes comprobar que 27 al cuadrrado menos 9 al cuadrado es 648.
Suerte !!