$ $
풀이. $\lambda(A) = (\lambda_1,\, \lambda_2,\, \ldots,\, \lambda_n) \in \R^n$가 행렬 $A$의 고윳값(eigenvalue) 벡터라 하자. $A$가 가역행렬이므로 모든 $i \in [n]$에 대하여 $\lambda_i \neq 0$이고, $\lambda(A^2) = (\lambda_1^2,\, \lambda_2^2,\, \ldots,\, \lambda_n^2)$가 성립한다. 또한
\[ \begin{align*}
\ip{\lambda(A)}{\lambda(A^2)} &= \sum_{i=1}^{n} \lambda_i^3 = \tr(A^3) \\[5px]
\ip{\vphantom{{}^2}\lambda(A)}{\lambda(A)} &= \sum_{i=1}^{n} \lambda_i^2 = \tr(A^2) \\[5px]
\ip{\lambda(A^2)}{\lambda(A^2)} &= \sum_{i=1}^{n} \lambda_i^4 = \tr(A^4)
\end{align*} \]
그러므로 $\abs{\ip{\lambda(A)}{\lambda(A^2)}}^2 = \ip{\vphantom{{}^2}\lambda(A)}{\lambda(A)}\ip{\lambda(A^2)}{\lambda(A^2)}$가 성립함을 알 수 있다. 따라서 코시-슈바르츠 부등식(Cauchy-Schwarz inequality)의 등호조건에 의해 $k\lambda(A) = \lambda(A^2)$가 성립한다. 즉, 각각의 $i \in [n]$에 대하여 $k\lambda_i = \lambda_i^2$이고 (문제의 조건에 의해) $\lambda_i \neq 0$이므로, $\lambda_i = k$임을 알 수 있다.
$ $
한편, 조건 $\tr(A^2) = \tr(A^3) = \tr(A^4)$에서 \[ \sum_{i=1}^{n} \lambda_i^2 = \sum_{i=1}^{n} \lambda_i^3 = \sum_{i=1}^{n} \lambda_i^4 \quad \implies \quad nk^2 = nk^3 = nk^4 \] 이 성립하므로, $k=1$이어야만 한다. (만약 $k=0$인 경우, $k\lambda_i = \lambda_i^2$로부터 $\lambda_i^2 = 0$이 되어 $\lambda_i \neq 0$이라는 사실에 모순이다.) 그러므로 $\tr(A) = n$임을 알 수 있다.$ $