$ $
증명. $C = A+B$라 정의하자. 이제 행렬 $C$에 대하여 케일리-해밀턴 정리(Cayley-Hamilton theorem)를 적용하면,
\[ C^2 - \tr(C)C + \det(C)I = O \tag*{$(1)$} \]
을 얻는다. 또한 $A^2 + 2AB + B^2=O$라는 가정으로부터
\[ \begin{align*} CA - AC &= (A+B)A - A(A+B) \\[5px] &= BA - AB + (A^2 + 2AB + B^2) \\[5px] &= A^2 + AB + BA + B^2 \\[5px] &= (A+B)^2 \\[5px] &= C^2 \end{align*} \]
따라서 $C^2 = CA - AC$를 얻는다.
$ $
이제 $\det(C) \neq 0$이라 가정해 보자. 그러면 $C^{-1}$가 존재하므로
\[ \begin{align*} C^2 = CA - AC &\implies I = AC^{-1} - C^{-1}A \\[5px] &\implies 2 = \tr(C^2) = \tr(AC^{-1}) - \tr(C^{-1}A) = 0 \end{align*} \]
이 되어 모순이 발생한다. 따라서 $\det(A)=0$임을 알 수 있고, 이를 식 $(1)$에 대입하면 $C^2 = \tr(C)C$여야 한다. 이 식의 양변에 다시 $\tr$를 취하면
\[ 0 = \tr(C^2) = \tr(\tr(C)C) = (\tr(C))^2 \]
즉, $\tr(C)=0$임을 알 수 있다. 결과적으로 $\det(A) = \tr(A) = 0$이므로 식 $(1)$에 이를 대입하며 $C^2 = O$, 즉, $(A+B)^2 = O$를 얻는다..