,

จาก $|\vec{A}| = |\vec{B}|$ จะได้

$$\begin{eqnarray*} \sqrt{16^2 + a^2} &=& \sqrt{8^2 + b^2}\\ 256 + a^2 &=& 64 + b^2\\ 192 &=& b^2 - a^2 \;\;\;----\;(1) \end{eqnarray*}$$

,

เนื่องจาก $\vec{B}$ ทำมุม $60^\circ$ กับ $\vec{A}$ และ $|\vec{A}| = |\vec{B}|$ จะได้ผลคูณเชิงสเกลาร์คือ

$$\begin{eqnarray*} \vec{A} \cdot \vec{B} &=& |\vec{A}| |\vec{B}| \cos \theta\\ \vec{A} \cdot \vec{B} &=& |\vec{A}|^2 \cos \theta\\ (16)(8) + ab &=& (\sqrt{16^2 + a^2})^2 \cos 60^\circ\\ 128 + ab &=& (256 + a^2) \left( \frac{1}{2} \right) \end{eqnarray*}$$

จัดรูปโดยการย้าย $\displaystyle \frac{1}{2}$ จะได้

$$\begin{eqnarray*} 2(128 + ab) &=& 256 + a^2\\ 256 + 2ab &=& 256 + a^2\\ 2ab &=& a^2 \end{eqnarray*}$$

จัดรูปโดยการดึงตัวร่วม ดังนี้

$$\begin{eqnarray*} 2ab &=& a^2\\ 0 &=& a^2 - 2ab\\ 0 &=& a(a-2b) \end{eqnarray*}$$

จะได้ว่า $a = 0$ หรือ $a = 2b$

,

ถ้า $a=0$ แทนในสมการ $(1)$ จะได้

$$\begin{eqnarray*} 192 &=& b^2 - 0\\ \pm \sqrt{192} &=& b \end{eqnarray*}$$

ถ้า $a = 2b$ จะได้

$$\begin{eqnarray*} 192 &=& b^2 - (2b)^2\\ 192 &=& b^2 - 4b^2\\ 192 &=& -3b^2\\ -64 &=& b^2 \end{eqnarray*}$$

ซึ่งจะได้ว่า $b \notin R$ จึงเป็นไปไม่ได้

ดังนั้น $b = \pm \sqrt{192}$

,

ถ้า $b = \sqrt{192}$ จะได้ $(a+b)^2 = (\sqrt{192})^2 = 192$

ถ้า $b = -\sqrt{192}$ จะได้ $(a+b)^2 = (-\sqrt{192})^2 = 192$

ดังนั้น $(a+b)^2 = 192$