,

$$\begin{eqnarray*} \left|\vec{b}-\vec{c}\right|^{2} & = & 5^{2}\\ \left|\left(6\vec{i}+y\vec{j}\right)-\left(2\vec{i}+\vec{j}\right)\right|^{2} & = & 25\\ \left|4\vec{i}+\left(y-1\right)\vec{j}\right|^{2} & = & 25\\ 4^{2}+\left(y-1\right)^{2} & = & 25\\ \left(y-1\right)^{2} & = & 9\\ y & = & 4,-2 \end{eqnarray*}$$

,

จาก $\vec{a}$ ตั้งฉากกับ $\vec{b}$ แสดงว่า $\vec{a}\cdot\vec{b}=0$

$$\begin{eqnarray*} \vec{a}\cdot\vec{b} & = & 0\\ \left(x\vec{i}+\frac{12}{5}\vec{j}\right)\cdot\left(6\vec{i}+y\vec{j}\right) & = & 0\\ 6x+\left(\frac{12}{5}\right)y & = & 0\\ 6x+2.4y & = & 0 \end{eqnarray*}$$

กรณี $y=4$ จะได้ $x=-1.6$ และ 

$$\begin{eqnarray*} \vec{a}\cdot\vec{c} & = & \left(-1.6\vec{i}+2.4\vec{j}\right)\cdot\left(2\vec{i}+\vec{j}\right)\\  & = & -3.2+2.4\\  & < & 0 \end{eqnarray*}$$

ดังนั้นจึงใช้ค่า $x,y$ คู่นี้ไม่ได้ (เพราะโจทย์กำหนดว่า $\vec{a}\cdot\vec{c}>0$)

กรณี $y=-2$ จะได้ $x=0.8$ และ

$$\begin{eqnarray*} \vec{a}\cdot\vec{c} & = & \left(0.8\vec{i}+2.4\vec{j}\right)\cdot\left(2\vec{i}+\vec{j}\right)\\  & = & 1.6+2.4\\  & > & 0 \end{eqnarray*}$$

ดังนั้น $x=0.8$, $y=-2$, $\vec{a}=0.8\vec{i}+2.4\vec{j}$ และ $\vec{b}=6\vec{i}-2\vec{j}$

,

$$\begin{eqnarray*} \left|5\vec{a}-\vec{b}\right|^{2} & = & \left|5\left(0.8\vec{i}+2.4\vec{j}\right)-\left(6\vec{i}-2\vec{j}\right)\right|^{2}\\  & = & \left|\left(4\vec{i}+12\vec{j}\right) -\left(6\vec{i}-2\vec{j}\right)\right|^2\\  & = & \left|-2\vec{i}+14\vec{j}\right|^{2}\\  & = & (-2)^2+(14)^2\\  & = & 200 \end{eqnarray*}$$