,

เริ่มจากการทำให้อยู่ในรูปเศษส่วนเดียวกัน

$$\begin{eqnarray*} z&=& \left( i - \dfrac{1}{i+2} \right)^{-1}\\ &=&\left(\frac{i(i+2)-1}{i+2} \right)^{-1}\\ &=&\left(\frac{i^2+2i-1}{i+2} \right)^{-1}\\ &=&\left(\frac{-1+2i-1}{i+2} \right)^{-1}\\ &=&\left(\frac{2i-2}{i+2}\right)^{-1} \end{eqnarray*}$$

เนื่องจากมีกำลัง $-1$ และตัวเศษไม่เท่ากับ $0$ เราจึงกลับเศษเป็นส่วนได้ดังนี้

$$z=\frac{i+2}{2(i-1)}$$

จากนั้นคูณด้วยคอนจูเกตของตัวส่วน จะได้

$$\begin{eqnarray*} z&=&\frac{i+2}{2(i-1)}\cdot\left(\frac{i+1}{i+1}\right)\\ &=&\frac{i^2+i+2i+2}{2(i^2-1)}\\ &=&\frac{-1+3i+2}{2(-1-1)}\\ &=&\frac{1+3i}{-4} \end{eqnarray*}$$

จึงได้ว่า

$$z=\frac{1+3i}{-4}$$

,

แทนค่า $z=\frac{1+3i}{-4}$ จากขั้นตอนก่อนหน้าลงในสิ่งที่โจทย์ต้องการ

$$\begin{eqnarray*} \left|16z^2-8z+3-8i\right|&=&\left|16\left(\frac{1+3i}{-4}\right)^2-8\left(\frac{1+3i}{-4}\right)+3-8i\right|\\ &=&\left|(1^2+6i+3i^2)+2(1+3i)+3-8i\right|\\ &=&\left|1+6i-9+2+6i+3-8i\right|\\ &=&\left|-3+4i\right| \end{eqnarray*}$$

จาก $|a+bi|=\sqrt{a^2+b^2}$ จะได้

$$\begin{eqnarray*} \left|16z^2-8z+3-8i\right|&=&\left|-3+4i\right|\\ &=&\sqrt{(-3)^2+(4)^2}\\ &=&\sqrt{25}\\ &=&5 \end{eqnarray*}$$

ดังนั้น 

$$\left|16z^2-8z+3-8i\right|=5$$