,

จากที่โจทย์กำหนดให้ $c=\arcsin{\frac35}+\operatorname{arccot}{\frac53}+\arctan{\frac89}$ มีมุมทั้งหมดสามมุม จึงกำหนดตัวแปรดังนี้

$A=\arcsin{\frac35}$
$B=\operatorname{arccot}{\frac53}$
$C=\arctan{\frac89}$

วาดรูปสามเหลี่ยมมุมฉากที่มีสัดส่วนความยาวด้านของแต่ละมุม

จากนั้นจับคู่คำนวณค่า $A+B = \arcsin{\frac35}+\operatorname{arccot}{\frac35}$ ในรูป $\arctan$ โดยเริ่มจากทดลองคำนวณ $\tan(A+B)$ โดยใช้สูตร $\tan(A+B) = \frac{\tan A + \tan B}{1-\tan A \tan B}$ แล้วแทนค่า $\tan A = \frac34$ ที่อ่านได้จากสามเหลี่ยมที่มีมุม $A$ และแทนค่า $\tan B = \frac35$ ซึ่งอ่านได้จากสามเหลี่ยมที่มีมุม $B$ เช่นเดียวกัน

\begin{eqnarray*}
\tan(A+B) &=& \frac{\tan A+\tan B}{1-\tan A \tan B}\\
&=& \frac{\frac34 + \frac35}{1-\frac34\cdot\frac35}\\
&=& \frac{\frac34\cdot\frac55+\frac35\cdot\frac44}{1-\frac{9}{20}}\\
&=& \frac{\frac{15}{20}+\frac{12}{20}}{\frac{11}{20}}
\end{eqnarray*}

คำนวณค่าแล้วได้

\begin{eqnarray*}
\tan(A+B) &=& \frac{\frac{15+12}{20}}{\frac{20-9}{20}}\\
&=& \frac{\frac{27}{20}}{\frac{11}{20}}\\
&=& \frac{27}{20}\cdot\frac{20}{11}\\
&=& \frac{27}{11}
\end{eqnarray*}

ดังนั้นเราจึง take $\arctan$ อีกครั้งจะได้

\begin{eqnarray*}
\tan(A+B) &=& \frac{27}{11}\\
\cancel{\arctan}\left(\cancel{\tan}(A+B)\right) &=& \arctan\frac{27}{11}\\
A+B &=& \arctan\frac{27}{11}
\end{eqnarray*}

ดังนั้นเราสามารถเปลี่ยน $c=A+B+C$ ไปเป็น $c=(A+B)+C= \arctan\frac{27}{11}+C$ ได้

คำนวณผลรวม $\arctan$ คู่ที่เหลือในรูป $\arctan$ ด้วยวิธีการเดิม
take $\tan$ กับผลบวกมุม $c=\arctan\frac{27}{11}+C$

\begin{eqnarray*}
\tan\left(\arctan\frac{27}{11}+C\right) &=& \frac{\cancel{\tan}\left(\cancel{\arctan}\frac{27}{11}\right) + \tan C}{1-\cancel{\tan}\left(\cancel{\arctan}\frac{27}{11}\right)\cdot\tan C}\\
&=& \frac{\frac{27}{11}+\frac89}{1-\frac{27}{11}\cdot\frac89}\\
&=& \frac{\frac{331}{99}}{-\frac{13}{11}}\\
&=& -\frac{331}{117}
\end{eqnarray*}

ดังนั้นเราจึงได้ว่า $c = \arctan\left( - \frac{331}{117}\right)$ ซึ่งอยู่ในรูป $\arctan$ อย่างที่เราต้องการแล้ว

,

จากสูตร $\operatorname{arccot}{\frac{a}{b}} = \arctan{\frac{b}{a}}$ จะได้ว่า $\operatorname{arccot}\frac{1}{2x} = \arctan{2x}$ และ $\operatorname{arccot}\frac{1}{3x} = \arctan{3x}$ ดังนั้นเราจึง take $\tan$ เข้าไปในสมการ $\arctan 2x + \arctan 3x = c$ และเปลี่ยน $c$ เป็น $-\frac{331}{117}$ ซึ่งได้จากขั้นตอนที่แล้ว

\begin{eqnarray*}
\tan\left(\arctan 2x +\arctan 3x \right) &=& \tan \arctan \left(-\frac{331}{117} \right) \\
\frac{\tan\arctan 2x + \tan \arctan 3x}{1-\tan\arctan 2x \cdot \tan \arctan 3x} &=&  \tan \arctan \left(-\frac{331}{117} \right)\\
\frac{2x+3x}{1-(2x)(3x)} &=& -\frac{331}{117}\\
\frac{5x}{1-6x^2} &=& -\frac{331}{117}
\end{eqnarray*}

จัดรูปสมการนี้โดยการคูณไขว้

\begin{eqnarray*}
(5x)(117) &=& (-331)\left(1-6x^2 \right)\\
585x &=& -331+1986x^2\\
0 &=& 1986x^2 -585x-331
\end{eqnarray*}

จากสมการ $1986x^2 -585x-331 = 0$ จะได้ผลคูณคำตอบเป็นสัมประสิทธิ์พจน์ค่าคงตัวหารด้วยสัมประสิทธิ์พจน์ $x^2$ คือ

\begin{eqnarray*}
\text{ผลคูณคำตอบ} &=& \frac{-331}{1986}\\
&=& -\frac16
\end{eqnarray*}

ดังนั้นผลคูณคำตอบของสมาชิกใน $A$ เท่ากับ $-\frac16$