,

จาก $S$ เป็นเซตคำตอบของอสมการ

แก้อสมการเศษส่วนพหุนาม

$$\begin{eqnarray*} \frac{x^{4}-13x^{2}+36}{x^{2}+5x+6}&\geq&0\\ \frac{(x^2-9)(x^2-4)}{(x+3)(x-2)}&\geq&0\\ \frac{(x-2)(x+2)(x-3)(x+3)}{(x+3)(x+2)}&\geq&0 \end{eqnarray*}$$

เนื่องจาก $(x+3)(x+2)$ อยู่ที่ส่วน แสดงว่า $x+3$ และ $x+2$ ไม่เท่ากับ $0$ ดังนั้นเราสามารถตัด $x+3$ และ $x+2$ ได้

$$\begin{eqnarray*} \frac{(x-2)\cancel{(x+2)}(x-3)\cancel{(x+3)}}{\cancel{(x+3)}\cancel{(x+2)}}&\geq&0\\ (x-2)(x-3)&\geq&0 \end{eqnarray*}$$

วาดเส้นจำนวนจะได้

แต่ $x+3$ และ $x+2$ ไม่เท่ากับ $0$ ดังนั้น $x\neq-2,-3$

ดังนั้น

$$S=(-\infty,2]\cup[3,\infty)-\{-2,-3\}$$

,

จาก $a$ เป็นจำนวนที่มีค่าน้อยที่สุดในเซต $S\cap (2,\infty)$ 

หา $S\cap (2,\infty)$ 

จะได้

$$\left((-\infty,2]\cup[3,\infty)-\{-2,-3\}\right)\cap(2,\infty)=[3,\infty)$$

ดังนั้น

$$a=3$$

จาก $b$ เป็นจำนวนลบที่มีค่ามากที่สุดซึ่ง $b\not\in S$

แสดงว่า $b\in S'$

$$\begin{eqnarray*} S'&=&\left((-\infty,2]\cup[3,\infty)-\{-2,-3\}\right)'\\ &=&\{-2,-3\}\cup(2,3) \end{eqnarray*}$$

ดังนั้น

$$b=-2$$

จะได้ว่า

$$\begin{eqnarray*} a^2-b^2&=&3^2-(-2)^2\\ &=&9-4\\ &=&5 \end{eqnarray*}$$