,

หา $f(x)$

แทนค่า $x$ ด้วย $g^{-1}(x)=2x+1$ ลงใน  $(f\circ{g})(x)=4x-5$

$$\begin{eqnarray*} \left(f\circ g\right)\left(x\right) & = & 4x-5\\ \left(f\circ g\right)\left(g^{-1}\left(x\right)\right) & = & 4g^{-1}\left(x\right)-5\\ \left(f\circ g\circ g^{-1}\right)\left(x\right) & = & 4\left(2x+1\right)-5\\ \left(f\circ \cancel{g\circ g^{-1}}\right)\left(x\right) & = & 8x+4-5\\ f\left(x\right) & = & 8x-1 \end{eqnarray*}$$

จะได้ $f(x)=8x-1$

หา $f^{-1}(x)$

จาก $f(x)=8x-1$ เปลี่ยนเป็น $y=8x-1$ จากนั้นสลับตัวแปรระหว่าง $x$ กับ $y$ ได้ $x=8y-1$ แล้วแก้หาค่า $y$ ในเทอม $x$

$$\begin{eqnarray*} x & = & 8y-1\\ x+1 & = & 8y\\ \frac{x+1}{8} & = & y\\ f^{-1}\left(x\right) & = & \frac{x+1}{8} \end{eqnarray*}$$

นั่นคือ $f^{-1}(x)=\frac{x+1}{8}$

หา $g(x)$

จาก $g^{-1}(x)=2x+1$ เปลี่ยนเป็น $y=2x+1$ จากนั้นสลับตัวแปรระหว่าง $x$ กับ $y$ ได้ $x=2y+1$ แล้วแก้หาค่า $y$ ในเทอมของ $x$

$$\begin{eqnarray*} x & = & 2y+1\\ x-1 & = & 2y\\ \frac{x-1}{2} & = & y\\ g\left(x\right) & = & \frac{x-1}{2} \end{eqnarray*}$$

ดังนั้น $g(x)=\frac{x-1}{2}$

,

คำนวณ $4\left(f^{-1}\circ{g}\right)(2x+1)$ โดยเปลี่ยน $2x+1$ ไปเป็น $g^{-1}(x)$ แล้วตัดกับ $g$ ดังนี้

$$\begin{eqnarray*} 4\left(f^{-1}\circ g\right)\left(2x+1\right) & = & 4\left(f^{-1}\left(g\left(2x+1\right)\right)\right)\\  & = & 4\left(f^{-1}\left(g\left(g^{-1}\left(x\right)\right)\right)\right)\\  & = & 4\left(f^{-1}\left(\cancel{g\left(g^{-1}\left(x\right)\right)}\right)\right)\\  & = & 4f^{-1}\left(x\right) \end{eqnarray*}$$

แทนค่า $f^{-1}(x)=\frac{x+1}{8}$ ลงไป จะได้

$$\begin{eqnarray*} 4\left(f^{-1}\circ g\right)\left(2x+1\right) & = & 4f^{-1}\left(x\right)\\  & = & 4\left(\frac{x+1}{8}\right)\\  & = & \frac{x+1}{2} \end{eqnarray*}$$

จากนั้นคำนวณ $g(x)+1$ เพื่อเปรียบเทียบกับ  $4\left(f^{-1}\circ{g}\right)(2x+1)$

$$\begin{eqnarray*} g\left(x\right)+1 & = & \frac{x-1}{2}+1\\  & = & \frac{x-1}{2}+\frac{2}{2}\\  & = & \frac{x+1}{2}\\  & = & 4\left(f^{-1}\circ g\right)(2x+1) \end{eqnarray*}$$

พบว่ามีค่าเท่ากัน ดังนั้น ข้อความ (ก) กล่าวถูกต้อง

,

เริ่มต้นจากคอมโพสิทครอบด้วย $g(\quad)$ เข้าไปทั้งสองข้างของสมการก่อนเพื่อย้าย $g^{-1}$ ไปด้านขวา

$$\begin{eqnarray*} \left(g^{-1}\circ\left(f^{-1}\circ g\right)\right)\left(x\right) & = & f^{-1}\left(x\right)+1\\ g\left[\left(g^{-1}\circ\left(f^{-1}\circ g\right)\right)\left(x\right)\right] & = & g\left[f^{-1}\left(x\right)+1\right]\\ \left(\cancel{g\circ g^{-1}}\circ f^{-1}\circ g\right)\left(x\right) & = & g\left(f^{-1}\left(x\right)+1\right)\\ \left(f^{-1}\circ g\right)\left(x\right) & = & g\left(f^{-1}\left(x\right)+1\right) \end{eqnarray*}$$

จากนั้นคำนวณเทอมทางซ้าย

$$\begin{eqnarray*} \left(f^{-1}\circ g\right)\left(x\right) & = & f^{-1}\left(g\left(x\right)\right)\\  & = & f^{-1}\left(\frac{x-1}{2}\right)\\  & = & \frac{\frac{x-1}{2}+1}{8}\\  & = & \frac{\frac{x-1}{2}+\frac{2}{2}}{8}\\  & = & \frac{\frac{x+1}{2}}{8}\\  & = & \frac{x+1}{16} \end{eqnarray*}$$

แล้วคำนวณเทอมทางขวาเพื่อมาเปรียบเทียบกับทางซ้าย

$$\begin{eqnarray*} g\left(f^{-1}\left(x\right)+1\right) & = & g\left(\frac{x+1}{8}+1\right)\\  & = & g\left(\frac{x+1}{8}+\frac{8}{8}\right)\\  & = & g\left(\frac{x+9}{8}\right)\\  & = & \frac{\frac{x+9}{8}-1}{2}\\  & = & \frac{\frac{x+9}{8}-\frac{8}{8}}{2}\\  & = & \frac{\frac{x+1}{8}}{2}\\  & = & \frac{x+1}{16}\\  & = & \left(f^{-1}\circ g\right)\left(x\right) \end{eqnarray*}$$

ซึ่งพบว่าเท่ากัน ดังนั้นข้อความ (ข) กล่าวถูกต้องเช่นกัน