Giải hệ phương trình: (( (x^3) + 2(y^2) + x(y^2) = 2 + x - 2(x^2) 4(y^2) = ( (căn ((y^2) + 1)  + 1) )( ((y^2) - (x^3) + 3x - 2) ) right. )

Đặt $\left\{ \begin{array}{l}{x^3} + 2{y^2} + x{y^2} = 2 + x - 2{x^2}\,\,\,\,\,\,\,\,\,\,\,\,\,\,\,\left( 1 \right)\\4{y^2} = \left( {\sqrt {{y^2} + 1}  + 1} \right)\left( {{y^2} - {x^3} + 3x - 2} \right)\,\,\,\,\,\left( 2 \right)\end{array} \right.$

$\begin{array}{l}\left( 1 \right) \Leftrightarrow \left( {{x^3} + 2{x^2} - x - 2} \right) + \left( {2{y^2} + x{y^2}} \right) = 0\\ \Leftrightarrow \left( {x + 2} \right)\left( {{x^2} - 1} \right) + {y^2}\left( {x + 2} \right) = 0\\ \Leftrightarrow \left( {x + 2} \right)\left( {{x^2} - 1 + {y^2}} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}x + 2 = 0\\{x^2} - 1 + {y^2} = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}x =  - 2\\{y^2} = 1 - {x^2}\end{array} \right.\end{array}$

TH1: $x =  - 2$ thay vào $\left( 2 \right)$ được:

$\begin{array}{l}4{y^2} = \left( {\sqrt {{y^2} + 1}  + 1} \right)\left( {{y^2} + 8 - 6 - 2} \right) \Leftrightarrow 4{y^2} = \left( {\sqrt {{y^2} + 1}  + 1} \right).{y^2}\\ \Leftrightarrow {y^2}\left( {\sqrt {{y^2} + 1}  + 1 - 4} \right) = 0 \Leftrightarrow {y^2}\left( {\sqrt {{y^2} + 1}  - 3} \right) = 0\\ \Leftrightarrow \left[ \begin{array}{l}{y^2} = 0\\\sqrt {{y^2} + 1}  - 3 = 0\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}y = 0\\{y^2} + 1 = 9\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}y = 0\\{y^2} = 8\end{array} \right. \Leftrightarrow \left[ \begin{array}{l}y = 0\\y =  \pm 2\sqrt 2 \end{array} \right.\end{array}$

TH2: ${y^2} = 1 - {x^2}$ thay vào (2) được:

$\begin{array}{l}4\left( {1 - {x^2}} \right) = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {1 - {x^2} - {x^3} + 3x - 2} \right)\\ \Leftrightarrow 4\left( {1 - {x^2}} \right) = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( { - {x^3} - {x^2} + 3x - 1} \right)\\ \Leftrightarrow 4\left( {{x^2} - 1} \right) = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^3} + {x^2} - 3x + 1} \right)\\ \Leftrightarrow 4\left( {{x^2} - 1} \right) = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {x - 1} \right)\left( {{x^2} + 2x - 1} \right)\\ \Leftrightarrow 4\left( {x - 1} \right)\left( {x + 1} \right) = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {x - 1} \right)\left( {{x^2} + 2x - 1} \right)\\ \Leftrightarrow \left( {x - 1} \right)\left[ {4x + 4 - \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^2} + 2x - 1} \right)} \right] = 0\\ \Leftrightarrow \left[ \begin{array}{l}x - 1 = 0\\4x + 4 - \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^2} + 2x - 1} \right) = 0\end{array} \right.\\ \Leftrightarrow \left[ \begin{array}{l}x = 1\\4x + 4 = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^2} + 2x - 1} \right)\end{array} \right.\end{array}$

Với $x = 1$ thì ${y^2} = 1 - 1 = 0 \Leftrightarrow y = 0$.

Với $4x + 4 = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^2} + 2x - 1} \right)$  ta có:

$\begin{array}{l}4x + 4 = \left( {\sqrt {2 - {x^2}}  + 1} \right)\left( {{x^2} + 2x - 1} \right)\\ \Leftrightarrow 4x + 4 = \sqrt {2 - {x^2}} \left( {{x^2} + 2x - 1} \right) + {x^2} + 2x - 1\\ \Leftrightarrow \sqrt {2 - {x^2}} \left( {{x^2} + 2x - 1} \right) =  - {x^2} + 2x + 5\\ \Leftrightarrow \sqrt {2 - {x^2}}  = \dfrac{{ - {x^2} + 2x + 5}}{{{x^2} + 2x - 1}}\\ \Leftrightarrow \sqrt {2 - {x^2}}  = \dfrac{{6 - {{\left( {x - 1} \right)}^2}}}{{{{\left( {x + 1} \right)}^2} - 2}}\,\,\,\,\,\left( * \right)\end{array}$

(Do ${x^2} + 2x - 1 = 0 \Leftrightarrow x =  - 1 \pm \sqrt 2$ không thỏa mãn phương trình)

Vì ${x^2} + {y^2} = 1$ nên ${x^2} \le 1 \Rightarrow  - 1 \le x \le 1$

$\Rightarrow 1 \le \sqrt {2 - {x^2}}  \le \sqrt 2$ hay $1 \le VT\left( * \right) \le \sqrt 2$

Lại có,

Với $x \le 1$ thì $\dfrac{{6 - {{\left( {x - 1} \right)}^2}}}{{{{\left( {x + 1} \right)}^2} - 2}} \ge \dfrac{{6 - {{\left( {1 - 1} \right)}^2}}}{{{{\left( {1 + 1} \right)}^2} - 2}} = 3 \Rightarrow VP\left( * \right) \ge 3$

Với $x \ge  - 1$ thì $\dfrac{{6 - {{\left( {x - 1} \right)}^2}}}{{{{\left( {x + 1} \right)}^2} - 2}} \le \dfrac{{6 - {{\left( { - 1 - 1} \right)}^2}}}{{{{\left( { - 1 + 1} \right)}^2} - 2}} =  - 1 \Rightarrow VP\left( * \right) \le  - 1$

Do đó với $- 1 \le x \le 1$ thì $VP\left( * \right) \ge 3$ hoặc .

$\Rightarrow$ (*) vô nghiệm do $1 \le VT\left( * \right) \le \sqrt 2$ và $VP\left( * \right) \ge 3$ hoặc $VP\left( * \right) \le  - 1$.

Vậy hệ đã cho có nghiệm $\left( {x;y} \right) \in \left\{ {\left( { - 2;0} \right),\left( { - 2; - 2\sqrt 2 } \right),\left( { - 2;2\sqrt 2 } \right),\left( {1;0} \right)} \right\}$.