Gt\(\Leftrightarrow\left(x+\sqrt{x^2+2}\right)\left(x-\sqrt{x^2+2}\right)\left(y-1+\sqrt{y^2-2y+3}\right)=2\left(x-\sqrt{x^2+2}\right)\)

\(\Leftrightarrow-2\left(y-1+\sqrt{y^2-2y+3}\right)=2\left(x-\sqrt{x^2+2}\right)\)

\(\Leftrightarrow x-\sqrt{x^2+2}+y-1+\sqrt{y^2-2y+3}=0\) (*)

\(\left(x+\sqrt{x^2+2}\right)\left(y-1+\sqrt{y^2-2y+3}\right)=2\)

\(\Leftrightarrow\left(x+\sqrt{x^2+2}\right)\left(y-1+\sqrt{y^2-2y+3}\right)\left(y-1-\sqrt{y^2-2y+3}\right)=2\left(y-1-\sqrt{y^2-2y+3}\right)\)

\(\Leftrightarrow\left(x+\sqrt{x^2+2}\right).-2=2\left(y-1-\sqrt{y^2+2y+3}\right)\)

\(\Leftrightarrow y-1-\sqrt{y^2+2y+3}+x+\sqrt{x^2+2}=0\) (2*)

Cộng vế với vế của (*) và (2*) => \(2x+2y-2=0\)

\(\Leftrightarrow x+y=1\)

\(\Leftrightarrow x^3+y^3+3xy\left(x+y\right)=1\)

\(\Leftrightarrow x^3+y^3+3xy=1\)

Ta có:`(x+sqrt{x^2+2})(sqrt{x^2+2}-x)=2`

`<=>sqrt{x^2+2}-x=y-1+sqrt{y^2-2y+3}`

`<=>sqrt{x^2+2}-sqrt{y^2-2y+3}=x+y-1(1)`

CMTT:`sqrt{y^2-2y+3}-(y-1)=x+sqrt{x^2+2}`

`<=>sqrt{y^2-2y+3}-y+1=x+sqrt{x^2+2}`

`<=>sqrt{y^2-2y+3}-sqrt{x^2+2}=x+y-1(2)`

Cộng từng vế (1)(2) ta có:

`2(x+y-1)=0`

`<=>x+y-1=0`

`<=>x+y=1`

`<=>(x+y)^3=1`

`<=>x^3+y^3+3xy(x+y)=1`

`<=>x^3+y^3+3xy=1`(do `x+y=1`)

TA có: \(\begin{cases}\left(1-y)\sqrt{x^2+2y^2}=x+2y+3xy\left(1\right)\right.\\ \sqrt{y+1}+\sqrt{x^2+2y^2}=2y-x\left(2\right)\end{cases}\)

ĐKXĐ: y>=-1

Đặt \(t=\sqrt{x^2+2y^2}\) (Điều kiện: t>=0)

(2): \(\sqrt{y+1}+\sqrt{x^2+2y^2}=2y-x\)

=>\(t=2y-x-\sqrt{y+1}\)

Thay \(t=2y-x-\sqrt{y+1}\) vào (1), ta được:

\((1-y)(2y - x - \sqrt{y+1}) = x + 2y + 3xy\)

=>\(2x(1+y)=-2y^2-(1-y)\sqrt{y+1}\)

=>\(x=\frac{-2y^2 - (1-y)\sqrt{y+1}}{2(1+y)}\)

=>\(x = \frac{2y^2 + y + 1 - 4y\sqrt{y+1}}{2(2y - \sqrt{y+1})}\)

Đặt \(u=\sqrt{y+1}\) (ĐIều kiện: u>0)

=>\(y+1=u^2\)

=>\(y=u^2-1\)

Ta sẽ có phương trình sau:

\(3u^6 - 4u^5 - 7u^4 + 7u^3 + 6u^2 - 3u - 2 = 0\)

=>\((u-1)^2(u+1)(3u+2)(u^2-u-1)=0\)

mà u>=0

nên \(u^2-u-1=0\)

=>\(u=\frac{1\pm\sqrt{5}}{2}\)

mà u>0

nên \(u=\frac{1+\sqrt5}{2}\)

\(y=u^2-1=\frac{6+2\sqrt5}{4}-1=\frac{6+2\sqrt5-4}{4}=\frac{2+2\sqrt5}{4}=\frac{\sqrt5+1}{2}\)

=>\(x=\frac{\sqrt5-7}{4}\)

b)\(\sqrt{5x^2+2xy+2y^2}+\sqrt{2x^2+2xy+5y^2}=3\left(x+y\right)\)

\(\Rightarrow\left(\sqrt{5x^2+2xy+2y^2}+\sqrt{2x^2+2xy+5y^2}\right)^2=\left(3\left(x+y\right)\right)^2\)

\(\Leftrightarrow\sqrt{\left(5x^2+2xy+2y^2\right)\left(2x^2+2xy+5y^2\right)}=x^2+7xy+y^2\)

\(\Rightarrow\left(5x^2+2xy+2y^2\right)\left(2x^2+2xy+5y^2\right)=\left(x^2+7xy+y^2\right)^2\)

\(\Leftrightarrow9\left(x-y\right)^2\left(x+y\right)^2=0\)\(\Leftrightarrow\left[{}\begin{matrix}x=y\\x=-y\end{matrix}\right.\)

\(\rightarrow\left(x;y\right)\in\left\{\left(0;0\right),\left(1;1\right)\right\}\)

caau a) binh phuong len ra no x=y tuong tu

Với $x+y \geqslant 0$, ta có:

$2x^2+2y^2 \geqslant (x+y)^2 \Rightarrow \sqrt{2x^2+2y^2} \geqslant x+y$

\(x^2+xy+y^2=(x+y)^2-xy \geqslant (x+y)^2-\dfrac{(x+y)^2}{4} \Rightarrow \sqrt {\dfrac{{4\left( {{x^2} + xy + {y^2}} \right)}}{3}} \ge x + y\)

$\sqrt{2x^2+2y^2}+\sqrt {\dfrac{{4\left( {{x^2} + xy + {y^2}} \right)}}{3}} \geqslant 2(x+y) \Rightarrow PT(2) \Leftrightarrow x = y$

Vậy hệ phương trình có 2 nghiệm $(x;y)$ là $(0;0); (1;1)$

\(\left\{{}\begin{matrix}2\left(xy+1\right)=x\left(x+y\right)+2\left(1\right)\\3xy-x+3=\sqrt{x+2y+1}+\sqrt{x+4y+4}\left(2\right)\end{matrix}\right.\)

Đk: \(x+2y+1\ge0,x+4y+4\ge0\)

\(\left(1\right)\Rightarrow2xy+2=x^2+xy+2\)

\(\Leftrightarrow x^2-xy=0\) \(\Leftrightarrow\left[{}\begin{matrix}x=0\\x=y\end{matrix}\right.\) 

*Khi \(x=0\), thay vào (2) ta được pt: \(\sqrt{2y+1}+\sqrt{4y+4}=3\)

Giải bằng phương pháp bình phương 2 vế ta được \(y=0\).

Thay \(x=y=0\) vào đk hoàn toàn thỏa mãn.

*Khi \(x=y\), thay vào (2) ta được pt: \(3x^2-x+3=\sqrt{3x+1}+\sqrt{5x+4}\) .

Mình không giải được nhưng pt có nghiệm \(x=0\) nên suy ra \(y=0\)Vậy hệ pt ban đầu có nghiệm \(\left(x,y\right)=\left(0;0\right)\).