ĐKXĐ: x>=0; y>=1; 2y-3x-4>=0

\(\begin{cases} x^3 + x^2 + y^2 - x^2y - xy - y = 0 \quad (1) \\ \sqrt{x} + \sqrt{y - 1} = \sqrt{2y - 3x - 4} \quad (2) \end{cases}\)

(1): \(x^3 + x^2 + y^2 - x^2y - xy - y = 0\)

=>\((x^3+x^2)-(x^2y+xy)+(y^2-y)=0\)

=>\(x^2(x+1)-xy(x+1)+y(y-1)=0\)

=>\(y^2 - (x^2 + x + 1)y + (x^3 + x^2) = 0\)

\(\Delta = (x^2 + x + 1)^2 - 4 \cdot 1 \cdot (x^3 + x^2)\)

\(=\left(x^2+x+1\right)^2-4\left(x^3+x^2\right)\)

\(=x^4+2x^3+3x^2+2x+1-4x^3-4x^2\)

\(=x^4-2x^3-x^2+2x+1=(x^2-x-1)^2\) >=0∀x

=>(1) có hai nghiệm là:

\(\left[\begin{array}{l}y=\frac{(x^2+x+1)+(x^2-x-1)}{2}=\frac{x^2+x+1+x^2-x-1}{2}=\frac{2x^2}{2}=x^2\\ y=\frac{(x^2+x+1)-(x^2-x-1)}{2}=\frac{x^2+x+1-x^2+x+1}{2}=\frac{2x+2}{2}=x+1\end{array}\right.\)

TH1: \(y = x^2\)

(2) sẽ trở thành: \(\sqrt{x} + \sqrt{x^2 - 1} = \sqrt{2x^2 - 3x - 4}\)

=>\(x + x^2 - 1 + 2\sqrt{x(x^2 - 1)} = 2x^2 - 3x - 4\)

=>\(2\sqrt{x^3 - x}=x^2-4x-3\)

=>\(\begin{cases}4(x^3-x)=(x^2-4x-3)^2\\ x^2-4x-3\ge0\end{cases}\)

=>\(\begin{cases}4x^3-4x=x^4+16x^2+9-8x^3-6x^2+24x\\ x^2-4x+4-7\ge0\end{cases}\)

=>\(\begin{cases}x^4-12x^3+10x^2+28x+9=0\\ \left(x-2\right)^2\ge7\end{cases}\Rightarrow\begin{cases}(x^2-10x-9)(x^2-2x-1)=0\\ \left(x-2\right)^2\ge7\end{cases}\)

=>\(x=5+\sqrt{34}\)

=>\(y=x^2=(5+\sqrt{34})^2=59+10\sqrt{34}\)

TH2: y=x+1

Thay y=x+1 vào (2), ta được:

\(\sqrt{x} + \sqrt{(x + 1) - 1} = \sqrt{2(x + 1) - 3x - 4}\)

=>\(\sqrt{x}+\sqrt{x}=\sqrt{2x + 2 - 3x - 4}\)

=>\(2\sqrt{x}=\sqrt{-x-2}\)

=>-x-2>=0 và 4x=-x-2

=>-x>=2 và 5x=-2

=>x<=-2 và x=-2/5

=>x∈∅

=>Loại

1.

Đặt \(x^2-2x+m=t\), phương trình trở thành \(t^2-2t+m=x\)

Ta có hệ \(\left\{{}\begin{matrix}x^2-2x+m=t\\t^2-2t+m=x\end{matrix}\right.\)

\(\Rightarrow\left(x-t\right)\left(x+t-1\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x=t\\x=1-t\end{matrix}\right.\)

\(\Leftrightarrow\left[{}\begin{matrix}x=x^2-2x+m\\x=1-x^2+2x-m\end{matrix}\right.\)

\(\Leftrightarrow\left[{}\begin{matrix}m=-x^2+3x\\m=-x^2+x+1\end{matrix}\right.\)

Phương trình hoành độ giao điểm của \(y=-x^2+x+1\) và \(y=-x^2+3x\):

\(-x^2+x+1=-x^2+3x\)

\(\Leftrightarrow x=\dfrac{1}{2}\Rightarrow y=\dfrac{5}{4}\)

Đồ thị hàm số \(y=-x^2+3x\) và \(y=-x^2+x+1\): 

Dựa vào đồ thị, yêu cầu bài toán thỏa mãn khi \(m< \dfrac{5}{4}\)

Mà \(m\in\left[-10;10\right]\Rightarrow m\in[-10;\dfrac{5}{4})\)

\(x^4-1-2\left(m+1\right)x^2+2\left(m+1\right)=0\)

\(\Leftrightarrow\left(x^2-1\right)\left(x^2+1\right)-2\left(m+1\right)\left(x^2-1\right)=0\)

\(\Leftrightarrow\left(x^2-1\right)\left(x^2-2m-1\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x^2=1\\x^2=2m+1\end{matrix}\right.\)

Pt có 4 nghiệm pb khi: \(\left\{{}\begin{matrix}2m+1>0\\2m+1\ne1\end{matrix}\right.\) \(\Leftrightarrow\left\{{}\begin{matrix}m>-\dfrac{1}{2}\\m\ne0\end{matrix}\right.\)

Do \(x=\pm1< 3\) nên để  \(x_1< x_2< x_3< x_4< 3\) thì:

\(\sqrt{2m+1}< 3\Leftrightarrow m< 4\) \(\Rightarrow\left\{{}\begin{matrix}-\dfrac{1}{2}< m< 4\\m\ne0\end{matrix}\right.\)

b. \(\left\{{}\begin{matrix}x_1-x_3=x_3-x_2\\x_1-x_3=x_2-x_1\end{matrix}\right.\) \(\Rightarrow\left\{{}\begin{matrix}x_1=-x_2\\x_1-x_3=-x_1-x_1\end{matrix}\right.\)

\(\Rightarrow\left\{{}\begin{matrix}x_2=-x_1\\x_3=3x_1\end{matrix}\right.\)

Do vai trò \(x_1;x_2\) như nhau, giả sử \(x_1< 0\) \(\Rightarrow x_1;x_3\) là 2 nghiệm âm

TH1: \(\left\{{}\begin{matrix}x_1=-1\\x_2=1\end{matrix}\right.\)  \(\Rightarrow\left\{{}\begin{matrix}x_3=-\sqrt{2m+1}\\x_3=3x_1\end{matrix}\right.\) \(\Rightarrow-\sqrt{2m+1}=-3\Rightarrow m=4\)

TH2: \(x_1=-\sqrt{2m+1}\Rightarrow\left\{{}\begin{matrix}x_3=-1\\x_3=3x_1\end{matrix}\right.\) \(\Rightarrow-1=-3\sqrt{2m+1}\) \(\Rightarrow m=-\dfrac{4}{9}\)