\(x^2+y^3-3y^2=65-3y\Leftrightarrow x^2+\left(y-1\right)^3=64=0^2+4^3=8^2+0^3=\left(-8\right)^2+0^3\)( Vì \(x,y\inℤ\))

TH1: \(\hept{\begin{cases}x=0\\y-1=4\end{cases}\Leftrightarrow\hept{\begin{cases}x=0\\y=5\end{cases}}}\)

TH2: \(\hept{\begin{cases}x=8\\y-1=0\end{cases}\Leftrightarrow\hept{\begin{cases}x=8\\y=1\end{cases}}}\)

TH3: \(\hept{\begin{cases}x=-8\\y-1=0\end{cases}\Leftrightarrow\hept{\begin{cases}x=-8\\y=1\end{cases}}}\)

b: \(x^2-3y^2+2xy-2x-10y+4=0\)

=>\(x^2+2x\left(y-1\right)+\left(y-1\right)^2-\left(4y^2+8y+4\right)=-7\)

=>\(\left(x+y-1\right)^2-\left(2y+2\right)^2=-7\)

=>(x+y-1-2y-2)(x+y-1+2y+2)=-7

=>(x-y-3)(x+3y+1)=-7

=>(y-x+3)(3y+x+1)=7

mà 7 là số nguyên tố

nên ta có các trường hợp sau:

TH1: 3y+x+1=7 và y-x+3=1

=>x+3y=6 và -x+y=-2

=>x+3y-x+y=6-2 và x-y=2

=>4y=4 và x=y+2

=>y=1 và x=1+2=3

TH2: 3y+x+1=-7 và y-x+3=-1

=>x+3y=-8 và -x+y=-4

=>x+3y-x+y=-8-4

=>4y=-12

=>y=-3

-x+y=-4

=>x-y=4

=>x=y+4=-3+4=1

TH3: 3y+x+1=1 và y-x+3=7

=>3y+x+y-x+1+3=1+7

=>4y+4=8

=>4y=4

=>y=1

y-x+3=7

=>1-x+3=7

=>4-x=7

=>x=4-7=-3

\(\Leftrightarrow4x^2-12xy+12y^2=12y\)

\(\Leftrightarrow\left(2x-3y\right)^2=12y-3y^2\)

Do \(\left(2x-3y\right)^2\ge0;\forall x;y\Rightarrow12y-3y^2\ge0\)

\(\Rightarrow y^2-4y+4\le4\)

\(\Rightarrow\left(y-2\right)^2\le4\)

\(\Rightarrow\left[{}\begin{matrix}\left(y-2\right)^2=0\\\left(y-2\right)^2=1\\\left(y-2\right)^2=4\end{matrix}\right.\)  \(\Rightarrow y=\left\{0;1;2;3;4\right\}\)

Lần lượt thế vào pt ban đầu ta được các cặp nghiệm:

\(\left(x;y\right)=\left(0;0\right);\left(0;1\right);\left(3;1\right);\left(3;3\right);\left(6;3\right);\left(6;4\right)\)

\(y^2=-2\left(x^6-x^3y-32\right)\)

\(\Leftrightarrow2x^6-2x^3y+y^2=64\)

\(\Leftrightarrow4x^6-4x^3y+2y^2=128\)

\(\Leftrightarrow\left(2x^3-y\right)^2+y^2=128\)

Áp dụng bất đẳng thức sau: \(A^2+B^2\ge\dfrac{\left(A+B\right)^2}{2}\), ta có:

\(\left(2x^3-y\right)^2+y^2\ge\dfrac{\left(2x^3-y+y\right)^2}{2}=2x^6\)

\(\Leftrightarrow128\ge2x^6\Leftrightarrow x^6\le64\)

\(\Leftrightarrow-2\le x^2\le2\)

Vậy \(x\in\left\{-2;-1;0;1;2\right\}\)