a: \(x^2+y^2(x-y+1)-\left(x-1\right)\cdot y=22\)

=>\(x^2 + y^2(x - y + 1) - xy + y = 22\)

=>\(x^2-xy+y^2(x-y+1)+y=22\)

=>\(x(x-y+1)-x+y^2(x-y+1)+y=22\)

\(\iff(x-y+1)(x+y^2)-(x-y)=22\)

\(\iff(x-y+1)(x+y^2)-(x-y+1)+1=22\)

=>\((x-y+1)(x+y^2-1)=21\)

TH1: \(\begin{cases}x-y+1=1\\ x+y^2-1=21\end{cases}\)

=>\(\begin{cases}x=y\\ y+y^2-1=21\end{cases}\iff y^2+y-22=0\)

=>\(y^2+y+\frac14-\frac{89}{4}=0\)

=>\(\left(y+\frac12\right)^2=\frac{89}{4}\)

=>\(\left[\begin{array}{l}y+\frac12=\frac{\sqrt{89}}{2}\\ y+\frac12=-\frac{\sqrt{89}}{2}\end{array}\right.\Rightarrow\left[\begin{array}{l}y=\frac{\sqrt{89}-1}{2}\left(loại\right)\\ y=\frac{-\sqrt{89}-1}{2}\left(loại\right)\end{array}\right.\)

=>Loại

TH2: \(\begin{cases}x-y+1=21\\ x+y^2-1=1\end{cases}\iff\begin{cases}x=y+20\\ (y+20)+y^2-1=1\end{cases}\iff y^2+y+18=0\)

=>\(y^2+y+\frac14+\frac{71}{4}=0\)

=>\(\left(y+\frac12\right)^2+\frac{71}{4}=0\) (vô lý)

=>Loại

TH3: \(\begin{cases}x-y+1=3\\ x+y^2-1=7\end{cases}\iff\begin{cases}x=y+2\\ (y+2)+y^2-1=7\end{cases}\iff y^2+y-6=0\)

=>(y+3)(y-2)=0

=>y=-3 hoặc y=2

Nếu y=-3 thì x-y+1=3

=>x-y=2

=>x-(-3)=2

=>x+3=2

=>x=-1

Nếu y=2 thì x-y+1=3

=>x-2+1=3

=>x-1=3

=>x=4

TH4: \(\begin{cases}x-y+1=7\\ x+y^2-1=3\end{cases}\iff\begin{cases}x=y+6\\ (y+6)+y^2-1=3\end{cases}\iff y^2+y+2=0\)

=>y∈∅

=>Loại

a) \(\left(x+y+1\right)^3=x^3+y^3+7\)

\(\Leftrightarrow\left(x+y\right)^3+3\left(x+y\right)\left(x+y+1\right)+1=x^3+y^3+7\)

\(\Leftrightarrow x^3+y^3+3xy\left(x+y\right)+3\left(x+y\right)\left(x+y+1\right)+1=x^3+y^3+7\)

\(\Leftrightarrow3\left(x+y\right)\left(x+y+xy+1\right)=6\)

\(\Leftrightarrow\left(x+y\right)\left[x\left(1+y\right)+1+y\right]=2\)

\(\Leftrightarrow\left(x+1\right)\left(y+1\right)\left(x+y\right)=2\)

\(\Rightarrow x+1,y+1,x+y\) là các ước của 2.

Ta thấy 6 có 2 dạng phân tích thành tích 3 số nguyên là \(\left(2;1;1\right)\) và\(\left(2;-1;-1\right)\).

- Xét trường hợp \(\left(2;1;1\right)\). Ta có 3 trường hợp nhỏ:

\(\left\{{}\begin{matrix}x+1=2\\y+1=1\\x+y=1\end{matrix}\right.\) ; \(\left\{{}\begin{matrix}x+1=1\\y+1=2\\x+y=1\end{matrix}\right.\) ; \(\left\{{}\begin{matrix}x+1=1\\y+1=1\\x+y=2\end{matrix}\right.\)

Giải ra ta có \(\left(x,y\right)=\left(1;0\right),\left(0;1\right)\).

- Xét trường hợp \(\left(2;-1;-1\right)\). Ta có 3 trường hợp nhỏ:

\(\left\{{}\begin{matrix}x+1=2\\y+1=-1\\x+y=-1\end{matrix}\right.\) ; \(\left\{{}\begin{matrix}x+1=-1\\y+1=2\\x+y=-1\end{matrix}\right.\) ; \(\left\{{}\begin{matrix}x+1=-1\\y+1=1\\x+y=2\end{matrix}\right.\).

Giải ra ta có: \(\left(x;y\right)=\left(1;-2\right),\left(-2;1\right)\).

Vậy \(\left(x;y\right)=\left(0;1\right),\left(1;0\right),\left(1;-2\right),\left(-2;1\right)\)

b) \(y^2+2xy-8x^2-5x=2\)

\(\Leftrightarrow\left(x^2+2xy+y^2\right)-\left(9x^2+5x\right)=2\)

\(\Leftrightarrow\left(x+y\right)^2-9\left(x^2+\dfrac{5}{9}x+\dfrac{25}{324}\right)+\dfrac{25}{36}=2\)

\(\Leftrightarrow\left(x+y\right)^2-9\left(x+\dfrac{5}{18}\right)^2=\dfrac{47}{36}\)

\(\Leftrightarrow6^2.\left(x+y\right)^2-3^2.6^2\left(x+\dfrac{5}{18}\right)^2=47\)

\(\Leftrightarrow\left(6x+6y\right)^2-\left(18x+5\right)^2=47\)

\(\Leftrightarrow\left(6x+6y-18x-5\right)\left(6x+6y+18x+5\right)=47\)

\(\Leftrightarrow\left(6y-12x-5\right)\left(24x+6y+5\right)=47\)

\(\Rightarrow\)6y-12x-5 và 24x+6y+5 là các ước của 47.

Lập bảng:

Vậy pt đã cho có 2 nghiệm (x;y) nguyên là (1;3) và (1;-5)