\(\left(I\right)\begin{cases}3x^2+2xy+y^2=11\\x^2+2xy+3y^2=17\end{cases}\)

Ta thấy x=0 không thỏa mãn hệ (I).Đặt y=tx ta đc 

\(\left(II\right)\begin{cases}x^2\left(3+2t+t^2\right)=11\left(1\right)\\x^2\left(1+2t+3t^2\right)=17\left(2\right)\end{cases}\)

Suy ra \(\frac{1+2t+3t^2}{3+2t+t^2}=\frac{17}{11}\Leftrightarrow4t^2-3t-10=0\Leftrightarrow\left[\begin{array}{nghiempt}t=2\\t=-\frac{5}{4}\end{array}\right.\)

• \(t=2\Rightarrow x^2=1\Rightarrow x=\pm1\Rightarrow y=\pm2\)
• \(t=-\frac{5}{4}\Rightarrow x^2=\frac{16}{3}\Rightarrow x=\pm\frac{4}{\sqrt{3}}\Rightarrow y=\pm\frac{5}{\sqrt{3}}\)

Vậy hệ (I) có bốn nghiệm là: \(\left(x;y\right)=\left(1;2\right),\left(-1;-2\right),\left(\frac{4}{\sqrt{3}};-\frac{5}{\sqrt{3}}\right),\left(-\frac{4}{\sqrt{3}};\frac{5}{\sqrt{3}}\right)\)

1.  \(2xy-x+y=3\)\(\Leftrightarrow4xy-2x+2y=6\Leftrightarrow2x\left(2y-1\right)+\left(2y-1\right)=5\)

\(\Leftrightarrow\left(2y-1\right)\left(2x+1\right)=5\)

Ta lập bảng giá trị:

Vậy phương trình đã cho có cách nghiệm nguyên (2;1);(0;3);(-3;0) và (-1;-2)

 2xy-x+y=3

2(2xy-x+y)=2.3

4xy-2x+2y=6

2x(2y-1)-2y=6

2x(2y-1)-2y+1=6+1

2x(2y-1)-(2y-1)=7

(2x-1)(2y-1)=7

Bài 2:

Để hệ có nghiệm duy nhất thì \(\frac{m-2}{1}<>\frac{-3}{m}\)

=>m(m-2)<>-3

=>\(m^2-2m+3<>0\)

=>\(m^2-2m+1+2<>0\)

=>\(\left(m-1\right)^2+2<>0\) (luôn đúng)

=>Hệ luôn có nghiệm duy nhất

\(\begin{cases}\left(m-2\right)x-3y=-5\\ x+my=3\end{cases}\Rightarrow\begin{cases}\left(m-2\right)x-3y=-5\\ \left(m-2\right)x+\left(m^2-2m\right)y=3\left(m-2\right)\end{cases}\)

=>\(\begin{cases}\left(m-2\right)x+\left(m^2-2m\right)y-\left(m-2\right)x+3y=3\left(m-2\right)+5\\ x+my=3\end{cases}\)

=>\(\begin{cases}y\left(m^2-2m+3\right)=3m-1\\ x=3-my\end{cases}\Rightarrow\begin{cases}y=\frac{3m-1}{m^2-2m+3}\\ x=3-\frac{m\left(3m-1\right)}{m^2-2m+3}=\frac{3m^2-6m+9-3m^2+m}{m^2-2m+3}=\frac{-5m+9}{m^2-2m+3}\end{cases}\)