a/ \(\hept{\begin{cases}mx+y=2m\\x+my=m+1\end{cases}}\)

\(\Rightarrow\left(x+y\right)\left(m+1\right)=3m+1\)

\(\Leftrightarrow\left(x+y\right)=\frac{3m+1}{m+1}=3-\frac{2}{m+1}\)

Vì x, y nguyên nên (m + 1) phải là ước nguyên của 2.

b/ \(\hept{\begin{cases}\left(m+1\right)x+my=2m-1\\mx-y=m^2-2\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}\left(m+1\right)x+my=2m-1\left(1\right)\\y=mx-m^2+2\left(2\right)\end{cases}}\)

\(\Rightarrow\left(2\right)\Leftrightarrow\left(m+1\right)x+m\left(mx-m^2+2\right)=2m-1\)

\(\Leftrightarrow\left(m^2+m+1\right)\left(x-m+1\right)=0\)

\(\Rightarrow\hept{\begin{cases}x=m-1\\y=2-m\end{cases}}\)

\(\Rightarrow A=\left(m-1\right)\left(2-m\right)=-m^2+3m-2\le\frac{1}{4}\)

Với m =1 suy ra : 

\(\hept{\begin{cases}2x-y=1\\-x+y=2\end{cases}}\)

\(\Rightarrow\hept{\begin{cases}y=2x-1\\-x+2x-1=2\end{cases}}\)

\(\Rightarrow\hept{\begin{cases}y=2.3-1=5\\x=3\end{cases}}\)

b ) Để hệ có nghiệm x+2y=3 

\(\Rightarrow\hept{\begin{cases}x+2y=3\\-x+y=2\end{cases}}\)

\(\Rightarrow\hept{\begin{cases}x=3-2y\\-\left(3-2y\right)+y=2\end{cases}}\)

\(\Rightarrow\hept{\begin{cases}x=3-2.\frac{5}{3}=-\frac{1}{3}\\y=\frac{5}{3}\end{cases}}\)

\(\Rightarrow2.\left(-\frac{1}{3}\right)-\frac{5}{3}=2m-1\Rightarrow m=-\frac{2}{3}\)

\(\hept{\begin{cases}x+y=4\left(1\right)\\2x+3y=m\left(2\right)\end{cases}}\)

từ \(\left(1\right)\)ta có: \(x=4-y\)\(\left(3\right)\)

thay \(\left(3\right)\) vào  \(\left(2\right)\)ta được 

\(2.\left(4-y\right)+3y=m\)

\(8-2y+3y=m\)

\(8+y=m\)

\(y=m-8\) \(\left(4\right)\)

hệ phương trình có nghiệm duy nhất khi pt \(\left(4\right)\)  có nghiệm duy nhất 

ta thấy pt (4) luôn có nghiệm duy nhất với \(\forall y\in R\)

vậy \(\forall y\in R\)thì hệ pt đã cho có nghiệm  \(\left(x;y\right)=\left(4-y;m-8\right)\)

theo bài ra \(\hept{\begin{cases}x>0\\y< 0\end{cases}}\)\(\Leftrightarrow\hept{\begin{cases}4-y>0\\m-8< 0\end{cases}}\Leftrightarrow\hept{\begin{cases}y>4\\m< 8\end{cases}}\)

vậy \(m< 8\)  là tập hợp các giá trị cần tìm 

Ta có :

\(\hept{\begin{cases}x+y=4\\2x+3y=m\end{cases}}\Leftrightarrow\hept{\begin{cases}x+y=4\\x+x+y+y+y=m\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}x+y=4\\4+4+y=m\end{cases}\Leftrightarrow\hept{\begin{cases}y=4-x\\8+4-x=m\end{cases}}}\)

\(\Leftrightarrow\hept{\begin{cases}y=4-12+m\\x=12-m\end{cases}}\Leftrightarrow\hept{\begin{cases}y=m-8\\x=12-m\end{cases}}\)

\(\Leftrightarrow\)\(x+y=m-8+12-m=4\)

\(\Leftrightarrow\hept{\begin{cases}y=4-8\\x=12-4\end{cases}\Leftrightarrow\hept{\begin{cases}y=-4\\x=8\end{cases}}}\)

Thoả mãn \(x>0;y< 0\)

Vậy \(x=8\) và \(y=-4\)

\(\hept{\begin{cases}\left(m-1\right)x-y=2\\mx+y=m\end{cases}}\) ( \(m\ne0;m\ne1\))

\(\Leftrightarrow\hept{\begin{cases}mx-x-y=2\\mx=m-y\end{cases}\Leftrightarrow\hept{\begin{cases}m-2y-x=2\\y=m-mx\end{cases}}}\)

\(\Leftrightarrow\hept{\begin{cases}x=m-2y-2\\y=m-m\left(m-2y-2\right)\end{cases}}\Leftrightarrow\hept{\begin{cases}x=m-2y-2\\y=3m-m^2+2my\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}x=m-2y-2\\y=\frac{3m-m^2}{1-2m}\end{cases}}\Leftrightarrow\hept{\begin{cases}x=\frac{-m-2}{1-2m}\\y=\frac{3m-m^2}{1-2m}\end{cases}}\)

Theo bài ra ta có : 2x + y < 0 \(\Leftrightarrow\frac{2\left(-m-2\right)}{1-2m}+\frac{3m-m^2}{1-2m}< 0\)

\(\Leftrightarrow\frac{-m^2+m-4}{1-2m}< 0\Leftrightarrow\frac{-\left(m-\frac{1}{2}\right)^2-\frac{15}{4}}{1-2m}< 0\)

Ta có : \(-\left(m-\frac{1}{2}\right)^2-\frac{15}{4}< 0\)\(\Rightarrow1-2m< 0\Rightarrow m>\frac{1}{2}\)

Vậy \(m>\frac{1}{2}\left(m\ne1\right)\)