a: Hệ phương trình có vô số nghiệm khi \(\frac{m}{2}=\frac{3}{-m}=\frac{4}{-3}\)

=>\(-m^2=6\)

=>\(m^2=-6\) (vô lý)

=>Hệ không thể có vô số nghiệm

b: Để hệ có nghiệm duy nhất thì \(\frac{m}{2}<>\frac{3}{-m}\)

=>\(-m^2<>6\) (luôn đúng)

=>Hệ luôn có nghiệm duy nhất

\(\begin{cases}mx+3y=4\\ 2x-my=-3\end{cases}\Rightarrow\begin{cases}m^2x+3my=4m\\ 6x-3my=-9\end{cases}\)

=>\(\begin{cases}m^2x+3my+6x-3my=4m-9\\ 2x-my=-3\end{cases}\Rightarrow\begin{cases}x\left(m^2+6\right)=4m-9\\ my=2x+3\end{cases}\)

=>\(\begin{cases}x=\frac{4m-9}{m^2+6}\\ my=2\cdot\frac{4m-9}{m^2+6}+3=\frac{8m-18+3m^2+18}{m^2+6}=\frac{3m^2+8m}{m^2+6}\end{cases}\)

=>\(\begin{cases}x=\frac{4m-9}{m^2+6}\\ y=\frac{3m+8}{m^2+6}\end{cases}\)

x<0 và y>0

=>4m-9<0 và 3m+8>0

=>4m<9 và 3m>-8

=>\(-\frac83

a) *)Để hệ đã cho vô nghiệm \(\frac{a}{a'}=\frac{b}{b'}\ne\frac{c}{c'}\)

\(\Rightarrow\hept{\begin{cases}\frac{m+1}{5}=\frac{3}{-2}\\\frac{m+1}{5}\ne\frac{5}{3}\end{cases}\Leftrightarrow\hept{\begin{cases}-2m-1=15\\3m+3\ne25\end{cases}\Leftrightarrow}\hept{\begin{cases}m=\frac{-17}{2}\\m\ne\frac{22}{3}\end{cases}}}\)

*) Để hệ có nghiệm duy nhất 

\(\Rightarrow\frac{a}{a'}\ne\frac{b}{b'}\Rightarrow\frac{m+1}{5}\ne\frac{3}{-2}\)

\(\Leftrightarrow-2m-2\ne15\)

\(\Leftrightarrow m\ne\frac{-17}{2}\)

b) Để hpt có nghiệm duy nhất \(\hept{\begin{cases}m\ne\frac{-17}{2}\\x+y=5\end{cases}}\)

Thay x=5-y vào hpt ta có \(\hept{\begin{cases}\left(m+1\right)\left(5-y\right)+3y=5\\5\left(5-y\right)-2y=3\end{cases}}\)

\(\Leftrightarrow\hept{\begin{cases}\left(m+1\right)\left(5-y\right)+3y=5\\25-7y=3\end{cases}\Leftrightarrow\hept{\begin{cases}m=\frac{44}{13}\\y=\frac{22}{7}\end{cases}}}\)

Vậy \(m=\frac{44}{13}\)thỏa mãn điều kiện