Điều kiện \(x\ge-1\) và \(y\ge-2\). Gọi T là tập giá trị  của K. Khi đó \(m\in T\) khi và chỉ khi hệ sau có nghiệm :

\(\begin{cases}x-3\sqrt{x+1}=3\sqrt{y+2}-y\\x+y=m\end{cases}\) \(\Leftrightarrow\begin{cases}3\left(\sqrt{x+1}+\sqrt{y+2}\right)=m\\x+y=m\end{cases}\) (1)

Đặt \(u=\sqrt{x+1};v=\sqrt{y+2}\), điều kiện \(u\ge0;v\ge0\)

Thay vào (1), ta được : 

\(\begin{cases}3\left(u+v\right)=m\\u^2+v^2=m+3\end{cases}\) \(\Leftrightarrow\begin{cases}u+v=\frac{m}{3}\\uv=\frac{1}{2}\left(\frac{m^2}{9}-m-3\right)\end{cases}\)

Hay u và v là nghiệm của phương trình :

\(t^2-\frac{m}{3}t+\frac{1}{2}\left(\frac{m^2}{9}-m-3\right)=0\)

\(\Leftrightarrow18t^2-6mt+m^2-9m-27=0\)  (2)

Hệ (1) có nghiệm x, y thỏa mãn điều kiện  \(x\ge-1\) và \(y\ge-2\) khi và chỉ khi (2) có nghiệm không âm, hay :

\(\begin{cases}\Delta'=-9\left(m^2-18m-54\right)\ge0\\S=\frac{m}{3}\ge0\\P=\frac{m^2-9m-27}{18}\ge0\end{cases}\)

\(\Leftrightarrow\frac{9+3\sqrt{21}}{2}\le m\le9+3\sqrt{15}\)

Vậy \(T=\left[\frac{9+3\sqrt{21}}{2};9+3\sqrt{15}\right]\)

Suy ra Max K = \(\frac{9+3\sqrt{21}}{2}\)

           Min K = \(9+3\sqrt{15}\)

Ta có \(\left(\frac{x^3}{y^2+z}+\frac{y^3}{z^2+x}+\frac{z^3}{x^2+y}\right)\left[x\left(y^2+x\right)+y\left(z^2+x\right)+z\left(x^2+y\right)\right]\ge\left(x^2+y^2+z^2\right)^2\left(1\right)\)

Ta chứng minh \(\left(x^2+y^2+z^2\right)^2\ge\frac{4}{5}\left[x\left(y^2+z\right)+y\left(z^2+x\right)+z\left(x^2+y\right)\right]\)

\(\Leftrightarrow5\left(x^2+y^2+z^2\right)^2\ge4\left[x\left(y^2+z\right)+y\left(z^2+x\right)+z\left(x^2+y\right)\right]\left(2\right)\)

Thật vậy \(\hept{\begin{matrix}3\left(\Sigma x^2\right)^2\ge\left(\Sigma x^2\right)\cdot\Sigma x^2=4\Sigma zx\left(3\right)\\2\left(\Sigma x^2\right)^2\ge4\Sigma xy^2\left(4\right)\end{matrix}\Leftrightarrow2\left(\Sigma x^2\right)^2\ge\Sigma xy^2\left(x+y+z\right)}\)(*)

Từ các Bất Đẳng Thức \(\hept{\begin{cases}\frac{x^4-2x^3z+z^2x^2}{2}\ge0\\\frac{x^4+y^4+2x^4}{4}\ge xyz^2\end{cases}}\)=> (*) đúng

Như vậy (3),(4) đúng => (2) đúng

Từ đó suy ra \(T\ge\frac{4}{5}\)

Dấu "=" xảy ra khi \(x=y=z=\frac{2}{3}\)

Ta có: \(x+y+z=2\).

Áp dụng bất đẳng thức Cauchy-Schwarz:

\(T=\dfrac{x^3}{y^2+z}+\dfrac{y^3}{z^2+x}+\dfrac{z^3}{x^2+y}\)

\(\displaystyle T\ge\dfrac{(x^{3/2}+y^{3/2}+z^{3/2})^2}{x^2+y^2+z^2+x+y+z}\)

Mặt khác, \(x^2+y^2+z^2\le (x+y+z)^2=4\), nên mẫu số không vượt quá \(6\).

Tuy nhiên, đánh giá này chưa đủ để chứng minh \(T\ge\dfrac45\). Ta cần dùng một bất đẳng thức mạnh hơn để hoàn thành lời giải.

Xét \(x=y=z=\dfrac23\), ta có:

\(T=3\cdot\dfrac{\left(\frac23\right)^3}{\left(\frac23\right)^2+\frac23}\)

\(=3\cdot\dfrac{8}{30}=\dfrac45\).

Vậy giá trị nhỏ nhất dự kiến là \(\dfrac45\), đạt được khi \(x=y=z=\dfrac23\).

Theo giả thiết ta có : \(x+yz=yz-z-1=\left(z-1\right)\left(y+1\right)=\left(x+y\right)\left(y+1\right)\)

Tương tự : \(y+zx=\left(x+y\right)\left(x+1\right)\)

Và \(z+xy=\left(x+1\right)\left(y+1\right)\)

Nên \(P=\frac{x}{\left(x+y\right)\left(y+1\right)}+\frac{y}{\left(x+y\right)\left(x+1\right)}+\frac{z^2+2}{\left(x+1\right)\left(y+1\right)}\)

            \(=\frac{x^2+y^2+x+y}{\left(x+y\right)\left(x+1\right)\left(y+1\right)}+\frac{z^2+2}{\left(x+1\right)\left(y+1\right)}\)

Ta có \(x^2+y^2\ge\frac{\left(x+y\right)^2}{2};\left(x+1\right)\left(y+1\right)\le\frac{\left(x+y+2\right)^2}{4}\)

nên \(P\ge\frac{2\left(x+y\right)^2+4\left(x+y\right)}{\left(x+y+2\right)^2\left(x+y\right)}+\frac{4\left(z^2+2\right)}{\left(x+y+2\right)^2}=\frac{2\left(x+y\right)+4}{\left(x+y+2\right)^2}+\frac{4\left(z^2+2\right)}{\left(x+y+2\right)^2}\)

                                                       \(=\frac{2}{z+1}+\frac{4\left(z^2+2\right)}{\left(z+1\right)^2}=f\left(z\right);z>1\)

Lập bảng biến thiên ta được \(f\left(z\right)\ge\frac{13}{4}\) hay min \(P=\frac{13}{4}\) khi \(\begin{cases}z=3\\x=y=1\end{cases}\)

Áp dụng bất đẳng thức Minkowski ta có:

\(\sqrt{x^2+\frac{1}{x^2}}+\sqrt{y^2+\frac{1}{y^2}}+\sqrt{z^2+\frac{1}{z^2}}\ge\sqrt{\left(x+y+z\right)^2+\left(\frac{1}{x}+\frac{1}{y}+\frac{1}{z}\right)^2}\)

\(\ge\sqrt{\left(x+y+z\right)^2+\left(\frac{9}{x+y+z}\right)^2}=\sqrt{\left(x+y+z\right)^2+\frac{81}{\left(x+y+z\right)^2}}\)

\(=\sqrt{\left[\left(x+y+z\right)^2+\frac{1}{\left(x+y+z\right)^2}\right]+\frac{80}{\left(x+y+z\right)^2}}\)

\(\ge\sqrt{2\sqrt{\left(x+y+z\right)^2\cdot\frac{1}{\left(x+y+z\right)^2}}+\frac{80}{1}}=\sqrt{82}\)

Dấu "=" xảy ra khi: \(x=y=z=\frac{1}{3}\)

Áp dụng bất đẳng thức Minkowski ta có:

√x2+1x2 +√y2+1y2 +√z2+1z2 ≥√(x+y+z)2+(1x +1y +1z )2

≥√(x+y+z)2+(9x+y+z )2=√(x+y+z)2+81(x+y+z)2 

=√[(x+y+z)2+1(x+y+z)2 ]+80(x+y+z)2 

≥√2√(x+y+z)2·1(x+y+z)2 +801 =√82

Dấu "=" xảy ra khi: x=y=z=13 

Gọi T là tập giá trị của A. Điều kiện để \(m\in T\) là hệ phương trình sau có nghiệm \(\left(x,y\right)\) với \(x\ne0;y\ne0\)

\(\begin{cases}xy\left(x+y\right)=x^2-xy+y^2\\\frac{1}{x^3}+\frac{1}{y^3}=m\end{cases}\) \(\Leftrightarrow\begin{cases}xy\left(x+y\right)=x^2-xy+y^2\\\frac{\left(x+y\right)\left(x^2-xy+y^2\right)}{x^3y^3}=m\end{cases}\)

                                              \(\Leftrightarrow\begin{cases}xy\left(x+y\right)=x^2-xy+y^2\\\frac{xy\left(x+y\right)}{x^3y^3}=m\end{cases}\)

                                               \(\Leftrightarrow\begin{cases}xy\left(x+y\right)=x^2-xy+y^2\\\frac{\left(x+y\right)^2}{x^2y^2}=m\end{cases}\)  (1)

Đặt \(S=x+y\)

       \(P=xy;\left(S^2\ge4P\right)\) . Hệ (1) trở thành \(\begin{cases}SP=S^2-3P\\\frac{S^2}{P^2}=m\end{cases}\) (2)

Hệ (1) có nghiệm \(\left(x,y\right)\) với \(x\ne0;y\ne0\) khi và chỉ khi hệ (2) có nghiệm (S,P) thỏa mãn \(S^2\ge4P;P\ne0\) do

\(S^2-3P=x^2-xy+y^2=\left(x-\frac{y}{2}\right)^2+\frac{3y^2}{4}>0\) với mọi  \(x\ne0;y\ne0\)  nên SP > 0 \(\Rightarrow\frac{S}{P}>0\)

Như thế :

* Nếu \(m\le0\) thì hệ (2) vô nghiệm

* Nếu m > 0 thì

\(\left(2\right)\Leftrightarrow\begin{cases}SP=S^2-3P\\S=\sqrt{m}P\end{cases}\)\(\Leftrightarrow\begin{cases}\sqrt{m}P^2=mP^2-3P\\S=\sqrt{m}P\end{cases}\)

      \(\Leftrightarrow\begin{cases}\left(m-\sqrt{m}\right)P^2-3P=0\\S=\sqrt{m}P\end{cases}\) do \(P\ne0\)  \(\Leftrightarrow\begin{cases}\left(m-\sqrt{m}\right)P=3\\S=\sqrt{m}P\end{cases}\) (3)

Hệ (3) có nghiệm khi và chỉ khi \(m-\sqrt{m}\ne0\Leftrightarrow m\ne1\), lúc này từ (3) ta có :

\(P=\frac{3}{m-\sqrt{m}}\Rightarrow S=\frac{3}{\sqrt{m}-1}\)

Hệ (2) có nghiệm (S;P) thỏa mãn \(S^2\ge4;P\ne0\) khi và chỉ khi:

\(0< m\ne1\) và \(\frac{9}{\left(\sqrt{m}-1\right)^2}\ge\frac{12}{\sqrt{m}\left(\sqrt{m}-1\right)}\)

\(\Leftrightarrow0< m\ne1\) và \(3\sqrt{m}\ge4\left(\sqrt{m}-1\right)\)

\(\Leftrightarrow0< m\ne1\) và \(\sqrt{m}\le4\Leftrightarrow m\in\) (0;16] \ \(\left\{1\right\}\)

Tập giá trị của A là  (0;16] \ \(\left\{1\right\}\) suy ra max A = 16 ( không tồn tại min A)