\(a^2+b^2\le1+ab\)

\(\Leftrightarrow a^2-ab+b^2\le1\)

\(\Leftrightarrow\left(a+b\right)\left(a^2-ab+b^2\right)\le a+b\)

\(\Leftrightarrow a^3+b^3\le a+b\)

\(\Leftrightarrow\left(a^3+b^3\right)\left(a^3+b^3\right)\le\left(a+b\right)\left(a^5+b^5\right)\) ( \(a^3+b^3=a^5+b^5\))

\(\Leftrightarrow a^6+2a^3b^3+b^6\le a^6+ab^5+a^5b+b^6\)

\(\Leftrightarrow a^5b+ab^5\ge2a^3b^3\)

\(\Leftrightarrow a^5b+ab^5-2a^3b^3\ge0\)

\(\Leftrightarrow ab\left(a^4-2a^2b^2+b^4\right)\ge0\)

\(\Leftrightarrow ab\left(a^2-b^2\right)^2\ge0\) (luôn đúng \(\forall a;b>0\))

Vậy \(a^2+b^2\le1+ab\)

$a^2+b^2+c^2-2(ab+bc+ca)=(a+b+c)^2-4(ab+bc+ca)$

$\ge (a+b+c)^2-\dfrac43(a+b+c)^2\qquad \left(ab+bc+ca\le\dfrac{(a+b+c)^2}{3}\right)$$=-\dfrac13(a+b+c)^2$

Lại có $(a+b+c)^2\ge 3\sqrt[3]{a^2b^2c^2}=3(abc)^{\frac23}<3$ nên cách này không đủ mạnh.

Ta dùng $a^2+b^2+c^2-2(ab+bc+ca)=(a-b)^2+(b-c)^2+(c-a)^2-(ab+bc+ca)$

$\ge -(ab+bc+ca)$

Theo AM-GM,

$ab+bc+ca\le 3\left(\dfrac{ab+bc+ca}{3}\right)\le 3$ và do $abc<1$ nên không thể có $ab=bc=ca=1$.

Suy ra $ab+bc+ca<3$

$\Rightarrow a^2+b^2+c^2-2(ab+bc+ca)>-3$

$\boxed{a^2+b^2+c^2-2(ab+bc+ca)>-3.}$

thtfgfgfghggggggggggggggggggggg

#)Giải :

\(a^2+b^2\le1+ab\)

\(\Leftrightarrow a^2-ab+b^2\le1\)

\(\Leftrightarrow\left(a+b\right)\left(a^2-ab+b^2\right)\le a+b\)

\(\Leftrightarrow a^3+b^3\le a+b\)

\(\Leftrightarrow\left(a^3+b^3\right)\left(a^3+b^3\right)\le\left(a+b\right)\left(a^5+b^5\right)\left(a^3+b^3=a^5+b^5\right)\)

\(\Leftrightarrow a^6+2a^3b^3+b^6\le a^6+ab^5+a^5b+b^6\)

\(\Leftrightarrow a^5b+ab^5\ge2a^3b^3\)

\(\Leftrightarrow a^5b+ab^5-2a^3b^3\ge0\)

\(\Leftrightarrow ab\left(a^4-2a^2b^2+b^4\right)\ge0\)

\(\Leftrightarrow ab\left(a^2-b^2\right)^2\ge0\)( luôn đúng \(\forall a;b>0\))

Vậy \(a^2+b^2\le1+ab\left(đpcm\right)\)

P/s : Bài này mk tham khảo trên mạng ( tại thấy rảnh nên chép hộ ^^ )