Nhận xét x = 0 không là nghiệm của phương trình. Chia 2 vế của phương trình cho \(x^2\ne0\) ta được :

\(\left(x^2+3x+1\right)\left(x^2-x+1\right)=5x^2\Leftrightarrow\left(x+\frac{1}{x}+3\right)\left(x+\frac{1}{x}-1\right)=5\)

Đặt \(t=x+\frac{1}{x}\) ta được :

\(\left(x^2+3x+1\right)\left(x^2-x+1\right)=5x^2\Leftrightarrow\left(t+3\right)\left(t-1\right)=5\)

                                                   \(\Leftrightarrow t^2+2t-8=0\Leftrightarrow\left[\begin{array}{nghiempt}t=2\\t=-4\end{array}\right.\)

Do vậy \(\left(x^2+3x+1\right)\left(x^2-x+1\right)=5x^2\Leftrightarrow\left[\begin{array}{nghiempt}x+\frac{1}{x}=2\\x+\frac{1}{x}=-4\end{array}\right.\)

                                                               \(\Leftrightarrow\left[\begin{array}{nghiempt}x^2-2x+1=0\\x^2+4x+1=0\end{array}\right.\)

                                                              \(\Leftrightarrow\left[\begin{array}{nghiempt}x=1\\x=-2\pm\sqrt{3}\end{array}\right.\)

Vậy phương trình đã cho có 3 nghiệm

Đặt t=x²+1 (t>0)

PT trên trở thành: (t+3x)(t-x)=5x²

<=>t²+2tx-8x²=0

<=>t²-2tx+4tx-8x²=0

<=>t.(t-2x)+4x.(t-2x)=0

<=>(t+4x)(t-2x)=0

<=>t=-4x hoặc t=2x

*t=-4x =>x²+1=-4x <=>x²-4x+1=0(1)

\(\Delta=12>0\Rightarrow\sqrt{\Delta}=2\sqrt{3}\)

=>PT (1) có 2 nghiệm phân biệt: \(x_1=2+\sqrt{3};x_2=2-\sqrt{3}\)

*t=2x =>x²+1=2x <=>x²-2x+1=0 <=> (x-1)²=0 <=>x=1

Vậy PT có tập nghiệm là: \(S=\left\{2+\sqrt{3};2-\sqrt{3};1\right\}\)