Ta có \(MA=kMB\rarr\overrightarrow{MA}=\overrightarrow{kMB}\)
Thay \(\overrightarrow{MA}=\overrightarrow{OA}-\overrightarrow{OM}\)
\(\overrightarrow{MB}=\overrightarrow{OB}-\overrightarrow{OM}:\) \(\overrightarrow{OA}-\overrightarrow{OM}=k\left(\overrightarrow{OB}-\overrightarrow{OM}\right)\rarr\overrightarrow{\left(1-k\right)OM}=\overrightarrow{OA}-\overrightarrow{kOB}\)
\(OM=\frac{\overrightarrow{OA}-\overrightarrow{kOB}}{1-k}\)

Vì \(G\) là trọng tâm nên
\(\overrightarrow{GA}+\overrightarrow{GB}+\overrightarrow{GC}=0\rarr\overrightarrow{GC}=-(\overrightarrow{a}+\overrightarrow{b})\)
Suy ra:
\(\overrightarrow{AB}=\overrightarrow{b}-\overrightarrow{a}\)
\(\overrightarrow{BC}=-\overrightarrow{a}-\overrightarrow{2b}\)
\(\overrightarrow{GC}=-(\overrightarrow{a}+\overrightarrow{b})\)
\(\overrightarrow{CA}=\overrightarrow{2a}+\overrightarrow{b}\)