Hướng dẫn giải:

Đáp án A.

Ta có  \( {y}’=m{{x}^{2}}-2\left( m-1 \right)x+3\left( m-2 \right) \)

Để hàm số có hai điểm cực trị thì phương trình  \( m{{x}^{2}}-2\left( m-1 \right)x+3\left( m-2 \right)=0 \) phải có hai nghiệm phân biệt.

 \( \Rightarrow \left\{ \begin{align}  & m\ne 0 \\  & {\Delta }’={{\left( m-1 \right)}^{2}}-3m\left( m-2 \right)>0 \\ \end{align} \right. \) \( \Leftrightarrow \left\{ \begin{align}  & m\ne 0 \\  & -2{{m}^{2}}+4m+1>0 \\ \end{align} \right. \)

Theo định lí Viet, ta có:  \( \left\{ \begin{align} & {{x}_{1}}+{{x}_{2}}=\frac{2\left( m-1 \right)}{m} \\  & {{x}_{1}}.{{x}_{2}}=\frac{3\left( m-2 \right)}{m} \\ \end{align} \right. \)

Theo bài ta có hệ phương trình:  \( \left\{ \begin{align}  & {{x}_{1}}+{{x}_{2}}=\frac{2\left( m-1 \right)}{m} \\ & {{x}_{1}}+2{{x}_{2}}=1 \\ \end{align} \right. \) \( \Leftrightarrow \left\{ \begin{align} & {{x}_{1}}=\frac{3m-4}{m} \\  & {{x}_{2}}=1-\frac{2\left( m-1 \right)}{m}=\frac{2-m}{m} \\ \end{align} \right. \)

\(\Rightarrow \frac{3m-4}{m}.\frac{2-m}{m}=\frac{3\left( m-2 \right)}{m}\)\(\Rightarrow 3\left( 2-m \right)m+\left( 3m-4 \right)\left( 2-m \right)=0\)\(\Leftrightarrow \left[ \begin{align} & m=2\text{ }(n) \\ & m=\frac{2}{3}\text{ }(n) \\ \end{align} \right.\)

Vậy  \( m_{1}^{2}+m_{2}^{2}=\frac{40}{9} \).