Hướng dẫn giải:

Điều kiện:  \( \cos x\ne 0\Leftrightarrow x\ne \frac{\pi }{2}+k\pi \) .

(*) \( \Leftrightarrow (1-a){{\sin }^{2}}x-2\cos x+(1+3a){{\cos }^{2}}x=0 \)

 \( \Leftrightarrow (1-a)(1-{{\cos }^{2}}x)-2\cos x+(1+3a){{\cos }^{2}}x=0 \)

 \( \Leftrightarrow 4a{{\cos }^{2}}x-2\cos x+1-a=0\Leftrightarrow a(4{{\cos }^{2}}x-1)-(2\cos x-1)=0 \)

 \( \Leftrightarrow (2\cos x-1)[a(2\cos x+1)-1]=0 \).

a) Khi \( a=\frac{1}{2} \) thì (*) thành: \( \Leftrightarrow (2\cos x-1)\left( \cos x-\frac{1}{2} \right)=0 \)

 \( \Leftrightarrow \cos x=\frac{1}{2}=\cos \frac{\pi }{3} \) (nhận do  \( \cos x\ne 0 \))

 \( \Leftrightarrow x=\pm \frac{\pi }{3}+k2\pi ,\text{ }k\in \mathbb{Z} \).

b) Khi \( x\in \left( 0;\frac{\pi }{2} \right) \) thì \( \cos x=t\in (0;1) \).

Ta có:  \( (1)\Leftrightarrow \left[ \begin{align}  & \cos x=t=\frac{1}{2}\in (0;1) \\ & 2a\cos x=1-a\begin{matrix}  {} & (**)  \\\end{matrix} \\ \end{align} \right. \).

Yêu cầu bài toán  \( \Leftrightarrow (**) \) có nghiệm trên  \( (0;1)\backslash \left\{ \frac{1}{2} \right\}\Leftrightarrow \left\{ \begin{align}  & a\ne 0 \\ & 0<\frac{1-a}{2a}<1 \\  & \frac{1-a}{2a}\ne \frac{1}{2} \\ \end{align} \right. \)

 \( \Leftrightarrow \left\{ \begin{align}  & a\ne 0 \\  & \frac{1-a}{2a}>0 \\  & \frac{1-3a}{2a}<0 \\  & 2(1-a)\ne 2a \\ \end{align} \right. \) \( \Leftrightarrow \left\{ \begin{align} & 0<a<1 \\  & a<0\vee a>\frac{1}{3} \\  & a\ne \frac{1}{2} \\ \end{align} \right. \) \( \Leftrightarrow \left\{ \begin{align}  & \frac{1}{3}<a<1 \\ & a\ne \frac{1}{2} \\ \end{align} \right. \).

Cách khác: Đặt  \( u=\frac{1}{\cos x} \), điều kiện  \( u\ge 1 \), phương trình thành:

 \( (1-a)({{u}^{2}}-1)-2u+1+3a=0\Leftrightarrow (1-a){{u}^{2}}-2u+4a=0 \)

 \( \Leftrightarrow (u-2)[(1-a)u-2a]=0 \).