Решение:

а) $$ \left[ \begin{aligned} \cos^2 x - 3 \sin^2 x = 0 & \\ \sin 2x - \sqrt{2} \sin x = 0 & \end{aligned} \right. $$ Если \(\cos x = 0,\) то \(\sin x \neq 0,\) и, значит \(x,\) для которого \(\cos x =0\) не может быть решением первого уравнения. Поэтому, можно это уравнение поделить на \(\cos x\) и получить следующее: $$3 \, \mathrm{tg}^2 \, x = 1 $$ $$\mathrm{tg} \, x = \pm \frac{1}{\sqrt{3}}$$ Решением первого уравнения системы будет \(x = \cfrac{\pi}{6} + \pi n, \, n \in \mathbb{Z};\) \(x =- \cfrac{\pi}{6} + \pi m, \, m \in \mathbb{Z};\)

Теперь расмотрим второе уравнение системы: $$\sin 2x - \sqrt{2} \sin x = 0$$ $$\sqrt{2} \sin x \left( \sqrt{2} \cos x - 1 \right) = 0$$ $$ \left[ \begin{aligned} \sin x = 0 & \\ \cos x = \frac{1}{\sqrt{2}} & \end{aligned} \right. $$ Решением этой системы будет \(x = \pi k, \, k \in \mathbb{Z};\) \(x = \cfrac{\pi}{4} + 2 \pi q, \, q \in \mathbb{Z};\) \(x = - \cfrac{\pi}{4} + 2 \pi p, \, p \in \mathbb{Z}.\)

б) Отбор корней. I $$\frac{\pi}{4} \leqslant \frac{\pi}{6} + \pi n \leqslant \frac{7 \pi}{4}$$ $$3 \leqslant 2 + 12 n \leqslant 21$$ $$1 \leqslant 12 n \leqslant 19$$ Отсюда \(n = 1;\) \(x = \cfrac{\pi}{6} + \pi = \cfrac{7 \pi}{6}.\)

II $$\frac{\pi}{4} \leqslant - \frac{\pi}{6} + \pi m \leqslant \frac{7 \pi}{4}$$ $$3 \leqslant -2 + 12 m \leqslant 21$$ $$5 \leqslant 12 m \leqslant 23$$ Отсюда \(m = 1;\) \(x = -\cfrac{\pi}{6} + \pi = \cfrac{5 \pi}{6}.\)

III $$\frac{\pi}{4} \leqslant \pi k \leqslant \frac{7 \pi}{4}$$ $$1 \leqslant 4 k \leqslant 7$$ Отсюда \(k = 1;\) \(x = \pi.\)

IV $$\frac{\pi}{4} \leqslant \frac{\pi}{4} + 2 \pi q \leqslant \frac{7 \pi}{4}$$ $$1 \leqslant 1 + 8 q \leqslant 7$$ $$0 \leqslant 8 q \leqslant 6$$ Отсюда \(q = 0;\) \(x = \cfrac{\pi}{4}.\)

V $$\frac{\pi}{4} \leqslant -\frac{\pi}{4} + 2 \pi p \leqslant \frac{7 \pi}{4}$$ $$1 \leqslant -1 + 8 p \leqslant 7$$ $$1 \leqslant 8 p \leqslant 8$$ Отсюда \(p = 1;\) \(x = -\cfrac{\pi}{4} + 2 \pi = \cfrac{7 \pi}{4}.\)

Ответ: а) \(\cfrac{\pi}{6} + \pi n, \, n \in \mathbb{Z};\) \(- \cfrac{\pi}{6} + \pi m, \, m \in \mathbb{Z};\) \( \pi k, \, k \in \mathbb{Z};\) \(\cfrac{\pi}{4} + 2 \pi q, \, q \in \mathbb{Z};\) \(- \cfrac{\pi}{4} + 2 \pi p, \, p \in \mathbb{Z};\) б) \(\cfrac{\pi}{4}; \, \cfrac{5 \pi}{6}; \, \pi; \, \cfrac{7 \pi}{6}; \, \cfrac{7 \pi}{4}.\)