Bài 1.
a) $\dfrac{{{x^4} – 10{x^2} + 9}}{{\sqrt {x – 2} }} = 0 \quad (1) $
Điều kiện: $x>2$
$(1) \Leftrightarrow {x^4} – 10{x^2} + 9 =0 \Leftrightarrow \left[ \begin{array}{l}
x=1 \quad (l) \\
x=-1 \quad (l) \\
x=3 \quad (n) \\
x=-3 \quad (l)
\end{array} \right. $
Vậy $S=\left\{ 3 \right\} $
b) $x\sqrt{x^2-x+3} = x(x-6)$ (NX: $x^2 -x+3 >0$, $\forall x\in \mathbb{R}$)
$\Leftrightarrow \left[ \begin{array}{l}
x=0\\
\sqrt{x^2 -x +3 } = x-6 \ (*)
\end{array}\right. $
$(*)\Leftrightarrow \left\{ \begin{array}{l} x-6\ge 0\\
x^2 -x +3 = (x-6)^2
\end{array}\right. $
$\Leftrightarrow \left\{ \begin{array}{l}
x\ge 6\\
x=3
\end{array}\right. $
$\Leftrightarrow x\in \emptyset$
Vậy $S=\left\{ 0\right\} $

Bài 2. (1 điểm) ĐKXĐ: $x\ne 0$, $x\ne 1$

Phương trình trở thành: $(m+2)x=1$

Phương trình có nghiệm duy nhất khi và chỉ khi $\left\{ \begin{array}{l}
m+2\ne 0\\\\
\dfrac{1}{m+2}\ne 0\\\\
\dfrac{1}{m+2}\ne 1
\end{array}\right. $
$\Leftrightarrow \left\{ \begin{array}{l}
m\ne -2\\
m\ne -1
\end{array}\right. $

Vậy $m\ne -2$ và $m\ne -1$ thì phương trình có nghiệm duy nhất $x=\dfrac{1}{m+2}$
Bài 3. (1 điểm)
$VT= \left[ {\cos 2\pi – \cos \left( {2\pi + x} \right)} \right]\left[ {1 + {{\tan }^2}\left( {\dfrac{\pi }{2} – x} \right)} \right] $

$= (1-\cos x) (1+\cot^2 x)$

$ = (1-\cos x) \cdot \dfrac{1}{\sin^2 x}$

$= (1-\cos x )\cdot \dfrac{1}{1-\cos^2 x}$

$=\dfrac{1}{1+\cos x}=VP$
Bài 4. (1 điểm)
a) Ta có:
$D=\left| \begin{array}{*{20}{c}}
{m}&{-(m+1)}\\
{2-m}&{m-3}
\end{array}\right| = 2(1-m)$

$D_x = \left| \begin{array}{*{20}{c}}
{1} & {-(m+1)}\\
{3-2m} & {m-3}
\end{array}\right| = 2m(1-m)$

$D_y=\left| \begin{array}{*{20}{c}}
{m} & {1}\\
{2-m} & {3-2m}
\end{array}\right| = -2(m-1)^2$

Hệ phương trình có nghiệm duy nhất khi và chỉ khi $D\ne 0 \Leftrightarrow m\ne 1$
b) Ta có: $\left\{ \begin{array}{l}
x_0 = \dfrac{D_x}{D} = m\\\\
y_0= \dfrac{D_y}{D} = m-1
\end{array}\right. $

Ta có: $x_0^2 – y_0^2 -2x_0 = m^2 – (m-1)^2 -2m =-1$
Bài 5. (1 điểm) Thay $M(0;4)$ vào $(P)$, ta có: $4=-m \Leftrightarrow m=-4$
Tọa độ đỉnh $I( -1;3)$
Bài 6. (2 điểm)
a) Ta có: $\overrightarrow{DA} \cdot \overrightarrow{AB} = -\overrightarrow{AD} \cdot \overrightarrow{AB} = – AD \cdot AB \cdot \cos 120^\circ = a^2$

Ta có: $AB^2 – AD^2 = \left( \overrightarrow{AB}\right) ^2 – \left( \overrightarrow{ AD}\right) ^2 $

$= \left( \overrightarrow{AB} – \overrightarrow{AD}\right) \left( \overrightarrow{AB} + \overrightarrow{AD} \right) = \overrightarrow{DB} \cdot \overrightarrow{AC}$
b) Đặt $\overrightarrow{DH} =x\overrightarrow{DB}$

Ta có: $\overrightarrow{AH} = x\overrightarrow{AB} + (1-x)\overrightarrow{AD}$

Ta có: $\overrightarrow{AH} \cdot \overrightarrow{BD} = 0$

$\Leftrightarrow \left( x\overrightarrow{AB} + (1-x)\overrightarrow{AD}\right) \cdot \left( \overrightarrow{AD} – \overrightarrow{AB}\right) =0$

$\Leftrightarrow x (-a^2) -4xa^2 + (1-x)a^2 -(1-x)(-a^2) =0$

$\Leftrightarrow x=\dfrac{2}{7}$

Ta có: $\overrightarrow{DH} = \dfrac{2}{7} \overrightarrow{DB}$

$\Rightarrow \overrightarrow{DA} \cdot \overrightarrow{DH} = \dfrac{2}{7} \overrightarrow{DA} \cdot \overrightarrow{DB}$

$=\dfrac{2}{7} \overrightarrow{DA} \left( \overrightarrow{DA} + \overrightarrow{AB}\right) $

$=\dfrac{2}{7} \left( DA^2 + \overrightarrow{DA} \cdot \overrightarrow{AB}\right) $

$=\dfrac{4}{7}a^2$
Bài 7. (2 điểm)
a) Gọi $M(x;y)$

Ta có: $\overrightarrow{CM} = \overrightarrow{CA} – \overrightarrow {CB}$
$\Leftrightarrow \overrightarrow{CM} = \overrightarrow{BA}$
$\Leftrightarrow \left\{ \begin{array}{l}
x-6 = -5\\
y-1=1
\end{array}\right. $
$\Leftrightarrow \left\{ \begin{array}{l}
x=1\\
y=2
\end{array}\right. $

Vậy $M(1;2)$
b) Gọi $I(x_I;y_I)$ là tâm đường tròn ngoại tiếp tam giác $ABC$.

Ta có: $\left\{ \begin{array}{l}
IA = IB\\
IA = IC
\end{array}\right. $
$\Rightarrow \left\{ \begin{array}{l}
5x_I -y_I =12\\
(5-y_I)^2 = (1-y_I)^2
\end{array}\right. $
$\Rightarrow \left\{ \begin{array}{l}
x_I=3\\
y_I=3
\end{array}\right. $

Gọi $E(0;y_E)\in Oy$.

Ta có: $IA = IE \Rightarrow (3-y_E)^2 =4 \Rightarrow \left[ \begin{array}{l}
y_E =1\\
y_E =5
\end{array}\right. $

Vậy $E(0;1)$, $F(0;5)$ hoặc ngược lại.