Bài 1.
a) Ta có $a=1>0, \dfrac{-b}{2 a}=2$ và $\dfrac{-\Delta}{4 a}=-1$.
Bảng biến thiên:

Vậy hàm số (1) đồng biến trên $(2 ;+\infty)$ và nghịch biến trên $(-\infty ; 2)$.

Đồ thị hàm số:

b) Từ đồ thị hàm số (1), ta suy ra đồ thị hàm số $y=x^{2}-4|x|+3$  như sau:

Khi đó, ta có được đồ thị hàm số $y=\left|x^{2}-4\right| x|+3|$ như sau:

c) Theo đồ thị hàm số (2), phương trình $\left|x^{2}-4\right| x|+3|=m^{2}+2 m$ có 3 nghiệm phân biệt khi và chỉ khi $m^{2}+2 m=3 \Leftrightarrow\left[\begin{array}{l}m=1 \\ m=-3\end{array}\right.$.

Bài 2. 

a) $\sqrt{x-1}+\sqrt{6-x}+\sqrt{7 x-6-x^{2}}=5 \quad (1)$.

ĐKXĐ: $\left\{\begin{array}{l}x-1 \geq 0 \\ 6-x \geq 0 \\ 7 x-6-x^{2} \geq 0\end{array} \quad \Leftrightarrow 1 \leq x \leq 6\right.$

Đặt $a=\sqrt{x-1} \geq 0$ và $b=\sqrt{6-x} \geq 0$, khi đó $\left\{\begin{array}{l}a b=\sqrt{7 x-6-x^{2}} \\ a^{2}+b^{2}=5\end{array}\right.$.

Kết hợp với (1), ta có hệ phương trình sau: $\left\{\begin{array}{l}a+b+a b=5 \\ a^{2}+b^{2}=5 .\end{array} \Leftrightarrow\left\{\begin{array}{l}a+b=5-a b \quad (2) \\ a^{2}+b^{2}=5\end{array}\right.\right.$

Ta có: $5=a^{2}+b^{2}=(a+b)^{2}-2 a b=(5-a b)^{2}-2 a b=a^{2} b^{2}-12 a b+25$.

Do đó: $a^{2} b^{2}-12 a b+20=0 \Leftrightarrow\left[\begin{array}{l}a b=2 \\ a b=10\end{array}\right.$.

– Nếu $a b=2$, từ (2) ta suy ra $a+b=3$. Khi đó $a, b$ là nghiệm của phương trình:

$$X^{2}-3 X+2=0 \Leftrightarrow \left[ \begin{array}{l} X=1 \\ X=2 \end{array}\right.$$

Khi đó $(a ; b)=(1 ; 2)$ hoặc $(a ; b)=(2 ; 1)$.

+) Nếu $\left\{\begin{array}{l}a=1 \\ b=2\end{array} \Rightarrow\left\{\begin{array}{l}\sqrt{x-1}=1 \\ \sqrt{6-x}=2\end{array} \Leftrightarrow x=2\right.\right.$. Thử lại thấy nghiệm $x=2$ thỏa (1).

+) Nếu $\left\{\begin{array}{l}a=2 \\ b=1\end{array} \Leftrightarrow\left\{\begin{array}{l}\sqrt{x-1}=2 \\ \sqrt{6-x}=1\end{array} \Leftrightarrow x=5\right.\right.$. Thử lại thấy nghiệm $x=5$ thỏa (1).

– Nếu $a b=10$, từ (1) ta suy ra $a+b=-5$ (Loại vì $a, b \geq 0$ nên $a+b \geq 0)$.

Vậy tập nghiệm của phương trình (1) là $S=\{2 ; 5\}$.

b) $\left\{\begin{array}{l}\left(x^{2}+y\right)^{2}+\left(x+y^{2}\right)^{2}=8 \\ x^{2}+y^{2}+x+y=4\end{array}\right. \quad (I)$

Đặt $a=x^{2}+y$ và $b=x+y^{2}$ thì (I) trở thành:

$$\left\{\begin{array} { l } { a ^ { 2 } + b ^ { 2 } = 8 } \\ { a + b = 4 } \end{array} \Leftrightarrow \left\{\begin{array} { l } { ( a + b ) ^ { 2 } – 2 a b = 8 } \\ { a + b = 4 }\end{array} \Leftrightarrow \left\{\begin{array}{l} a b=4 \\ a+b=4 \end{array}\right.\right.\right. $$

Do đó $a, b$ là nghiệm của phương trình:

$$X^{2}-4 X+4=0 \Leftrightarrow X=2 $$

Suy ra $\left\{\begin{array}{l}a=2 \\ b=2\end{array} \Leftrightarrow\left\{\begin{array}{l}x^{2}+y=2 \\ x+y^{2}=2\end{array}\right.\right.$

Từ (1) và (2) ta suy ra $x^{2}+y=x+y^{2} \Leftrightarrow(x-y)(x+y-1)=0 \Leftrightarrow\left[\begin{array}{l}y=x \\ y=1-x\end{array}\right.$.

– Nếu $y=x$, thay vào $(1)$, ta được: $x^{2}+x+2=0 \Leftrightarrow\left[\begin{array}{l}x=1 \\ x=-2\end{array}\right.$.

+) Với $x=1$, suy ra $y=1$.

+) Với $x=-2$, suy ra $y=-2$.

– Nếu $y=1-x$, thay vào $(1)$, ta được: $x^{2}+1-x=2 \Leftrightarrow x^{2}-x-1=0 \Leftrightarrow\left[\begin{array}{l}x=\dfrac{1+\sqrt{5}}{2} \\ x=\dfrac{1-\sqrt{5}}{2}\end{array}\right.$

+) Với $x=\dfrac{1+\sqrt{5}}{2}$, suy ra $y=\dfrac{1-\sqrt{5}}{2}$.

+) Với $x=\dfrac{1-\sqrt{5}}{2}$, suy ra $y=\dfrac{1+\sqrt{5}}{2}$.

Thử lại thấy các cặp nghiệm trên đều thỏa.

Vậy tập nghiệm của (I) là $(x ; y)=\left\{(1 ; 1),(-2 ;-2),\left(\dfrac{1+\sqrt{5}}{2} ; \dfrac{1-\sqrt{5}}{2}\right),\left(\dfrac{1-\sqrt{5}}{2} ; \dfrac{1+\sqrt{5}}{2}\right)\right\}$.

Bài 3.

$\left\{\begin{array}{l} m x+(m-1) y=m+1 \\ (m-1) x+m y=m+1 \end{array}\right. \quad (I)$

Ta có:

$D=m^{2}-(m-1)^{2}=2 m-1$

$D_{x}=(m+1) m-(m+1)(m-1)=m+1 $

$D_{y}=m(m+1)-(m-1)(m+1)=m+1$

Để (I) có nghiệm duy nhất $\Leftrightarrow D \neq 0 \Leftrightarrow 2 m-1 \neq 0 \Leftrightarrow m \neq \dfrac{1}{2}$.

Khi đó nghiệm của (I) là $\left\{\begin{array}{l}x_{0}=\dfrac{D_{x}}{D}=\dfrac{m+1}{2 m-1} \\ y_{0}=\dfrac{D_{y}}{D}=\dfrac{m+1}{2 m-1}\end{array}\right.$

Vì $x_{0}^{2}+y_{0}^{2}=2$ nên $\left(\dfrac{m+1}{2 m-1}\right)^{2}+\left(\dfrac{m+1}{2 m-1}\right)^{2}=2 \Leftrightarrow\left(\dfrac{m+1}{2 m-1}\right)^{2}=1 \Leftrightarrow\left[\begin{array}{ll}m=0 & \text { (Nhận) } \\ m=2 & \text { (Nhận) }\end{array}\right.$

Vậy $m=0$ hoặc $m=2$ thì (I) có nghiệm duy nhất $\left(x_{0} ; y_{0}\right)$ thỏa $x_{0}^{2}+y_{0}^{2}=2$.

Bài 4.

a) – Ta có: $A_{1}=x+\dfrac{1}{x}=A \in \mathbb{Z}, A_{2}=x^{2}+\dfrac{1}{x^{2}}=\left(x+\dfrac{1}{x}\right)^{2}-2 \in \mathbb{Z}$.

– Giả sử $A_{k} \in \mathbb{Z}$ với mọi $k \leq n$ ( $n$ nguyên dương và $n \geq 2$ ), hay $x^{k}+\dfrac{1}{x^{k}} \in \mathbb{Z}$.

Ta chứng $\operatorname{minh} A_{n+1} \in \mathbb{Z}$, tức là $x^{n+1}+\dfrac{1}{x^{n+1}} \in \mathbb{Z}$.

– Thật vậy, vì $x^{n}+\dfrac{1}{x^{n}}$ và $x+\dfrac{1}{x}$ là các số nguyên nên $\left(x^{n}+\dfrac{1}{x^{n}}\right)\left(x+\dfrac{1}{x}\right) \in \mathbb{Z}$.

Mặt khác, $\left(x^{n}+\dfrac{1}{x^{n}}\right)\left(x+\dfrac{1}{x}\right)=x^{n+1}+x^{n-1}+\dfrac{1}{x^{n-1}}+\dfrac{1}{x^{n+1}}=\left(x^{n+1}+\dfrac{1}{x^{n+1}}\right)+\left(x^{n-1}+\dfrac{1}{x^{n-1}}\right)$.

Do đó $\left(x^{n}+\dfrac{1}{x^{n}}\right)\left(x+\dfrac{1}{x}\right)=A_{n+1}+A_{n-1}$.

Suy ra $A_{n+1}+A_{n-1} \in \mathbb{Z}$, mà $A_{n-1} \in \mathbb{Z}$ nên $A_{n+1} \in \mathbb{Z}$.

Như vậy, theo nguyên lí quy nạp, ta có $A_{n} \in \mathbb{Z}$ với mọi số nguyên dương $n$.

b) Ta có $B=-A^{2}+6 A+1=-(A-3)^{2}+10 \leq 10$.

Dấu “=” xảy ra $\Leftrightarrow A=3 \Leftrightarrow x+\dfrac{1}{x}=3 \Leftrightarrow\left[\begin{array}{l}x=\dfrac{3+\sqrt{5}}{2} \\ x=\dfrac{3-\sqrt{5}}{2}\end{array}\right.$.

Vậy giá trị lớn nhất của $B$ là 10 khi $x=\dfrac{3+\sqrt{5}}{2}$ hoặc $x=\dfrac{3-\sqrt{5}}{2}$.

Bài 5. 

a) Ta có $\Delta A B O$ cân tại $O(O A=O B)$ và $\widehat{A B O}=60^{\circ}$ nên $\Delta A B O$ là tam giác đều.

Suy ra $O A=O B=A B$. (1)

Do $D$ đối xứng với $A$ qua đường kính $B C$ nên $D \in(O)$ và $\widehat{A O B}=\widehat{B O D}=60^{\circ}$.

Kết hợp với $O D=O B=R$, suy ra $\Delta B O D$ là tam giác đều,

kéo theo $B O=O B=O D$. (2)

Từ (1) và (2) suy ra $A B=A O=O D=D B$, dẫn đến $A O D B$ là hình thoi. Do đó $\overrightarrow{A B}=\overrightarrow{O D}$.

Với điểm $M$ bất kì, ta có:

$\overrightarrow{M A} \cdot \overrightarrow{M D} =(\overrightarrow{M B}+\overrightarrow{B A})(\overrightarrow{M O}+\overrightarrow{O D}) $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}+\overrightarrow{M B} \cdot \overrightarrow{O D}+\overrightarrow{B A} \cdot \overrightarrow{M O}+\overrightarrow{B A} \cdot \overrightarrow{O D} $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}+\overrightarrow{M B} \cdot \overrightarrow{O D}-\overrightarrow{O D} \cdot \overrightarrow{M O}-\overrightarrow{O D} \cdot \overrightarrow{O D} $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}+\overrightarrow{O D}(\overrightarrow{M B}-\overrightarrow{M O})-\overrightarrow{O D}^{2} $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}+\overrightarrow{O D} \cdot \overrightarrow{O B}–\overrightarrow{O D}^{2} $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}+O D \cdot O B \cos 60^{\circ}-O D^{2} $

$=\overrightarrow{M B} \cdot \overrightarrow{M O}-\dfrac{R^{2}}{2}$

b) Gọi $H$ là giao điểm của $A D$ và $B C$. Vì $A O D B$ là hình thoi nên $H$ là trung điểm của $A D$ và $B C$.

Lấy $I$ đối xứng với $H$ qua $B$, khi đó $\overrightarrow{I H}=2 \overrightarrow{I B}$.

Mặt khác, $\overrightarrow{I A}+\overrightarrow{I D}=2 \overrightarrow{I H}$ (do $H$ là trung điểm của $A D)$.

Suy ra $\overrightarrow{I A}+\overrightarrow{I D}=4 \overrightarrow{I B} \Leftrightarrow \overrightarrow{I A}-4 \overrightarrow{I B}+\overrightarrow{I D}=0$

Ta có:

$M A^{2}-4 M B^{2}+M D^{2} $

$=\overrightarrow{M A}^{2}-4 \overrightarrow{M B}^{2}+\overrightarrow{M D}^{2} $

$=(\overrightarrow{M I}+\overrightarrow{I A})^{2}-4(\overrightarrow{M I}+\overrightarrow{I B})^{2}+(\overrightarrow{M I}+\overrightarrow{I D})^{2} $

$=-2 \overrightarrow{M I}^{2}+2 \overrightarrow{M I}(\overrightarrow{I A}-4 \overrightarrow{I B}+\overrightarrow{I D})+\overrightarrow{I A}^{2}-4 \overrightarrow{I B}^{2}+\overrightarrow{I D}^{2}$

$=-2 M I^{2}+I A^{2}-4 I B^{2}+I D^{2} $

$ \leq I A^{2}-4 I B^{2}+I D^{2} .$

Ta có:

$I A^{2}-4 I B^{2}+I D^{2}=2 I A^{2}-4 I B^{2}=2\left(I K^{2}+K A^{2}\right)-4 I B^{2}=2\left(R^{2}+\dfrac{3}{4} R^{2}\right)-4 \cdot \dfrac{R^{2}}{4}=\dfrac{5}{2} R^{2} .$

Vậy giá trị lớn nhất của $M A^{2}-4 M B^{2}+M D^{2}$ là $\dfrac{5}{2} R^{2}$ khi và chỉ khi $M \equiv I$.

d) Lấy $L$ đối xứng với $O$ qua $C$. Khi đó $\overrightarrow{L O}=2 \overrightarrow{L C}$.

Do đó $\overrightarrow{M O}-2 \overrightarrow{M C}=\overrightarrow{M L}+\overrightarrow{L O}-2 \overrightarrow{M L}-2 \overrightarrow{L C}=-\overrightarrow{M L}$.

Ta có:

$\overrightarrow{M A} \cdot \overrightarrow{M D}-2 \overrightarrow{M B} \cdot \overrightarrow{M C}=-\dfrac{R^{2}}{2} $

$\Leftrightarrow \overrightarrow{M B} \cdot \overrightarrow{M O}-\dfrac{R^{2}}{2}-2 \overrightarrow{M B} \cdot \overrightarrow{M C}=-\dfrac{R^{2}}{2} $

$ \Leftrightarrow \overrightarrow{M B} \cdot \overrightarrow{M O}-2 \overrightarrow{M B} \cdot \overrightarrow{M C}=0 $

$ \Leftrightarrow \overrightarrow{M B}(\overrightarrow{M O}-2 \overrightarrow{M C})=0 $

$ \Leftrightarrow-\overrightarrow{M B} \cdot \overrightarrow{M L}=0$

Do đó $M L \perp M B$, vậy $M$ thuộc đường tròn đường kính $B L$.