Lời giải:
a. Ta có:
\(\overrightarrow{AB}=(1,3), \overrightarrow{AC}=(9, -3)\)
$\Rightarrow \overrightarrow{AB}.\overrightarrow{AC}=1.9+3(-3)=0$
$\Rightarrow \overrightarrow{AB}\perp \overrightarrow{AC}$
$\Rightarrow ABC$ là tam giác vuông tại $A$.
b.
\(\overrightarrow{BA}.\overrightarrow{BC}=(-1, -3).(8, -6)=(-1).8+(-3)(-6)=10\)
Theo công thức cos 2 vecto:
\(\cos B=\frac{\overrightarrow{BA}.\overrightarrow{BC}}{|\overrightarrow{BA}||\overrightarrow{BC}|}=\frac{10}{\sqrt{(-1)^2+(-3)^2}.\sqrt{8^2+(-6)^2}}=\frac{1}{\sqrt{10}}\)