Lời giải:
a) Do $ABCD$ là hình vuông nên \(\overrightarrow{AB}\perp \overrightarrow{BC}\Rightarrow \overrightarrow{AB}.\overrightarrow{BC}=0\)
\(\overrightarrow{AB}.\overrightarrow{AC}=\overrightarrow{AB}(\overrightarrow{AB}+\overrightarrow{BC})=AB^2+\overrightarrow{AB}.\overrightarrow{BC}\)
\(=AB^2+0=AB^2=a^2\)
b)
\(\overrightarrow{OA}.\overrightarrow{AC}=\frac{1}{2}\overrightarrow{CA}.\overrightarrow{AC}=-\frac{1}{2}AC^2=-\frac{1}{2}(AB^2+BC^2)=-\frac{1}{2}(a^2+a^2)=-a^2\)
c)
\(\overrightarrow{AC}.\overrightarrow{CB}=(\overrightarrow{AB}+\overrightarrow{BC})\overrightarrow{CB}=\overrightarrow{AB}.\overrightarrow{CB}+\overrightarrow{BC}.\overrightarrow{CB}\)
\(=0-(\overrightarrow{BC})^2=0-BC^2=0-a^2=-a^2\)