Lời giải:
$y'=3x^2-6mx+3(m^2-1)=0$

$\Leftrightarrow x^2-2mx+m^2-1=0$

$\Leftrightarrow x=m+1$ hoặc $x=m-1$

Với $x=m+1$ thì $y=-2m-2$. Ta có điểm cực trị $(m+1, -2m-2)$

Với $x=m-1$ thì $y=2-2m$. Ta có điểm cực trị $m-1, 2-2m$

$f''(m+1)=6>0$ nên $A(m+1, -2m-2)$ là điểm cực tiểu

$f''(m-1)=-6< 0$ nên $B(m-1,2-2m)$ là điểm cực đại 

$BO=\sqrt{2}AO$

$\Leftrightarrow BO^2=2AO^2$

$\Leftrightarrow (m-1)^2+(2-2m)^2=2(m+1)^2+2(-2m-2)^2$

$\Leftrightarrow m=-3\pm 2\sqrt{2}$

a) Xét hàm số \(y=ax^4+bx^2+c\)

Ta có \(y'=4ax^3+2bx=2x\left(2ax^2+b\right)\)

         \(y'=0\Leftrightarrow x=0\) hoặc \(2ax^2+b=0\left(1\right)\)

Đồ thị  hàm số có 3 cực trị phân biệt khi và chỉ khi \(y'=0\) có 3 nghiệm phân biệt hay phương trình (1) có 2 nghiệm phân biệt khác 0 \(\Leftrightarrow ab< 0\) (*)

Với điều kiện (*) thì đồ  thị có 3 điểm cực trị là :

\(A\left(0;c\right);B\left(-\sqrt{-\frac{b}{2a},}c-\frac{b^2}{4a}\right);C\left(\sqrt{-\frac{b}{2a},}c-\frac{b^2}{4a}\right)\)

Ta có \(AB=AC=\sqrt{\frac{b^2-8ab}{16a^2}};BC=\sqrt{-\frac{2b}{a}}\) nên tam giác ABC vuông khi và chỉ khi vuông tại A.

Khi đó \(BC^2=2AB^2\Leftrightarrow b^3+8a=0\)

Do đó yêu cầu bài toán\(\Leftrightarrow\begin{cases}ab< 0\\b^3+8a=0\end{cases}\)\(\Leftrightarrow\begin{cases}-2\left(m+1\right)< 0\\-8\left(m+1\right)^3+8=0\end{cases}\)\(\Leftrightarrow m=0\)

b) Ta có yêu cầu bài toán  \(\Leftrightarrow\begin{cases}ab< 0\\OA=BC\end{cases}\)\(\Leftrightarrow\begin{cases}-2\left(m+1\right)< 0\\m^2-4\left(m+1\right)=0\end{cases}\)

                                                           \(\Leftrightarrow m=2\pm2\sqrt{2}\)

b. 
y = x^4 + 2(m + 1)x^2 + 1 
y' = 4x^3 + 4(m + 1)x 
y'= 0=> x=0 và x^2 + (m + 1)= 0 (*) 
để đồ thị hàm số có 3 điểm cực trị thì (*) có 2 nghiệm phân biệt 
=> m+1<0 
<=> m< -1 
ta có: 
y= [4x^3 + 4(m + 1)x]*x/4+ (m+1)x^2+ 1 
y= y'*x/4+ (m+1)x^2+ 1 
đường cong đi qua các điểm cực trị thỏa mãn y'= 0 
=> pt phương trình đường cong đi qua các điểm cực trị đó là: 
y= (m+1)x^2+ 1 

Vậy để đồ thị hàm số có 3 điểm cực trị thì m< -1 
và pt phương trình đường cong đi qua các điểm cực trị đó là: 
y= (m+1)x^2+ 1

b. 
y = x^4 + 2(m + 1)x^2 + 1 
y' = 4x^3 + 4(m + 1)x 
y'= 0=> x=0 và x^2 + (m + 1)= 0 (*) 
để đồ thị hàm số có 3 điểm cực trị thì (*) có 2 nghiệm phân biệt 
=> m+1<0 
<=> m< -1 
ta có: 
y= [4x^3 + 4(m + 1)x]*x/4+ (m+1)x^2+ 1 
y= y'*x/4+ (m+1)x^2+ 1 
đường cong đi qua các điểm cực trị thỏa mãn y'= 0 
=> pt phương trình đường cong đi qua các điểm cực trị đó là: 
y= (m+1)x^2+ 1 

Vậy để đồ thị hàm số có 3 điểm cực trị thì m< -1 
và pt phương trình đường cong đi qua các điểm cực trị đó là: 
y= (m+1)x^2+ 1

Chọn D

.

TXĐ: D = R

\(y'=3x^2-6x=0\) \(\Rightarrow\left[{}\begin{matrix}x=0\Rightarrow y=1\\x=2\Rightarrow y=-3\end{matrix}\right.\)

Suy ra 2 điểm cực trị của đồ thị là: A(0; 1) và B(2; -3)

Ptđt đi qua 2 điểm cực trị:

\(\dfrac{x}{2}=\dfrac{y-1}{-4}\) \(\Rightarrow-2x=y-1\) \(\Leftrightarrow y=-2x+1\left(d'\right)\)

Vì \(d\perp d'\) \(\Rightarrow\left(2m-1\right)\cdot\left(-2\right)=-1\) \(\Leftrightarrow m=\dfrac{3}{4}\)

Chọn B

1.

Đồ thị hàm bậc 3 có 2 điểm cực trị nằm về 2 phía trục hoành khi và chỉ khi \(f\left(x\right)=0\) có 3 nghiệm phân biệt

\(\Leftrightarrow x^3+3x^2+mx+m-2=0\) có 3 nghiệm pb

\(\Leftrightarrow x^3+3x^2-2+m\left(x+1\right)=0\)

\(\Leftrightarrow\left(x+1\right)\left(x^2+2x-2\right)+m\left(x+1\right)=0\)

\(\Leftrightarrow\left(x+1\right)\left(x^2+2x+m-2\right)=0\)

\(\Leftrightarrow\left[{}\begin{matrix}x=-1\\x^2+2x+m-2=0\left(1\right)\end{matrix}\right.\)

Bài toán thỏa mãn khi (1) có 2 nghiệm pb khác -1

\(\Leftrightarrow\left\{{}\begin{matrix}1-2+m-2\ne0\\\Delta'=1-\left(m-2\right)>0\end{matrix}\right.\) 

\(\Leftrightarrow m< 3\)

2.

Pt hoành độ giao điểm:

\(\dfrac{2x-2}{x+1}=2x+m\)

\(\Rightarrow2x-2=\left(2x+m\right)\left(x+1\right)\)

\(\Leftrightarrow2x^2+mx+m+2=0\) (1)

d cắt (C) tại 2 điểm pb \(\Rightarrow\) (1) có 2 nghiệm pb

\(\Rightarrow\Delta=m^2-8\left(m+2\right)>0\Rightarrow\left[{}\begin{matrix}m>4+4\sqrt{2}\\m< 4-4\sqrt{2}\end{matrix}\right.\)

Khi đó, theo hệ thức Viet: \(\left\{{}\begin{matrix}x_A+x_B=-\dfrac{m}{2}\\x_Ax_B=\dfrac{m+2}{2}\end{matrix}\right.\)

\(y_A=2x_A+m\) ; \(y_B=2x_B+m\)

\(\Rightarrow AB^2=\left(x_A-x_B\right)^2+\left(y_A-y_B\right)^2=5\)

\(\Leftrightarrow\left(x_A-x_B\right)^2+\left(2x_A-2x_B\right)^2=5\)

\(\Leftrightarrow\left(x_A-x_B\right)^2=1\)

\(\Leftrightarrow\left(x_A+x_B\right)^2-4x_Ax_B=1\)

\(\Leftrightarrow\left(-\dfrac{m}{2}\right)^2-4\left(\dfrac{m+2}{2}\right)=1\)

\(\Leftrightarrow m^2-8m-20=0\Rightarrow\left[{}\begin{matrix}m=10\\m=-2\end{matrix}\right.\)

3.

\(y'=x^2-2mx+2\left(m-1\right)\)

Hàm có 2 điểm cực trị nằm về cùng phía đối với trục tung khi và chỉ khi \(y'=0\) có 2 nghiệm pb cùng dấu

\(\Leftrightarrow\left\{{}\begin{matrix}\Delta'=m^2-2\left(m-1\right)>0\\ac=1.2\left(m-1\right)>0\end{matrix}\right.\)

\(\Leftrightarrow\left\{{}\begin{matrix}m^2-2m+2>0\left(\text{luôn đúng}\right)\\m>1\end{matrix}\right.\) 

\(\Leftrightarrow m>1\)