y'=x^2-(m+4)x-(2m^2-5m-3)
Để f(x) có 2 cực trị x1,x2 thì y'=0 có 2 nghiệm phân biệt
=>(m+4)^2+4(2m^2-5m-3)>0
=>m^2+8m+16+8m^2-20m-12>0
=>9m^2-12m+4>0
=>m<>2/3
x1,x2 là 2 cạnh liên tiếp của 1 hình chữ nhật
=>x1*x2>0 và x1+x2>0
=>m+4>0 và -(2m^2-5m-3)>0
=>m>-4 và -1/2<m<3
=>-1/2<m<3 và m<>2/3
Bình phương Độ dài đường chéo là:
l^2=x1^2+x2^2
=(x1+x2)^2-2x1x2
=(m+4)^2+2(2m^2-5m-3)
=m^2+8m+16+4m^2-10m-6
=5m^2-2m+10
=5(m^2-2/5m+2)
=5(m^2-2*m*1/5+1/25+49/25)
=5(m-1/5)^2+49/5>=49/5
Dấu = xảy ra khi m=1/5
=>l^2 min=49/5
=>m=1/5