如圖，由題意知，因?yàn)槿忮FA-BCM的體積=三棱錐M-ABC的體積，
底面△ABC的面積一定，當(dāng)高最大時(shí)，體積最大；
當(dāng)平面MAB⊥平面ABCD時(shí)，過(guò)點(diǎn)M作MN⊥AB，則MN⊥平面ABCD，
在△MAB中，|MA|+|MB|=10，AB=6，
顯然，當(dāng)|MA|=|MB|=5時(shí)，高M(jìn)N最大，并且MN=

MA2?AN2

=

52?32

=4，
所以，三棱錐A-BCM的最大體積為：V_A-BCM=V_M-ABC=

1

3

?S_△ABC?MN=

1

3

×

1

2

×6×6×4=24．
故選D