Idea untuk menubuhkan MRSM Alor gajah telah di ilhamkan oleh pengerusi MARA pada ketika itu iaitu Yang Berhormat Datuk Wira Abu  Seman pada tahun 2003 dimana tapak yang sesuai telah dipilih di atas Lot 1720 Mukim Ayer Pa’abas Daerah Alor Gajah, Melaka. MRSM Alor Gajah telah dibuka pada 02 Januari 2007 di satu kawasan seluas 52 hektar. Pembangunan infrakstrukturnya mengandungi blok Pentadbiran, blok Akademik, blok Asrama, Dewan Selera, Dewan Besar, Pusat Sumber ilmu, Blok Makmal Sains, Surau, Rumah Pengetua, Rumah Timbalan Pengetua, Apartmen Guru dan kakitangan serta Gelanggang Permainan.

Pengambilan pelajar pertama ialah pada 19 Mac 2007 yang terdiri daripada 366 orang pelajar tingkatan empat (186 pelajar putera, 180 pelajar puteri). Manakala bilangan guru kumpulan pertama pula ialah seramai 35 orang dan Bilangan kakitangan seramai 24 orang.

MRSM Alor Gajah adalah MRSM yang pertama melaksanakan program kurikulum terbeza yang melibatkan pembelajaran kemahiran insaniah (softskill ) secara formal.