Pada mulanya, sekolah ini menumpang di bangunan Sekolah Rendah Inggeris, Astana Raja sehingga tahu 1965. Pada tahun 1966, sekolah ini mempunyai dua aliran iaitu aliran Inggeris dan aliran Melayu. Pada tahun 1973, dua blok bangunan tambahan telah dibina. Dengan siapnya bangunan ini pada tahun 1974, nama sekolah ini telah dirasmikan dengan nama baru iaitu Sekolah Menengah Datuk Abdullah, sempena nama Dato' Undang Luak Rembau yang ke-18, Dato' Abdullah b. Hj Dahan. Majlis perasmian dilakukan pada 14 November 1974 oleh Yang Berhormat Dr. Mahathir b. Mohamed, Menteri Pelajaran Malaysia ketika itu.


Pada tahun 1981, kelas aliran Sains Tulen untuk Tingkatan 4 dimulakan setelah bangunan makmal Sains Tulen dan dua blok bangunan asrama telah didirikan. Asrama ini dapat menampung seramai 200 orang pelajar. Bangunan asrama telah dirasnikan oleh Yang Amat Berhormat Dato' Hj Abdul Samad, Menteri Besar Negeri Sembilan pada 12 November 1985. Tiga buah rumah guru juga turut dibina. Mulai tahun 1991, sekolah ini mempunyai dua aliran iaitu aliran akademik biasa dan satu lagi aliran khas pendidikan Arab. Pelajaran Pendidikan khas ditentukan oleh Bahagian Pendidikan Agama Jabatan Pendidikan Negeri sembilan berdasarkan keputusan Ujian Penilaian Sekolah Rendah (UPSR).

Bagi kemudahan pendidikan Islam, sekolah ini telah mendirikan sebuah surau yang berharga lebih kurang RM25,000 dan surau ini telah dirasmikan oleh Yang Amat Berhormat Dato' Seri Utama Tan Sri Hj Mohd Isa b. Dato' hj Abdul Samad, Menteri Besar Negeri Sembilan pada 28 April 1993.