Berdiri kokoh di atas lahan seluas 18.000 meter persegi dengan sebuah arsitektur yang menakjubkan, membuat Mesjid Azizi cukup menjadi bukti sejarah akan kejayaan kesultanan Langkat pada masa ia didirikan. Mesjid kebanggaan masyarakat Langkat ini dibangun pada masa pemerintahan Sultan Langkat ke-7, Sultan Abdul Aziz Djalil Rachmat Syah (1897-1927), dan diresmikan pada 12 Rabiulawal 1320 Hijriah atau tepatnya 13 Juni 1902. 
Pembangunan mesjid ini memakan biaya sekitar 200.000 ringgit dengan rentang waktu pengerjaan selama 18 bulan. Biaya yang tidak sedikit ini tentunya menjadi bukti akan kemakmuran Kesultanan Langkat yang memiliki perkebunan karet luas serta tambang minyak yang kaya raya pada masa itu.
Kemegahan mesjid ini terlihat jelas dari bangunan utama mesjid yang memiliki kombinasi arsitektur antara Timur tengah, India dan Cina yang dipadukan dengan corak khas melayu. Di bagian dalam mesjid, terdapat ruangan bersegi sembilan dengan tiang-tiang yang terpancang kokoh, di bagian atas tampak jelas kubah-kubah mempesona yang menyempurnakan bentuk mesjid ini sementara pada bagian halaman mesjid terlihat menara indah yang menjulang tinggi. 
Nilai historis mesjid Azizi ini dilengkapi dengan adanya makam keluarga kesultanan pada bagian kanan halaman mesjid. Makam-makam tua ini menjadi saksi eksistensi kesultanan Langkat pada masanya. Yang lebih menandaskan bukti itu adalah keberadaan makam Tengku Amir Hamzah, seorang pujangga angkatan Pujangga Baru yang telah menelurkan beberapa karya legendarisnya seperti Buah Rindu dan Nyanyi Sunyi. Pada makamnya juga terukir syair yang digubahnya. 
Hal yang sedikit disayangkan adalah kurang terawatnya bangunan bersejarah ini. Cat mesjid yang sudah kelihatan memudar meminta perhatian semua pihak untuk mendandaninya khususnya para pejabat pemerintah daerah kabupaten Langkat. Aset daerah yang sangat berharga yang sekaligus menjadi tujuan wisata religi ini harus tetap lestari dan terus menjadi simbol kejayaan kesultanan Langkat. 
