Babası Akkoyunlu aşiretinin İmamoğulları ailesinden gelen Hasan Kethüdaoğlu Mehmed Ali Ağa,annesi Mekke'den göç etmiş, Arap Ben-î Hattab aşiretinden Nazlı Hanım'dı.1875 yılında, Bayat'ın Toyhane köyünde doğdu.Altı aylıkken öksüz kalan Mehmed Âtıf, dedesi Hasan Kethüda'nın himayesinde yetişti.
Köy hocasından başladığı tahsiline 1891'den itibaren iki sene İskilip 'te devam etti. 1893'ün Nisan ayında İstanbul'a gelerek medrese eğitimine burada devam etti. 1902'de medresedeki öğrenimini tamamladı.
1905 yılında, İstanbul'daki Fatih Camii'nde ders vermeye başladı. Bir ara Şeyhülislam tarafından Bodrum'a sürüldü. Burada para toplarken ihbar edilmesi üzerine, eski medrese arkadaşlarından Kırımlı İbrahim Efendi'nin pasaportuyla Kırım'a kaçtı.II. Meşrutiyet'in ilanından sonra İstanbul'a döndü ve sonraları katıldığı 31 Mart İsyanı'nda tutuklandı.1913'te, Mahmud Şevket Paşa'nın öldürülmesi olayında suçlu bulunarak 5,5 yıllığına Sinop'a sürüldü.Serbest kaldıktan sonra müderrisliğe devam eden Mehmed Âtıf Hoca, 15 Şubat 1919'da kurulan Cemiyet-i Müderrisin'in kurucuları arasında yer aldı.
Atıf Hoca, şapka devriminden önce yayımlamış olduğu Frenk Mukallitliği ve Şapka risalesinde Müslümanları amel-iman bütünlüğüne davet ediyordu. Müslümanların Müslüman olmayanların kılık kıyafet ve kültürel alışkanlıklarına benzemeye çalışmasının caiz olmadığını söylüyordu. Bir Müslüman ile Hıristiyanın veya bir Yahudinin kılık kıyafetinden ayırt edilebileceğini, hatta edilmesi gerektiğini savunuyordu. Kendi ifadeleriyle "Batı medeniyeti ancak insanın hayvani ve cismani yönüne hizmet ediyor"du.
26 Aralık 1925'te, risaleyi yayınlayan ve dağıtanlarla birlikte, 13 kolluk kuvveti gözetiminde Ankara'ya gönderildi. 26 Ocak 1926 Salı günü Ankara İstiklal Mahkemesinde yargılandı. Risaleyi kanunun çıkarılmasından önce yayınlamış olduğunu, içerikleriyle ilgili görüşlerinden vazgeçmemiş olduğunu, bununla birlikte kanuna karşı bir harekette bulunmadığı şeklinde bir ilk savunma yaptı.Savcı, İskilipli Âtıf Hoca için 3 yıl hapis cezası istedi. Mahkeme, müdafaa için bir gün sonraya bırakıldı. Ancak Atıf Hoca savunma haklarından tümüyle vazgeçtiğini belirterek idama götürülmesine razı bir tutum aldı.
Atıf hocanın mahkemesi sırasında, mahkeme başkanının şapka ve sarığı karşılaştırarak, ikisinin de bez parçasından ibaret olduğunu söylemesine karşılık Atıf hoca, hakimin arkasındaki bayrağı göstererek onun hammaddesinin de İngiliz bayrağının hammaddesiyle aynı olduğunu söyleyerek cevap verir.
Ertesi gün, mahkeme reisi Ali Çetinkaya, müdafaa yapmaya gerek görmeyen Atıf Hoca'yı idama mahkum etti. Atıf Hoca 1 hafta sonra Ankara Samanpazarı Meydanı'nda asıldı.
Ölümünden sonra Ankara'da bulunan mezarı bulunduğu park yerinden 2009 yılı başında İskilip Gülbaba mezarlığına taşınmış ve 2010 yılı başında kamuoyunun bilgisine sunulmuştur.
