23 Mart 1876'da Diyarbakır'da doğdu. Diyarbekir Askerî Rüşdiyesi'ne girerek 1890 yılında mezun oldu. Kısa süreli memuriyetlerde bulundu; bir ara askerî rüşdiyede Fransızca muallimliği yaptı. Meşrutiyet'in ilânından sonra esasen öteden beri ilgilendiği ve taraftarı olduğu İttihat ve Terakkî'nin Diyarbekir şubesini kuran (1908) Mehmed Ziya aynı yıl fırkanın bölge müfettişi oldu. 1910'da Diyarbekir maarif müfettişi oldu. Daha sonra ailesini de alarak Selânik'e giden Gökalp burada yeni açılan Selânik İttihat ve Terakkî Mekteb-i Sultânîsi'nde Türkiye'de ilk defa sosyoloji dersleri vermeye başladı (1911). Ancak Balkan savaşları başlayınca İstanbul'a dönmek zorunda kaldı. 1912 Martında yenilenen Meclis-i Meb'ûsan seçimlerinde Ergani Madeni mebusu oldu. Aynı yılın ağustosunda meclis feshedilince önce Dârü'l-hilâfeti'l-aliyye Medresesi'nde ve Dârü'l-muallimât'ta ardından Dârülfünun'da içtimaiyat dersleri verdi (1913-1919). Bu arada Maarif Vekâleti Fenn-i Terbiye Encümeni üyesi oldu. I. Dünya Savaşı mağlûbiyeti ve İstanbul'un İngilizler tarafından işgali üzerine tevkif edildi (28 Ocak 1919). Bir süre Bekir Ağa Bölüğü'nde tutuklu kaldı; arkasından savaş ve katliam suçlarından yargılanarak birçok Osmanlı aydını ve subayı ile birlikte önce Limni adasına daha sonra Malta'ya sürüldü. İki yıl dört ay devam eden sürgün hayatının 19 Mayıs 1921'de sona ermesi üzerine Türkiye'ye dönen Ziya Gökalp bir süre Diyarbakır'da kaldıktan sonra Ankara hükümetinin Maarif Vekâleti İlim Encümeni üyesi (1921) ardından da Telif ve Tercüme Heyeti reisi oldu. 11 Ağustos 1923'te toplanan II. Büyük Millet Meclisi'ne Diyarbekir mebusu olarak katıldı. Bu arada sağlığının bozulması ve Ankara'da tedavisinin güçleşmesi üzerine kaldırıldığı İstanbul Fransız Hastanesi'nde 25 Ekim 1924'te öldü.