1880 veya 1881 yılının Şubat ayında İstanbul’da, Beşiktaş’ın Valideçeşme semtinde dünyaya geldi. Babası, Sultan Abdülaziz'in vekilharcı Ürgüplü Ahmed Ağa'dır. İlk öğrenimini Vişnezade Sıbyan Mektebi’nde, orta öğrenimini Beşiktaş Askeri Rüştiyesi ve Kuleli Askeri İdadisi'nde gördü. 1898 yılında Harb Okulu'ndan piyade birincisi olarak mezun oldu. Küçük yaşta teğmen çıktığı için kıtaya gönderilmeyip öğretmen sınıfında bırakıldı. Toptaşı ve Soğukçeşme Askeri Ortaokullarında 4 yıl süre ile coğrafya öğretmenliği yaptı. 1902 yılında Harp Okulun'da Fransızca, 1908 yılında tarih öğretmeni oldu. 1909 yılında tarihi araştırmalar için bir heyetle birlikte Fransa'ya gitti. Paris Hazine-i Evrakı’nı bu gezi sayesinde yakında tanıma imkanı buldu ve bilgisini, Osmanlı Hazine-i Evrakı’nı tanımak için kullandı. Yine bu gezide tarih anlayışını etkileyen kimi Fransız tarihçilerle tanıştı. 1909 yılında Erkan-ı Harp Yayın Şubesinde görevlendirildi ve "Askeri Mecmua"yı yönetti. Dergide, Osmanlı savaşları ve askerliğine dair yazılar yazdı. Aynı yıl, o zamanki adı “Tarihi Osmani Encümeni” olan Türk Tarih Encümeni’ne üye seçildi. Tarihi Osmani Encümeni Mecmuası’nda bilimsel çalışmalarını yayımlarken altı ciltlik “Büyük Tarihi Umumi”yi yayımladı; İkdam’da “Geçmiş Asırlarda Osmanlı Hayatı” adlı dizi ile tefrika ettiği yazılarını da kitaplaştırdı. 1912 yılında Balkan Savaşı'nda Askeri Sansür Müfettişi oldu. 1913 yılında gözleri bozuk olduğu için yüzbaşı iken emekliye ayrıldı; serbest çalışmaya başladı. I.Dünya Savaşı nedeniyle orduya çağırılana değin öğretmenlik ve gazetecilik yaptı. I. Dünya Savaşı’nda ordunun isteği ile Türkiye-Rusya ilişkilerine dair yazılar yazan Ahmet Refik Bey, Kavalalı Mehmet Ali Paşa’yı ihanetle suçlayan bir yazısı nedeniyle “arpa saman memuriyeti” gibi bir görevle Anadolu’ya görevlendirilerek cezalandırıldı. Bu görevi sırasında Nevşehirli Damat İbrahim Paşa hakkında incelemelerde bulundu. 1915 yılında Eskişehir’e Askeri Sevk Komisyonu Başkanı olarak atandığında Osmanlı Devleti’nin kuruluşuna ilişkin araştırmalar yaptı. Hastalığı nedeniyle kısa süre sonra yeniden İstanbul’a döndü. Hazine-i Evrak’ta çalışarak eski İstanbul yaşantısına dair belgeler derledi. Bu belgeler “Asr-ı Hicriler” adlı kitapta toplandı. Savaş sonrasında Türkçülük'ü benimsedi. Köprülüzade Fuad, Ziya Gökalp ve Necmeddin Sadık beylerle birlikte İttihat ve Terakki'nin resmi sözcülüğünü üstlenen “Yeni Mecmua”da çalıştı. Vatanın dünyanın merkezi sayılması düşüncesini esas aldı. 1918 yılında İstanbul Darülfünun Osmanlı Tarihi Öğretmenliğine, 1919 yılında Türkiye Tarihi Müderrisliğine atandı. Bir yandan da Osmanlı Hazine-i Evrak’ında çalışmaya başladı. Bu arada Demirbaş Şarl ile ilgili bir çalışması nedeniyle İsveç hükümeti tarafından ödüllendirildi. Mütareke döneminde siyasetle de ilgilenen Ahmet Refik, Hürriyet ve İtilaf'a katıldı. Ahmet Refik Bey, 1925 yılında Türk-Bulgar ilişkileri hakkındaki çalışmaları nedeniyle Bulgar hükümeti tarafından ödüllendirildi. Yine 1925’te, Milli Mücadele döneminde faaliyet gösteren “Tarikat-ı Salahiyye” adlı bir örgütle ilişkisi olduğu iddiasıyla tutuklanıp Ankara İstiklal Mahkemesi'nde yargılandı. Savunmasında duygusal bir konuşma yaparak cemiyetle ilişkisini kesinlikle redetti ve beraat etti. 1931’de İstanbul Belediyesi ile Surp Agop Mezarlığı arasındaki davada bilirkişi olarak atandı. Elmadağ-Harbiye arasındaki arazinin Ermeniler’in değil, Sultan Beyazit Veli Vakfı'nın mülkü olduğunu tarihi belgelerle kanıtlaması nedeniyle belediye tarafından kendisine Büyükada'da bir ev hediye edildi. 1932 yılında I. Tarih Kongresi'ne katıldı. “Türk Tarihinin Anahatları” adlı çalışmanın yazı kurulunda yer aldı. 1933 yılında üniversite öğretmenliğinden kadro dışı bırakıldı. Kurumun dışında bırakılmasından ötürü derin bir kırıklık yaşadı. Ölümüne değin resmi bir görev almadı. Hayatının son yıllarını Büyükada’da sefalet içinde geçirdi. Değerli kütüphanesini parça parça sattı. Uzun bir hastalığın ardından 10 Ekim 1937 tarihinde Haydarpaşa Numune Hastanesi’nde 56 yaşında iken zatürreden vefat etti. Mezarı Büyükada'da Tepeköy Mezarlığı'ndadır. Hayatı boyunca dünya tarihinden çocuk kitaplarına kadar geniş bir sahada eser üretti. Kitaplarının sayısı 150’yi geçer ve tarihçiliğinin yanı sıra edebiyata da ilgi göstermiş, 1932’de “Gönül” adlı bir şiir kitabı yayınlamıştır. Bektaşi nefesleri şeklinde yazdığı birçok güftesi bestelenmiştir.
