Gümüşhane'de doğan her çocuğun gümüşten kaşığının, çatalının ve tabağının olduğu rivayet edilir. Şehrin nüfusunun her geçen gün artmasında coğrafi konumunun, tarihi ipek Yolu üzerinde bulunmasının ve madenlerinin önemli rolü olmuştur.
Katip Çelebi, Cihannüma'sında "Kaza-i Urla" diye adlandırdığı Gümüşhane için "Urla bir güzel kazadır, yakınında gümüş olmakla Gümüşhane dahi derler" demektedir.
Maden ocakları IV. Murad zamanında (1623-1640) en canlı dönemini yaşamıştır. Bir ara kapanan ocaklar 1839 yılında yayınlanan bir hatt-ı hümayunla tekrar işletmeye açılmıştır. Ocaklar mülki amirin tayini, padişahın onayı ile atanan ve Matah Efendi denilen kişilerce yönetilirdi.
Gümüşhane 19. yüzyılda Trabzon’a bağlı bir sancaktı. Doğu Karadeniz'in iç kesimlerinde yer alan Gümüşhane Sancağı kuzeyde Trabzon merkez sancağı, doğuda ve güneyde Erzurum Vilayeti, batıda Sivas Vilayeti ile çevriliydi. 19. yüzyıla kadar rahat bir hayat sürdüren Gümüşhane yöresi, savaşlar nedeniyle tedirginlik içine düşmüş, madenlerin yeterince işletilmemesi sebebiyle de göç başlamıştır. Böylece şehir harap olmaya ve nüfus azalmaya başlamıştır. 1829 ve 1877-1878 Osmanlı-Rus Savaşı ile 7 Temmuz 1916 tarihlerinde Rusların Doğu Anadolu ve Doğu Karadeniz'de yaptıkları işgaller ve bunun sonucundaki göçler Gümüşhane’de hayat bırakmamıştır.
Ruslar 16 Temmuz 1916'da Bayburt'u aldıktan sonra yollarına devam ederek 19 (20) Temmuz 1916 günü Gümüşhane’ye girmişlerdir. Türk birlikleri fazla karşı koyamayınca Ruslar ayni gün Torul'a girmişlerdir. Böylece Trabzon yolu Ruslara açılmıştır.
22 Temmuz 1916 günü Kelkit üzerine yürüyen Rus ordusu akşama doğru burayı ele geçirmiştir.
Gümüşhane ve çevresi bu işgaller karşısında ve özellikle Ermeni zulmü altında ezilirken Rusya'da Bolşevik İhtilali'nin çıkması ve iç çalkantılar sebebiyle Ruslar 18 Aralık 1917'de Erzincan Mütarekesi'ni imzalamış ve ordularını geri çekmeyi kabul etmiştir. Ancak Ermeniler katliamlarına devam etmişlerdir. Bunun üzerine mütareke geçersiz sayılarak yeniden savaş başlatılmış ve bu suretle Torul 14 Şubat, Gümüşhane 15 Şubat ve Kelkit 17 Şubat 1918'de Rus işgalinden kurtarılmıştır.
Milli Mücadele yıllarında kıyı ile iç kesimler arasında geçiş bölgesi olması sebebiyle coğrafi önem arz eden Gümüşhane, bu dönemde Trabzon Muhafaza-i Hukuk-u Milliye Cemiyeti'nin faaliyet alanı içinde bulunmuştur. Gümüşhane delegesi Kadirbeyzade Zeki Bey bu cemiyetin ikinci başkanlığına getirilmiştir.
23 Temmuz 1919'da toplanan Erzurum Kongresi'ne Gümüşhane'den Kadirbeyzade Zeki Bey (Gümüşhane ve Torul mümessili olarak) Erzurum Kongresi'ne katıldı. Kelkit'ten Müftü Osman Nuri Efendi, Şiran'dan Müftü Hasan Fahri (Polat) Efendi Erzurum Kongresi'nin açılış ve kapanış dualarını yapmıştır. Bu nedenle 9 Ağustos 1335 (1919)'da Mustafa Kemal, O'na yazdığı bir tezkere ile teşekkür etmiştir.
Osmanlı hakimiyetinin ilk zamanlarında Erzurum Eyaletine bağlı iken sonraları Trabzon'a bağlanan Gümüşhane sancağı 20 Nisan 1924 ve 491 sayılı kanunun 89.maddesinde "Vilayet" başlığı altındaki kanunla 1925 yılında il olmuştur.
1925-1926 tarihli Trabzon salnamesinde "Gümüşhane Vilayeti Merkez ilçe ile birlikte Bayburt, Kelkit, Torul ve Şiran olmak üzere beş ilçe, beş bucak ve 377 köyden oluştuğu, 16943 evde 101153 kişinin yaşadığı şehirde hastane olmadığı; vilayetin ticari durumunun Trabzon-Bayburt-Erzurum büyük yolu üzerinde ve İran transit yolu üzerinde bulunduğundan oldukça iyi olduğu, aslında tarım memleketi olan vilayetin bazı yerlerinde ürünleri yerel ihtiyacı karşılamadığından, halkın bir kısmının işçilik, meyvecilik ve katırcılıkla geçindiği" belirtilmektedir.
Gümüşhane'nin il olmasıyla birlikte Ahmet Durmuş (Evren-dilek) Bey vali olarak atanmıştır. Cumhuriyet döneminin ilk Belediye Başkanı ise Osman Bey (Ataç) olup 1922-1934 tarihleri arasında görev yapmıştır. Mustafa Kemal Atatürk'ün Cumhurbaşkanlığı döneminde Gümüşhane’de yol ve köprü yapımına önem verilmiş, tarım geliştirilmeye çalışılmıştır.İsmet İnönü'nün Cumhurbaşkanlığı döneminde ise II. Dünya Savaşı patlak verdiğinden ilk dönemlerde hemen hiçbir yatırımın yapılmadığı Gümüşhane il merkezine 1948 yılında su getirilmiş, ertesi yıl da elektrik şebekesi kurulmuştur.1950'den itibaren ekonomik bir kalkınma görülmeye başlanmış, ancak daha sonra diğer illere ve hatta Avrupa ülkelerine göç olayı başlamıştır. Bayburt'un 1989 tarihinde il olması ve ayrıca yeni ilçelerin oluşturulması ile idari taksimatta değişiklik meydana gelmiştir. 1988 yılında Köse, 1990 yılında Kürtün ilçe olmuştur.
