İç Anadolu Bölgesi’nde yer alan Karaman’ın kuzeyinde Konya, güneyinde Mersin, doğusunda Ereğli, güneydoğusunda Silifke, batısında Antalya bulunmaktadır. İl topraklarının büyük bölümü Konya kapalı havzasının dalgalı güney kesiminde yer almaktadır. Toros Dağları ilin güneyini engebelendirir. En önemli yükseltisi, aynı zamanda sönmüş bir yanardağ konisi olan Karadağ (2.271 m.) ile Yunt Dağı (3.227 m.)’dir. İç Anadolu’yu Akdeniz’e bağlayan Sertavul Beli (Sertavul Geçidi)’dir. Sönmüş bir yanardağ konisi olan Karadağ, andezit ve dazit intifalarından meydana gelmiş ve bunun sonucu olarak da lavlar yüzey şekillerini oluşturmuştur. Karaman-Konya-Ereğli havzasında yer alan Karadağ, yöredeki kraterlerin en büyüğü olup, büyük bir kısmı tahrip olan Mihaliç konisi üzerindedir. Bölgedeki diğer volkanik koniler trakit, andezit ve hematit tüflerinden oluşmuştur. Göksu Nehri’nin iki ana kolu Orta Toroslarla birleşerek, dik ve derin uçurumlu Taşeli platosunu oluşturmaktadır.
Karaman’ın iki önemli ovası bulunmaktadır. Bunlar Karaman Ovası ile Ayrancı Ovasıdır. İl merkezinden Konya ve Ereğli’ye doğru, deniz seviyesinden 1000-1050 m. yükseklikteki Karaman Ovası hafif engebeli, 600 km. genişliğindedir. Ayrancı Ovası ise deniz seviyesinden 1010-1026 m. yüksekliğinde olup, 375 km. genişliğindedir.
İl topraklarını sulayan Göksu Nehri, 296 km. uzunluğunda olup, bunun 47 km. si il toprakları içerisindedir. Yüzlük Dağı’ndan kaynaklanan Gödet Çayı ise, 81 km. sonra Gödet Barajında son bulur. Ayrıca Ermenek Çayı, Göksu Nehri’nin bir kolu olup, Mut yakınlarında Pirinç Suyu ile birleşir. 112 km. uzunluğundaki Ermenek Çayı’nın 56 km. Karaman il sınırları içerisindedir. Bunların dışında Maraşpoli Suyu, Bahçegözü Suyu, Balkusan Çayı, Nadire Değirmenleri Suyu, Zeyve Çayı, Deliçay, Eskiçay ve Kocadere ilin diğer belli başlı
akarsularıdır.