1. Sistim pemerintahan tertua yang dijumpai di wilayah Kabupaten Karo ialah Penghulu, yang menjalankan pemerintahan di Kampung (Kuta) menurut adat. Terbentuknya suatu Kuta harus memenuhi persyaratan adat antara lain: ada Merga pendiri (Merga taneh/simantek Kuta), ada Senina Simantek Kuta, ada Anak Beru simantek Kuta (Anak Beru Taneh) serta ada Kalimbubu Simantek Kuta (Kalimbubu Taneh).
2. Pada masa penjajahan Belanda mulai tahun 1906, sistem pemerintahan di wilayah Kabupaten Karo pada dasarnya ialah:
- Pemerintahan oleh Onderafdeling Karo Landen yang dipimpin oleh Controleur pimpinan pemerintahan selalu ditangan bangsa Belanda.
- Landschaap, yaitu pemerintahan Bumi Putra. Pemerintahan (Landschaap) ini dibentuk berdasarkan perjanjian pendek dengan pemerintahan Onderafdeling. Berdasarkan perjanjian pendek (Korte Verklaring) tahun 1907, maka di Tanah Karo terdapat 5 (lima) Landschaap yang dikepalai oleh SIBAYAK yang membawahi beberapa URUNG yang dikepalai oleh RAJA URUNG yaitu:
i. Landschaap Lingga, membawahi 6 (enam) urung:
Sepuluh Dua Kuta di Kabanjahe
Telu Kuta di Lingga
Tigapancur di Tigapancur
Empat Teran di Naman
Lima Senina di Batu Karang, dan
Tiganderket di Tiganderket
ii. Landschaap Kutabuluh, membawahi 2 (dua) urung:
Namo Haji di Kutabuluh, dan
Liang Melas di Samperaya
iii. Landschaap Sarinembah, membawahi 4 (empat) urung:
Sepuluhpitu Kuta di Sarinembah
Perbesi di Perbesi
Juhar di Juhar, dan
Kuta Bangun di Kuta Bangun
iv. Landschaap Suka, membawahi 4 (empat) urung:
Suka di Suka
Sukapiring/Seberaya di Seberaya
Ajinembah di Ajinembah
Tongging di Tongging
vi. Landschaap Barusjahe, membawahi 2 (dua) urung:
Sipitu Kuta di Barusjahe, dan
Sinaman Kuta di Sukanalu
Pada masa penjajahan Jepang (Tentara Jepang masuk ke Tanah Karo bulan Maret 1942) susunan pemerintahan di Tanah Karo adalah serupa dengan masa penjajahan Belanda, dengan pergantian orang-orangnya yakni yang setia kepada penjajah Jepang.
3. Pada masa Kemerdekaan RI Struktur pemerintahan di Tanah Karo adalah sebagai berikut:
i. Pemerintahan Tanah Karo sebagai alat pemerintahan Pusat yang pada saat itu dikepalai oleh Sibayak Ngerajai Milala
ii. Pemerintahan Swapraja yaitu Landschaap:
- Lingga dengan 6 Urung
- Barusjahe dengan 2 Urung
- Suka dengan 4 Urung
- Sarinembah dengan 4 Urung
- Kutabuluh dengan 2 Urung
Oleh Komite Nasional Indonesia, Tanah Karo dalam sidangnya tanggal 13 Maret 1946, Kabupaten Karo diperluas dengan Daerah Deli Hulu dan Cingkes, dibagi kedalam 3 (tiga) Kewedanaan dengan masing-masing membawahi 5 (lima) Kecamatan yaitu:
i. Kewedanaan Kabanjahe membawahi 5 Kecamatan yaitu:
Kabanjahe
Tigapanah
Barusjahe
Simpang Empat, dan
Payung
ii. Kewedanaan Tigabinanga membawahi 5 Kecamatan yaitu:
Tigabinanga
Juhar
Munte
Kutabuluh
Mardingding
iii. Kewedanaan Deli Hulu membawahi 5 Kecamatan yaitu:
Pancur Batu
Sibolangit
Kutalimbaru
Biru-Biru
Namo Rambe
4. Bentuk dan Susunan Pemerintahan Daerah
Susunan Pemerintahan Daerah seperti yang diatur menurut UU No. 32 Tahun 2004 Tentang Pemerintahan Daerah bahwa unsur penyelenggara Pemerintahan Daerah adalah Pemerintahan Daerah dan DPRD, dimana Pemerintah Daerah sebagai Badan Eksekutif dan DPRD sebagai Badan Legislatif. Pemerintah Daerah Kabupaten dipimpin oleh seorang Bupati dan dalam menjalankan tugas dan wewenangnya selaku Kepala Daerah dibantu oleh seorang Wakil Bupati. Penyelenggaraan Pemerintah Daerah menggunakan asas Otonomi dan Tugas Pembantuan.
Wilayah pemerintahan Kabupaten Karo sejak tanggal 29 Desember 2006 resmi berubah dari 13 kecamatan menjadi 17 Kecamatan dan 269 Desa/Kelurahan yaitu:
- Kecamatan Kabanjahe, sebanyak 8 desa dan 5 Kelurahan
- Kecamatan Berastagi, sebanyak 6 Desa dan 4 Kelurahan
- Kecamatan Tigapanah, sebanyak 26 Desa
- Kecamatan Dolat Rayat sebanyak 7 Desa
- Kecamatan Merek, sebanyak 19 Desa
- Kecamatan Barusjahe, sebanyak 19 Desa
- Kecamatan Simpang Empat, sebanyak 17 Desa
- Kecamatan Naman Teran sebanyak 14 Desa
- Kecamatan Merdeka sebanyak 9 Desa
- Kecamatan Payung, sebanyak 8 Desa
- Kecamatan Tiganderket sebanyak 17 Desa
- Kecamatan Kutabuluh, sebanyak 16 Desa
- Kecamatan Munte, sebanyak 22 Desa
- Kecamatan Juhar, sebanyak 25 Desa
- Kecamatan Tigabinanga, sebanyak 19 Desa dan 1 Kelurahan
- Kecamatan Laubaleng, sebanyak 15 Desa
- Kecamatan Mardingding, sebanyak 12 Desa
Sumber: Karo Dalam Angka 2015