1. Sistim pemerintahan tertua yang dijumpai di wilayah Kabupaten Karo ialah Penghulu, yang menjalankan pemerintahan di Kampung (Kuta) menurut adat. Terbentuknya suatu Kuta harus memenuhi persyaratan adat antara lain: ada Merga pendiri (Merga taneh/simantek Kuta), ada Senina Simantek Kuta, ada Anak Beru simantek Kuta (Anak Beru Taneh) serta ada Kalimbubu  Simantek Kuta (Kalimbubu Taneh).

2. Pada masa penjajahan Belanda mulai tahun 1906, sistem pemerintahan di wilayah Kabupaten Karo pada dasarnya ialah:

• Pemerintahan oleh Onderafdeling Karo Landen yang dipimpin oleh Controleur pimpinan pemerintahan selalu ditangan bangsa Belanda.

• Landschaap, yaitu pemerintahan Bumi Putra. Pemerintahan (Landschaap) ini dibentuk berdasarkan perjanjian pendek dengan pemerintahan Onderafdeling. Berdasarkan perjanjian pendek (Korte Verklaring) tahun 1907, maka di Tanah Karo terdapat 5 (lima) Landschaap yang dikepalai oleh SIBAYAK yang membawahi beberapa URUNG yang dikepalai oleh RAJA URUNG yaitu:

i. Landschaap Lingga, membawahi 6 (enam) urung:
Sepuluh Dua Kuta di Kabanjahe
Telu Kuta di Lingga
Tigapancur di Tigapancur
Empat Teran di Naman 
Lima Senina di Batu Karang, dan
Tiganderket di Tiganderket

ii. Landschaap Kutabuluh, membawahi 2 (dua) urung:
Namo Haji di Kutabuluh, dan
Liang Melas di Samperaya

iii. Landschaap Sarinembah, membawahi 4 (empat) urung:
Sepuluhpitu Kuta di Sarinembah
Perbesi di Perbesi
Juhar di Juhar, dan
Kuta Bangun di Kuta Bangun

iv. Landschaap Suka, membawahi 4 (empat) urung:
Suka di Suka
Sukapiring/Seberaya di Seberaya
Ajinembah di Ajinembah
Tongging di Tongging

vi. Landschaap Barusjahe, membawahi 2 (dua) urung:
Sipitu Kuta di Barusjahe, dan
Sinaman Kuta di Sukanalu

Pada masa penjajahan Jepang (Tentara Jepang masuk ke Tanah Karo bulan Maret 1942) susunan pemerintahan di Tanah Karo adalah serupa dengan masa penjajahan Belanda, dengan pergantian orang-orangnya yakni yang setia kepada penjajah Jepang.

3. Pada masa Kemerdekaan RI Struktur pemerintahan di Tanah Karo adalah sebagai berikut:

i. Pemerintahan Tanah Karo sebagai alat pemerintahan Pusat yang pada saat itu dikepalai oleh Sibayak Ngerajai Milala

ii. Pemerintahan Swapraja yaitu Landschaap:
- Lingga dengan 6 Urung
- Barusjahe dengan 2 Urung
- Suka dengan 4 Urung
- Sarinembah dengan 4 Urung
- Kutabuluh dengan 2 Urung

Oleh Komite Nasional Indonesia, Tanah Karo dalam sidangnya tanggal 13 Maret 1946, Kabupaten Karo diperluas dengan Daerah Deli Hulu dan Cingkes, dibagi kedalam 3 (tiga) Kewedanaan dengan masing-masing membawahi 5 (lima) Kecamatan yaitu:

i. Kewedanaan Kabanjahe membawahi 5 Kecamatan yaitu:

Kabanjahe
Tigapanah
Barusjahe
Simpang Empat, dan
Payung

ii. Kewedanaan Tigabinanga membawahi 5 Kecamatan yaitu:

Tigabinanga
Juhar
Munte
Kutabuluh
Mardingding

iii. Kewedanaan Deli Hulu membawahi 5 Kecamatan yaitu:

Pancur Batu
Sibolangit
Kutalimbaru
Biru-Biru
Namo Rambe

4. Bentuk dan Susunan Pemerintahan Daerah

Susunan Pemerintahan Daerah seperti yang diatur menurut UU No. 32 Tahun 2004 Tentang Pemerintahan Daerah bahwa unsur penyelenggara Pemerintahan Daerah adalah Pemerintahan Daerah dan DPRD, dimana Pemerintah Daerah sebagai Badan Eksekutif dan DPRD sebagai Badan Legislatif. Pemerintah Daerah Kabupaten dipimpin oleh seorang Bupati dan dalam menjalankan tugas dan wewenangnya selaku Kepala Daerah dibantu oleh seorang Wakil Bupati. Penyelenggaraan Pemerintah Daerah menggunakan asas Otonomi dan Tugas Pembantuan.

Wilayah pemerintahan Kabupaten Karo sejak tanggal 29 Desember 2006 resmi berubah dari 13 kecamatan menjadi 17 Kecamatan dan 269 Desa/Kelurahan yaitu:

1. Kecamatan Kabanjahe, sebanyak 8 desa dan 5 Kelurahan
2. Kecamatan Berastagi, sebanyak 6 Desa dan 4 Kelurahan
3. Kecamatan Tigapanah, sebanyak 26 Desa
4. Kecamatan Dolat Rayat sebanyak 7 Desa
5. Kecamatan Merek, sebanyak 19 Desa
6. Kecamatan Barusjahe, sebanyak 19 Desa
7. Kecamatan Simpang Empat, sebanyak 17 Desa
8. Kecamatan Naman Teran sebanyak 14 Desa
9. Kecamatan Merdeka sebanyak 9 Desa
10. Kecamatan Payung, sebanyak 8 Desa
11. Kecamatan Tiganderket sebanyak 17 Desa
12. Kecamatan Kutabuluh, sebanyak 16 Desa
13. Kecamatan Munte, sebanyak 22 Desa
14. Kecamatan Juhar, sebanyak 25 Desa
15. Kecamatan Tigabinanga, sebanyak 19 Desa dan 1 Kelurahan
16. Kecamatan Laubaleng, sebanyak 15 Desa
17. Kecamatan Mardingding, sebanyak 12 Desa

Sumber:  Karo Dalam Angka 2015