Salah satunya adalah berasal dari nama burung yang hidup di Riyadh, yaitu burung Mukka'. Riwayat lain menyebutkan bahwa disebut Mekkah karena kota itu mampu menghapus dosa-dosa para peziarahnya dan kezaliman. Sebab, kata “menghapus” atau “membersihkan” dalam bahasa Arab juga disebut “makka”-“yamukku”
Nama Kota Makkah sebelum Islam diketahui disebut sebagai Kota Makraba, Macoraba, atau Makroba.
Sejarah berdirinya Kota Mekkah sendiri tak lepas dari peran Nabi Ibrahim AS yang mendirikan Kabah. Mekkah pada mulanya merupakan sebuah kota kecil yang dihuni oleh anak cucu Nabi Adam AS sampai ketika dilanda banjir besar di era Nabi Nuh AS
Sedangkan nama lainnya lagi adalah Bakkah, yang diperkirakan sebagai nama kuno sebelum terkenal sebagai Makkah. Kata Bakkah juga memiliki beberapa pendapat, yang paling kuat dan paling dekat maknanya adalah bahwa Bakkah berasal dari kata buka', yang bermakna tangisan.
Kota Makkah merupakan kota suci umat Islam. Nasrullah Jasam mengatakan, kota sudah dibangun sejak dua ribu tahun sebelum masehi sampai kemudian diterjang badai pada zaman Nabi Nuh AS. Makkah pertama kali dihuni suku jurhum.