Nama Hargeisa diduga berasal dari frasa Arab "Harar as-Saghir" ("Harar Kecil"), karena Syekh Madar, pendiri permukiman ini, ingin kota tersebut menyaingi kota Harar di Ethiopia sebagai pusat pendidikan Islam. Teori lain mengaitkan namanya dengan "tempat penjualan kulit," mencerminkan perdagangan kulit di kawasan itu.