Mardin'in Kürtçe ismi Mêrdîn'dir. Latin alfabesindeki okunuşu ile Mêrdîn olarak telaffuz edilir.
Mardin'in yani Mêrdîn'in ismi bazı görüşlere göre; savaşçı bir kavim olan ve Ardeşir tarafından 3. yüzyılda buraya yerleştirilen Mardeler'den gelmektedir. Bazı görüşlere göre de "Kaleler" anlamına gelen Merdin'den gelmektedir. Günümüzde kullanılan adı, Arapça kaynaklarda geçen Mâridîn'den gelmiştir.