Thariq bin Ziyad berasal dari bangsa Barbar. Mengenai sukunya, para sejarawan masih berbeda pendapat; apakah dari suku Nafza ataukah suku Zanata. Ia bekas seorang budak yang kemudian dimerdekakan oleh Musa bin Nushair, Gubernur Afrika Utara. Di tangan Musa inilah ia memeluk agama Islam bersama orang-orang Barbar lainnya yang tunduk di bawah kekuasaan Musa setelah menaklukkan daerah Tanja di ujung Maroko.
Dikisahkan bahwa setelah masuk Islam, mereka menjalankan agama Islam dengan baik. Oleh karena itu, sebelum Musa pulang ke Afrika, ia meninggalkan beberapa orang Arab untuk mengajari mereka Al-Qur’an dan ajaran-ajaran Islam. Setelah itu Musa mengangkat Thariq, yang merupakan prajurit Musa yang terkuat, menjadi penguasa daerah Tanja dengan 19.000 tentara dari bangsa Barbar, lengkap dengan persenjataannya.
Pada bulan Rajab tahun 97 H (Juli 711 M), Thariq bin Ziyad mendapat perintah dari Musa untuk menyerang semenanjung Andalusia. Dengan 7000 prajurit yang sebagian besar dari bangsa Barbar, Thariq menyeberangi Selat Andalusia yang jaraknya hanya 13 mil dengan perahu-perahu pemberian Julian, gubernur Ceuta di Afrika Utara yang bersekutu dengan kaum muslimin untuk menentang Raja Roderick, penguasa kerajaan Visigoth di Andalusia. Setelah mendarat di pantai karang yang kemudian dinamai Gibraltar, Thariq beserta pasukannya berhadapan dengan 25.000 prajurit Visigoth. Pada mulanya kedatangan pasukan Thariq ini membuat heran Tudmir, penguasa setempat yang berada di bawah kekuasaan Raja Roderick, karena mereka datang dari arah yang tidak diduga-duga, yaitu dari arah laut.
Walaupun jumlah pasukan kaum muslimin jauh lebih sedikit dibandingkan pasukan musuh, namun jumlah yang banyak tersebut tidak membuat gentar pasukan kaum muslimin, terlebih setelah mereka mendengarkan pidato yang membuat jiwa mereka menggelora yang disampaikan oleh panglima mereka, Thariq bin Ziyad. Akhirnya pertempuran ini dimenangkan oleh Thariq dan Raja Roderick sendiri tewas dalam pertempuran tersebut.
Kemudian Thariq meminta tambahan pasukan kepada Musa. Lalu dikirimlah 5000 prajurit yang sebagian besar berasal dari bangsa Barbar. Satu demi satu kota-kota di Andalusia berhasil diduduki tentara Thariq: Toledo, Elvira, Granada, Cordoba dan Malaga. Antara musim semi sampai musim panas tahun 711 H, Thariq telah berhasil menguasai separuh wilayah Andalusia.