Menurut ketentuan yang dibuat 'Abdul Malik, ketika Al-Walid menjadi khalifah, maka Sulaiman menjadi putra mahkota pertama dan paling berhak atas takhta sepeninggal Al-Walid. Namun beberapa pihak menentang bila Sulaiman menjadi putra mahkota dan lebih mendukung putra Al-Walid, 'Abdul 'Aziz. Di antara tokoh penentang itu antara lain Al-Hajjaj bin Yusuf, Qutaibah bin Muslim yang menjabat Gubernur Khurasan, Musa bin Nusair yang merupakan penakluk Al-Andalus dan Gubernur Ifriqiyah (Afrika Utara), dan Muhammad bin Qasim yang merupakan panglima yang menaklukkan Sindh, mereka adalah tokoh-tokoh penting yang menguatkan pondasi Umayyah di kekhalifahan.
Dalam upaya melempangkan jalan putranya sendiri ke takhta, Al-Walid menawarkan sejumlah besar dana kepada Sulaiman agar mau melepas kedudukannya kepada takhta, tetapi Sulaiman menolak. Penasihat Al-Walid, 'Abbad bin Ziyad, mengusulkan agar Sulaiman diundang ke istana khalifah di Damaskus untuk dipaksa melepas kedudukannya secara resmi. Namun saat Al-Walid mengundang Sulaiman ke Damaskus, Sulaiman juga tidak hadir dan mengulur-ulur waktu.
Al-Walid mangkat pada Februari 715 sebelum kedudukan putra mahkota sempat diubah secara resmi. Hal ini menjadikan Sulaiman naik takhta menjadi khalifah tanpa penentangan berarti dan menerima bai'at di Ramlah. Sulaiman tetap memerintah dari Palestina saat menjadi khalifah. Sejarawan Reinhard Eisener mengutip sumber Syria abad pertengahan bahwa Sulaiman menetapkan Yerusalem sebagai pusat pemerintahannya, sementara Wellhausen dan Hugh N. Kennedy menyatakan bahwa dia tetap berada di Ramlah.