بويع له بالخلافة بعد موت أخيه الوليد بوم مات وكان يوم السبت للنصف من جمادى الآخرة سنة ست وتسعين وكان سليمان بالرملة وكان ولي العهد من بعد أخيه عن وصية أبيهما عبد الملك وقد
كان الوليد قد عزم قبل موته على خلع أخيه سليمان وأن يجعل ولاية العهد من بعده لولده عبد العزيز بن الوليد وقد كان الحجاج طاوعه على ذلك وأمره به وكذلك قتيبة بن مسلم وجماعة وقد انشد في ذلك جرير وغيره من الشعراء قصائد فلم ينتظم ذلك له حتى مات وانعقدت البيعة إلى سليمان فخافه قتيبة بن مسلم وعزم على أن لا يبايعه فعزله سليمان وولى على إمرة العراق ثم خراسان يزيد بن المهلب فأعاده إلى إمرتها بعد عشر سنين وأمره بمعاقبة آل الحجاج بن يوسف وكان الحجاج هو الذي عزل يزيد عن خراسان ولسبع بقين من رمضان من هذه السنة عزل سليمان عن إمرة المدينة عثمان بن حيان وولى عليها أبا بكر بن محمد بن عمرو بن حزم وكان أحد العلماء وقد
كان قتيبة بن مسلم حين بلغه ولاية سليمان الخلافة كتب إليه كتابا يعزيه في أخيه ويهنئه بولايته ويذكر فيه بلاءه وعناه وقتاله وهيبته في صدور الأعداء وما فتح الله من البلاد والمدن والأقاليم الكبار على يديه وانه له على مثل ما كان للوليد من الطاعة والنصيحة إن لم يعزله عن خراسان ونال في هذا الكتاب من يزيد بن المهلب ثم كتب كتابا ثانيا يذكر ما فعل من القتال والفتوحات وهيبته في صدور الملوك والأعاجم ويذم يزيد بن المهلب أيضا ويقسم فيه لئن عزله وولى يزيد ليخلعن سليمان عن الخلافة وكتب كتابا ثالثا فيه خلع سليمان بالكلية وبعث بها مع البريد وقال له ادفع إليه الكتاب الأول فإن قرأه ودفعه إلى يزيد بن المهلب فادفع إليه الثاني فإن قرأه ودفعه إلى يزيد ابن المهلب فادفع إليه الثالث فلما قرأ سليمان الكتاب الأول واتفق حضور يزيد عند سليمان دفعه إلى يزيد فقرأه فناوله البريد الكتاب الثاني فقرأه ودفعه إلى يزيد فناوله البريد الكتاب الثالث فقرأه فإذا فيه التصريح بعزله وخلعه فتغير وجهه ثم ختمه وأمسكه بيده ولم يدفعه إلى يزيد وأمر بإنزال البريد في دار الضيافة فلما كان من الليل بعث إلى البريد فأحضره ودفع إليه ذهبا وكتابا فيه ولاية قتيبة على خراسان وأرسل مع ذلك البريد بريدا آخر من جهته ليقرره عليها فلما وصلا بلاد خراسان بلغهما أن قتيبة قد خلع الخليفة فدفع بريد سليمان الكتاب الذي معه إلى بريد قتيبة ثم بلغهما مقتل قتيبة قبل أن يرجع بريد سليمان