وقتى حاکم عراق ابو قلابه را براى تصدّى کرسى قضاى بغداد فرا خواند، ابو قلابه دعوت حاکم را نپذیرفت و در پنهانى به سرزمین شام گریخت.
قضا را در همان ایام قاضى شام از منصب خویش معزول شد و چون ابوقلابه از این داستان خبر یافت احساس خطر کرد و از شام متوارى شد و هم چنان در بیابانها سرگردان بود تا به سرزمین یمامه درآمد و روزگارى دراز، خویش را از انظار پوشیده داشت تا اوضاع دگرگون شد و خاطرش از خطر بیاسود و بار دیگر آهنگ عراق کرد.
یکى از دوستان گفت: چه بودى اگر منصب قضاى مسلمانان را مى پذیرفتى تا عدالت را در میان ایشان بکار مى بستى و از این رهگذر اجر و ثواب مىاندوختى، ابوقلابه گفت:
چون شناورى به دریا درافتد تا چند یاراى شنا کردن دارد