في السنة السابعة والتسعين للهجرة، شدّ خليفة المسلمين سليمان بن عبد الملك الرحال إلى الديار المقدسة ملبِّياً نداء ربه، ومضت ركائبه تحثُّ الخطا من دمشق عاصمة الأمويين إلى المدينة المنورة، فقدْ كان في نفسه شوقٌ إلى الصلاة في الروضة المطهرة، وتَوقٌ إلى السلام على سيدنا محمد صَلَّى اللَّه عَلَيْهِ وَسَلَّمَ، وقد حفل موكبُ الخليفة بالقُرَّاء والمحدِّثين والفقهاء والعلماء والأمراء والقادة، كما هي العادة، فلما بلغ المدينة المنورة، وحطَّ رحاله فيها ، أقبل وجوهُ الناس، يعني علية القوم، وذوو الأقدار للسلام عليه، والترحيب به .
سليمان بن عبد الملك يتعرف على قاضي المدينة وعالمها :
أيها الأخوة, لكن سلمة بن دينار قاضي المدينة، وعالمها الحجّة، وإمامها الثقة, لم يكن في عداد من زاروا الخليفة مرحَّبِين مسلِّمين، وليس هذا جفاءً، ولكنه موقف له، ولما فرغ سليمان بن عبد الملك من استقبال المرحِّبين به، قال لبعض جلسائه:
(إن النفوس لتصدأ كما تصدأ المعادن، إذا لم تجد من يذكرها الفينة بعد الفينة، ويجلو عنها صدأها .
فقالوا: نعم يا أمير المؤمنين،
فقال: أما في المدينة رجل أدرك طائفة من صحابة رسول الله يذكِّرنا؟
فقالوا: بلى يا أمير المؤمنين، ها هنا أبو حازم، فقال: ومن أبو حازم؟
قالوا: سلمة بن دينار، عالم المدينة وإمامها، وأحد التابعين الذين أدركوا عدداً من أصحاب رسول الله،
فقال: ادعُوه لنا، وترّفقوا في دعوته، فذهبوا إليه، ودَعَوه، فلما أتاه رحّب به، وأدنى مجلسه،
وقال له معاتباً: ما هذا الجفاء يا أبا حازم؟
فقال: وأيّ جفاء رأيت مني يا أمير المؤمنين؟ قال: زارني وجوهُ الناس، ولم تَزُرْني،
فقال: إنما يكون الجفاء بعد المعرفة، وأنت ما عرفتني قبل اليوم، ولا أنا رأيتك، فأيّ جفاء وقع مني،
فقال الخليفة لجلسائه : أصاب الشيخ في اعتذاره، وأخطأ الخليفة في العتب عليه) .
وقال: (إن في النفس شؤوناً أحببتُ أن أفضي بها إليك يا أبا حازم،
فقال: هاتها يا أمير المؤمنين، واللهُ المستعانُ،
فقال الخليفة: يا أبا حازم, مالنا نكره الموت؟ .
ثم أردف قائلاً: يا أبا حازم، ليت شعري مالنا عند الله غداً؟
ثم التفت إلى الخليفة، وقال: (يا أمير المؤمنين، إن الذين مضوا قبلنا من الأمم الخالية، ظلُّوا في خير وعافية، ما دام أمراؤهم يأتون علمائهم رغبة بما عندهم، ثم وُجِد قوم من أراذل الناس تعلَّموا العلم، وأَتَوْا به الأمراء, يريدون أن ينالوا به شيئاً من عرض الدنيا، فاستغنَتِ الأمراء عن العلماء، فتَعِسوا ونَكَثُوا، وسَقطوا من عين الله عز وجل .ولو أن العلماء زهدوا فيما عند الأمراء، لرَغِب الأمراءُ في علمهم، ولكنهم رغبوا فيما عند الأمراء, فزهِدوا فيهم، وهانوا عليهم،
فقال الخليفة: صدقتَ، زدني من موعظتك يا أبا حازم، فما رأيت أحداً الحكمة أقرب إلى فمه منك،
فقال: إنْ كنتَ من أهل الاستجابة, فقد قلتُ لك ما فيه الكفاية، وإنْ لم تكن من أهلها, فما ينبغي أن أرمي عن قوس ليس لها وتر،
فقال الخليفة: عزمتُ عليك يا أبا حازم أنْ توصيني،
قال: نعم أوصيك وأوجز، عظِّم ربَّك عز وجل, ونزِّههُ أن يراك حيث نهاك، وأن يَفْقِدَك حيث أمرك، ثمّ سلم وانصرف،
فما كاد أبو حازم يبلغ بيته حتى وجد أن الأمير قد بعث إليه بصرة مُلأتْ دنانير،
وكتب إليه يقول: أَنْفقها ولك مثلها كثيرٌ عندي ، فرَدَّها، وكتب إليه, يقول: يا أمير المؤمنين، أعوذ بالله أن يكون سؤالك إياي هزلاً، ورَدِّي عليك باطلاً، فو اللهِ ما أرضى ذلك يا أمير المؤمنين لك، فكيف أرضاه لنفسي؟ يا أمير المؤمنين إنْ كانت هذه الدنانير لقاءَ حديثي لك, فالميتة ولحم الخنزير في حال الاضطرار أحلُّ من هذه الدنانير، وإن كانت حقاً لي من بيت مال المسلمين, فهل سوَّيتَ بيني وبين الناس جميعاً في هذا الحق؟)