استقبل أبو علي القالي شاعر أندلسي وأديب مؤلف مشهور هو يوسف بن هارون الرمادي، وله قصيدة ذائعة يقول في أولها:

من حاكم بيني وبين عذولي

الشجو شجوي والعويل عويلي

في أي جارحة أصون معذبي

سلمت من التعذيب والتنكيل

يقول فيها في الثناء علي القالي، ووصف شخصه وعلمه:

روض تعاهده السحاب كأنه

متعاهد من عهد إسماعيل

قسه إلى الأعراب تعلم أنه

أولى من الأعراب بالتفضيل

حازت قبائلهم لغاتٍ فرقت

فيهم وحاز لغاتِ كل قبيل

فالشرق خالٍ بعده وكأنما

نزل الخراب بربعه المأهول

فكأنه شمس بدت في غربنا

وتغيبت عن شرقهم بأفول

فالقالي عالم بلغات العرب على اختلاف قبائلها. ومجيئه إلى الأندلس جعل المشرق خاليا من هذا العالم العظيم حتى كأن العلم الأصيل قد غاب عن الشرق وانتقل مع القالي إلى الغرب «الأندلس».

وقد استقر القالي في قرطبة بالأندلس. واستمرت أسرته هناك وصاروا في جملة الأندلسيين. وذاعت كتب القالي التي ألفها وتلقفها أهل العمل والأدب في الأندلس والمشرق معاً. وفي قرطبة كانت وفاته سنة 356 هـ في ظل دولة الحكم المستنصر.

وفي نفح الطيب للمقري «372» عن أحد الأندلسيين أنه قرأ بيتين من الشعر منقوشين في لوح رخام كان سقط من القبة المبنية علي قبر أبي علي القالي البغدادي عند تهدمها. وهما

صلوا لحد قبري بالطريق وودعوا

فليس لمن وارى التراب حبيب!

ولا تدفنوني بالعراء، فربما

بكى ـ إن رأي قبر الغريب ـ غريب