《伯俞泣杖》在（汉）刘向《孝子传》、（魏）曹植《灵芝篇》、（晋）萧广济《孝子传》、（刘宋）师觉授《孝子传》、（刘宋）郑缉之《孝子传》、（晋—南朝）佚名《孝子传》等正史中都有记载。从公元151年的山东嘉祥武梁祠一直延续到元代潘德冲墓，都有《伯俞泣杖》壁画.元郭居敬总结性地辑录前代孝行事迹时，未将《伯俞泣杖》辑入《二十四孝》中。至此，《二十四孝》内容基本固定下来，《伯俞泣杖》画像日渐消失。