该成语的思想源头可追溯至儒家经典。《论语·卫灵公》中记载孔子的言论：“饱食终日，所用心，难矣哉！ ” 这里已包含对不做事而享受待遇者的批评。而“尸位素餐”作为整成语的明确出处，则见于《汉书·朱云传》。汉代名臣朱云向汉成帝进谏时指出：“今朝廷大臣，上不能匡主，下亡以益民，皆尸位素餐。 ” 他批评当时的官员占据高位却不能辅佐君主、造福百姓，正是对“尸位素餐”现象的直接抨击。
这一成语此后被广泛沿用，成为中国传统文化中批判官僚主义、激励官员履职尽责的重要表述，其核心指向始终是职位与责任的匹配关系，权力与义务的对等性。