羊续到南阳郡上任，连妻儿家室都没有带，让他们留在家乡种地，和百姓一样，靠务农生活。
有一次，羊续的妻子儿女来南阳探亲，羊续竟然关着门，不让他们进屋，不许他们留住下来。他儿子挺不高兴，生气地说：“父亲，母亲认为你的官做大了，就变心了，现在看来，你确实是变心了，竟这么容不下我们！”
“好儿子，别激动，你还是跟我进屋看看再说吧。”
于是，羊续带着儿子进了内室，只见床上铺着布被，床边叠着几件旧短衣，台子上放着一点盐，墙角里堆着几斛粮食。羊续温和地对儿子说：“孩子，我虽然做了太守，但日常的供养就这么一点，并没有多余的财物可以用来养活你们啊……”
羊续耐心地勉励儿子，要养成自力更生、勤劳节俭的好习惯，要靠自己发愤图强，将来才能做大事，有所成就。听着父亲亲切的话语，一种理解和敬重之情在羊续的儿子的内心渐渐涌起，他毅然地说：“父亲，孩儿明白了，我马上陪母亲回乡去。”
一眨眼三年过去了，羊续以身力行的俭朴作风受到南阳老百姓的爱戴，汉灵帝想提拔羊续到朝廷做太尉。太尉是辅助国君掌握军政大权的最高官员。然而，那时想升官，先得给皇帝身边的宦官送上许多礼钱，还得在自己任职的地方为宦官安排隆重而盛大的宴席，再进贡厚礼，只有讨好了这些宦官，宦官才会“上天言好事，回宫降吉祥”。而羊续从未搜刮过民脂民膏，并没有多余的钱财。自然，宦官在南阳受到了冷落，他们得不到什么厚礼，还被安排坐在一张薄席上，顿时变了脸色。这时，羊续缓缓地说：“请公公奏明皇上，臣全部的财产，只有一件旧棉袍，公公可以察看。”