Akcja powieści rozgrywa się pod koniec XIX wieku. Tytułowy, straszny dziadunio to Polikarp Białopiotrowicz, właściciel rozległego majątku Tepieniec, osobą majętna i władcza. Ma dwóch wnuków: Alberta i Hieronima, przy czym pierwszemu pozwala prowadzić rozrzutny tryb życia, zaś drugiego niemiłosiernie doświadcza. Hieronim, człowiek szlachetny i prawy, zdobywa wykształcenie, doświadczenie i poważanie w pracy kosztem zdrowia i obniżającego się poziomu życia.
Kiedy przez oszustwo Alberta zostaje oskarżony przez przełożonego o niezaksięgowanie weksla, załamuje się i postanawia popełnić samobójstwo. W ostatniej chwili pojawia się dziad Polikarp i wszystko wyjaśnia, jednak Hieronim zapada na tyfus i zapalenie mózgu. Dziadek zabiera go do Tepeńca, przepraszając się i modląc o wyzdrowienie wnuka. Jednak to nie następuje. Dopiero spotkanie Hieronima ze swoją dawną, kochaną wychowanką, Bronką, cudownie wraca mu siły, zaś oświadczyny przynoszą szczęśliwe zakończenie.
