Książki odegrały kluczową rolę w życiu Gustawa – Pustelnika z „Dziadów cz. IV”. Odwiedza on mieszkanie Księdza, swego dawnego nauczyciela w Zaduszki. Opowiada mu swe losy, których najważniejszym epizodem była nieszczęśliwa miłość do Maryli. Winą za tę miłość, która doprowadziła do jego samobójstwa, Pustelnik obarcza właśnie księdza. Z gniewem mówi: „Ty mnie zabiłeś! Ty mnie nauczyłeś czytać!”. Gustaw oglądając książki na półkach w domu księdza. Pyta: „Księże, a znasz ty żywot Heloizy? Znasz ogień i łzy Wertera?”. Odwołuje się tu do utworu Jana Jakuba Rousseau „Nowa Heloiza” oraz do „Cierpień młodego Wertera” J.W. Goethego. Książki te określa mianem „zbójeckich”. Z żalem mówi o nich:
„Młodości mojej niebo i tortury!
One zwichnęły osadę mych skrzydeł
I wyłamały do góry,
Że już nie mogłem na dół skręcić lotu.” (wersy 156-159)
Idea miłości, jaką opisywał Goethe i Rousseau, wzniosła, piękna, wyidealizowana, tak ujęła Gustawa, że sam poszukiwał jej na ziemi i odnalazł w osobie Maryli. Nie mógł wyobrazić sobie swej egzystencji inaczej niż właśnie na wzór tych romantycznych kochanków i gdy spotkał swoją ukochaną, uznał ją właśnie za tę „boską kochankę”

. Naśladując emocjonalne wypowiedz z „Nowej Heloizy”, Gustaw barwnie opisuje swe uczucie, co sam Mickiewicz określa w liście do Jeżowskiego: „Wybuchnął spowiedzią Gustawa przywalony w piersiach Wezuwiusz”. (źródło: „Zarys dziejów literatury polskiej”, Juliusz Kleiner). Samobójczy czyn Gustawa był naśladowaniem samobójstwa Wertera, który tak jak Gustaw cierpiał, gdy ukochana Lotta poślubiła innego mężczyznę. Trzeba jednak zwrócić również uwagę na różnice w kreacji Gustawa i Wertera. Pustelnik nie jest naśladowcą Wertera w całej rozciągłości. Popełnia on co prawda samobójstwo z miłości, ale przemiana Gustawa w Konrada, która dokonuje się w III części „Dziadów”, demaskuje bezcelowość czynu Wertera. W przypadku Gustawa bowiem miłość do kobiety przekuta jest w miłość do ojczyzny, Gustaw-Konrad niejako wykorzystuje ją do wyższego celu, zamiast wiecznie rozpamiętywać odrzucenie przez ukochaną.

Jaka jest reakcja księdza na zachowanie Gustawa? Zdaje się on albo nie znać „książek zbójeckich”, albo ich nie rozumieć. O to też oskarża księdza Pustelnik – że pokazał mu myśli zawarte w lekturach sentymentalnych, choć sam w nie nie wierzył. Jest bowiem symbolem klasycznego myślenia. Nie potrafi spojrzeć na Gustawa tak, jakby był on Werterem, chce go rozpatrywać w kategoriach żyjącego człowieka, nie zakochanego, który popełnił samobójstwo. Dlatego też dialog pomiędzy nimi jest taki trudny. Dla Gustawa zatem książki to źródło wzorców postępowania oraz ideałów, które przyjął jako swoje. Jednak te ideały oraz wzorce mają dla niego moc destrukcyjną, gdyż prowadzą go do rozpaczy i samobójstwa. Jak sam mówi, lektury były niebem i torturami jego młodości. Dla księdza natomiast książki pozostają zawsze tylko książkami, źródłem wiedzy, ale nie wzorców, które można przełożyć na własne życie.