В основу произведения положена легенда об известном миннезингере XIII в. Генрихе фон Офтердингене. Внешняя событийная канва — это лишь необходимая материальная оболочка для изображения глубинного внутреннего процесса становления поэта и постижения Генрихом жизненного идеала, аллегорически изображённого Новалисом в облике «голубого цветка». Основную смысловую нагрузку несут на себе сновидения Генриха, рассказанные ему притчи, сказки и мифы.

Роман состоит из двух частей. Первая, завершённая, называется «Ожидание». Двадцатилетнему Генриху, ученику капеллана, снится сон о том, что он бредёт по тёмному лесу, выходит к горам и в пещере находит непередаваемой красоты голубой цветок. Голубой цветок — это символ немецкой романтической поэзии, иными словами — чистой поэзии и совершенной жизни. Ему не удаётся досмотреть свой сон до конца, поскольку к нему в комнату заходит мать и будит его.

Чуть позже Генрих покидает Турингию, дом своего отца, и вместе с матерью едет в Аугсбург, на её родину. Они путешествуют в сопровождении купцов, тоже направляющихся в Южную Германию. Генрих, которому предначертано стать большим поэтом, с трепетом прислушивается к рассказам своих попутчиков о поэтах и об их власти над душами всех живых существ. Купцы знакомят его с двумя легендами. В одной из них говорится о том, как некогда, в далёкие времена, одному прославленному поэту и певцу грозила гибель от руки жадных до его сокровищ владельцев корабля, на котором он плыл по морю. Однако его песни так потрясли морских животных, что они спасли ему жизнь и вернули отобранные у него сокровища. В другой легенде речь идёт о дворе просвещённого, покровительствующего поэзии короля и его дочери, которая однажды покинула родительский дом и целый год скрывалась от отца, живя в лесу с любимым человеком. Через год её возлюбленный своими песнями и игрой на лютне настолько овладел сердцем её отца, что тот даровал им обоим прощение и принял в свои объятия их и своего новорождённого внука.

Через несколько дней путники останавливаются в замке старого воина и становятся свидетелями подготовки к новому крестовому походу. В его же владениях Генрих знакомится с молодой, привезённой с Востока пленницей Зулеймой. Она томится вдали от родины и оплакивает свою безрадостную судьбу.

Покинув замок, Генрих со своими попутчиками вскоре останавливается в предгорной деревне, где знакомится со старым рудокопом. Тот рассказывает им о своей жизни, о металлах и минералах, сокрытых в недрах земли. Под его предводительством они посещают в горах целую галерею пещер, где находят останки доисторических животных и знакомятся с отшельником фон Гогенцолерном, который после славной и насыщенной военными подвигами молодости удалился от людей для отдохновения, познания внутренней жизни своей души и изучения истории. Отшельник показывает им свои книги. В одной из них Генрих видит пещеру, самого себя, а рядом с собой — отшельника и старика, однако все одеты в непривычную одежду и надписи сделаны на непонятном ему языке. Постепенно он находит на других страницах восточную женщину, своих родителей и многих других известных ему людей.

Ознакомившись за время своего путешествия по стране с некоторыми тайнами истории и недр земли, Генрих фон Офтердинген наконец прибывает в Аугсбург, к своему деду — старому Шванингу. В доме у деда Генрих знакомится с поэтом Клингсором, величавым человеком, изображение которого он уже видел в книге отшельника, и его дочерью Матильдой. Между молодыми людьми с первого же взгляда зарождается любовь, а вскоре они становятся женихом и невестой.

Клингсор руководит духовным созреванием юного Генриха. Он беседует с ним о поэзии, о его внутреннем мире и о наиболее целесообразном и естественном «пользовании» своими душевными силами. Призывает его развивать разум, а также постигать закономерность происходящих в мире событий и «сущность» любого дела, любого явления, чтобы душа его в итоге стала внимательной и спокойной. Необходимо также, чтобы душа была искренней, а искренняя душа подобна свету, она столь же проникновенна, могущественна и незаметна, как свет.

Генрих рассказывает Клингсору о своём путешествии, и вся его речь, её строй и образность свидетельствуют о том, что молодой человек рождён быть поэтом.

По убеждению Клингсора, в поэзии нет ничего необычного, она есть «основное свойство духа человеческого». Вечером во время пира Клингсор по просьбе Генриха рассказывает гостям символическую сказку о победе поэзии над рассудочностью и другими её врагами. Эта история предвосхищает то, о чем должна была пойти речь во второй части романа. В сказке говорится о королевстве Арктура и о прекрасной Фрее, его дочери, об Эросе и его молочной сестре Басне, а также об их крестной матери Софии.

Вторая часть романа (её Новалис не успел закончить) называется «Свершение». Начинается она с того, что Генрих в облике странника, в состоянии равнодушного отчаяния, в которое он впал после смерти Матильды, бредёт по горам. Перед ним внизу расстилается Аугсбург, вдали блестит зеркало страшного таинственного потока. В стороне он как будто бы видит монаха, стоящего на коленях перед дубом. Ему кажется, что это старый придворный капеллан. Однако, подойдя ближе, он осознает, что перед ним всего лишь утёс, над которым склонилось дерево. Вдруг дерево начинает дрожать, камень — глухо звенеть, а из-под земли раздаётся радостное пение. Из дерева слышится голос, который просит Генриха сыграть на лютне и спеть песню и обещает, что тогда появится девушка, которую он должен взять с собой и не отпускать от себя. Генрих узнает в нем голос Матильды. В листве дерева перед ним возникает видение его возлюбленной, которая с улыбкой ласково на него смотрит. Когда видение исчезает, вместе с ним из его сердца уходят все страдания и заботы. Не остаётся ничего, кроме тихого томления и грусти. Проходят боль утраты и чувство пустоты вокруг. Генрих начинает петь и не замечает, как к нему подходит девушка и уводит его с собой. Она знакомит его со стариком, которого зовут Сильвестром, он врач, но Генриху кажется, что перед ним стоит старик рудокоп.

Оказывается, что давным-давно старика посетил и отец Генриха, в котором Сильвестр увидел задатки скульптора и познакомил его с драгоценным наследием древнего мира. Однако его отец не послушался зова своей истинной природы, и окружающая действительность пустила в нем слишком глубокие корни. Он сделался просто искусным ремесленником.

Старик желает, чтобы Генрих вернулся в свой родной город. Однако Генрих говорит, что лучше узнает свою родину, путешествуя по разным странам, и вообще люди, много путешествующие, отличаются от других более развитым умом и другими удивительными свойствами и способностями. Они ведут беседу о важности возобладания единой силы, силы совести надо всем сущим; о причине зла, которое, по мнению старика, коренится в общей слабости; о взаимопроникновении и единой «сущности» всех миров и чувств во вселенной.

Новалис не успел завершить эту вторую часть, в которой хотел выразить саму суть поэзии. Не успел он и оформить свою мысль о том, что все на свете: природа, история, война, обыденная жизнь — все превращается в поэзию, поскольку она и есть дух, оживляющий все сущее в природе. Во второй части Генриху предстояло более полно ознакомиться с окружающим миром. Он должен был попасть в Италию, участвовать в военных действиях, при дворе императора встретиться с сыном Фридриха II и стать его близким другом, побывать в Греции, совершить путешествие на Восток, вплоть до Иерусалима, затем вернуться в Турингию и вместе с Клингсором принять участие в знаменитом поэтическом турнире. Продолжение романа должно было превратиться в мифологическое и символическое повествование, в котором все: животные, растения и камни — должно было разговаривать и претерпевать волшебные превращения. Матильде, уже после своей смерти, в облике разных женщин предстояло часто встречать Генриха, который наконец наяву должен был сорвать «голубой цветок» из своего сна.