Повесть состоит из тринадцати глав. Автором названа «Петербургской поэмой»

Титулярный советник Яков Петрович Голядкин просыпается у себя на квартире серым осенним днём. В зеркале отражается «заспанная, подслеповатая и довольно оплешивевшая фигура», и её обладатель остаётся, по-видимому, ею доволен. Вынув бумажник, господин Голядкин находит в нём 750 рублей — «знатная сумма»!

Яков Петрович едет к своему доктору, Крестьяну Ивановичу Рутеншпицу. У него господин Голядкин говорит сбивчиво, путается, называет себя человеком смиренным, незатейливым: «...люблю спокойствие, а не светский шум. Там у них ...нужно уметь паркеты лощить сапогами... комплимент раздушенный нужно уметь составить-с... хитростям этим всем я не учился». Яков Петрович продолжает: «...я даже горжусь тем, что не большой человек, а маленький. Не интригант — и этим тоже горжусь...» Племянник Андрея Филипповича, начальника Голядкина, намерен свататься к Кларе Олсуфьевне. Голядкин возмущён этим сватовством. Голядкин замечает, что распустили слухи про его «близкого знакомого», будто бы он «дал подписку жениться, а он уже жених с другой стороны», а невеста его — бесстыдная немка Каролина Ивановна. Голядкин уходит, оставив Крестьяна Ивановича в недоумении и думая, что доктор глуп.

Господин Голядкин едет к Олсуфию Ивановичу Берендееву, но его не пускают. В честь дня рождения его дочери, Клары Олсуфьевны, в квартире статского советника проводится обед и бал. В это время господин Голядкин стоит в сенях Берендеева. Решившись, Яков Петрович тайком проникает в танцевальную залу. Тут же все взгляды устремляются на него, «наш герой» забивается в угол, чувствуя «себя настоящей букашкой». Голядкина выдворяют на улицу.

Господин Голядкин бежит, «спасаясь от врагов». Стоит ужасная ноябрьская ночь — «мокрая, туманная, дождливая, снежливая». Господин Голядкин «не только желал теперь убежать от себя самого, но даже совсем уничтожиться». Он долго стоит на набережной и в беспамятстве смотрит в мутную чёрную воду. Дорогою Голядкин встречает прохожего, семенящего так же, как и он, по тротуару, немного с притрусочкой. Незнакомца Яков Петрович встречает несколько раз. Наконец он находит его у себя в квартире на Шестилавочной улице: это был «не кто иной, как он сам, ... другой господин Голядкин, ... двойник его во всех отношениях».

Утром Голядкин приходит в своё отделение. Здесь появляется новый человек — вчерашний двойник Якова Петровича, имеющий точно такую же фамилию. Однако среди сослуживцев никакого удивления не обнаруживается. После рабочего дня двойник желает объясниться с Яковом Петровичем, и «наш герой» приглашает на беседу Голядкина-младшего к себе домой.

Гостя зовут так же: Яковом Петровичем. Господин Голядкин кормит гостя обедом и поит пуншем, проникаясь к нему симпатией: «Мы с тобой, Яков Петрович, будем жить, как рыба с водой, как братья родные; ...будем хитрить, заодно хитрить будем ...в пику им интригу вести...».

Утром Яков Петрович не обнаруживает своего гостя. Теперь Голядкин-старший сожалеет о приёме близнеца. Он отправляется на службу и в дверях сталкивается с Голядкиным-младшим, но тот не замечает вчерашнего радушного хозяина. Теперь Голядкин-младший пытается выслужиться перед начальством нечестным путём: выдаёт хорошо составленную бумагу настоящего Голядкина за свою. На глазах у других чиновников Голядкин-младший выставляет близнеца на поругание: щипает при всех за щёку и даёт щелчка по брюшку. Затем, напустив на себя занятой вид, исчезает. Но позволить себя обидеть настоящий Голядкин никак не может и решает протестовать. После службы он намеревается объясниться с Голядкиным-младшим, но тот уезжает от него в карете.

«...нрава он такого игривого, скверного, — подлец он такой, ...лизун, лизоблюд, Голядкин он эдакой!» — думает о своём враге Яков Петрович. Яков Петрович пишет ему письмо с требованием объясниться. Он отдаёт письмо слуге Петрушке и наказывает ему разузнать адрес титулярного советника Голядкина. Петрушка сообщает, что Голядкин живёт на Шестилавочной улице, но это адрес настоящего Голядкина! Решив, что бездельник пьян, Яков Петрович оставляет его.

В полусне Голядкину видится, что он в приятной компании, но каждый раз появляется одно известное лицо и очерняет господина Голядкина. Он хочет бежать куда глаза глядят, но вокруг него образовалась «бездна совершенно подобных».

Голядкин просыпается в час пополудни. С ужасом он понимает, что опоздал на службу. Он подходит к своему отделению и через писаря передаёт письмо господину Голядкину-младшему.

Уже в сумерках Яков Петрович заходит в своё отделение. Сослуживцы смотрят на него с каким-то оскорбительным любопытством. Среди чиновников появляется господин Голядкин-младший и протягивает руку настоящему Якову Петровичу. Тот горячо и по-дружески пожимает её. «Вдруг с нестерпимым нахальством и грубостию» двойник вырывает руку и стряхивает её, будто замарал, затем платком вытирает свои пальцы. Оскорблённый Голядкин-старший ищет сочувствия у сослуживца, Антона Антоновича Сеточкина, но тот открыто осуждает его неблагопристойный поступок относительно двух благородных особ.

Нагнав Голядкина-младшего, Яков Петрович предлагает объясниться в кофейной: «...я вашим врагом никогда не бывал. Злые же люди несправедливо меня описали...С своей стороны я готов...» Неприятель повторяет утреннюю шутку с рукопожатием, повторно оскорбляя тёзку, и исчезает. Вдруг Голядкин-старший обнаруживает у себя письмо, утром переданное писарем. В нём Клара Олсуфьевна просить спасти её от гибели, от противного ей человека и назначает Голядкину свидание в два часа пополуночи. Прочитав послание в трактире, Яков Петрович видит полового подле себя. Решив, что не заплатил за обед, он лезет в карман и находит стклянку с лекарством, прописанным ему Крестьяном Ивановичем четыре дня назад. «Тёмная, красновато-отвратительная жидкость зловещим отсветом блеснула...» Пузырёк выпадает из рук и разбивается.

Яков Петрович, думая о Кларе Олсуфьевне, отмечает избалованность юных романтических особ, которые начитались французских романов. Он нанимает карету, едет к его превосходительству и просит защиты от врагов. Его превосходительство обещает рассмотреть дело, и Якова Петровича выдворяют в переднею. Голядкин устремляется к Берендееву ждать сигнала Клары Олсуфьевны. Вскоре Якова Петровича замечают, и Голядкин-младший просит зайти его. Голядкин-старший сидит возле Олсуфия Ивановича, все взгляды обращены к ним. Наконец проносится по толпе «Едет, едет!». В комнате появляется Крестьян Иванович и увозит Якова Петровича с собой. За каретой бежит какое-то время близнец, но вскоре совершенно исчезает. Тут герой с ужасом замечает, что это не прежний, а другой, ужасный Крестьян Петрович: «Увы! Он это давно уже предчувствовал!»