В перерыве заседания члены Судебной палаты узнают из газеты о смерти Ивана Ильича Головина, последовавшей 4 февраля 1882 г. после нескольких недель неизлечимой болезни. Сотоварищи покойного, любившие его, невольно рассчитывают возможные теперь перемещения по службе, и каждый думает: «Каково, умер; а я вот нет».

На панихиде все испытывают неловкое чувство, вызванное осознанием общего притворства скорби. Единственное спокойное, и оттого значительное, лишь лицо Ивана Ильича, на котором было «выражение того, что то, что нужно было сделать, сделано, и сделано правильно. Кроме того, в этом выражении был ещё упрёк или напоминание живым». Вдова Прасковья Федоровна старается узнать у Петра Ивановича, которого называет «истинным другом Ивана Ильича», нельзя ли получить по случаю смерти побольше денег от казны. Петр Иванович ничего не может посоветовать и прощается. Ему приятно вдохнуть чистый воздух на улице после запаха ладана и трупа, и он спешит к приятелю Федору Васильевичу, чтобы не очень опоздать к карточной игре.

«Прошедшая история жизни Ивана Ильича была самая простая,и обыкновенная и самая ужасная». У его отца, тайного советника, было три сына. Старший, холодный и аккуратный, сделал такую же карьеру, как и отец. Младший был неудачник, родственники не любили встречаться с ним и без крайней необходимости о нем не вспоминали. Иван Ильич был средним между братьями не только по возрасту, но и по всему, что составляет и направляет человеческую жизнь. В юности уже определились его качества, которые потом не изменились — Иван Ильич был умный, способный, живой и общительный человек, строго исполняющий жизненные правила, принятые стоящими выше его людьми. Если он когда и отступал от этих правил, то оправдывал себя тем, что подобные поступки совершались и высоко стоящими людьми и не считались дурными, — и успокаивался.

Хорошо кончив курс правоведения, Иван Ильич при помощи отца получает в провинции должность чиновника особых поручений. Он служит честно, гордится своей честностью, вместе с тем приятно и прилично веселится — в пределах принятых в обществе норм порядочности, делает хорошую карьеру. Он становится судебным следователем — новое назначение требует переезда в другую губернию. Иван Ильич оставляет прежние связи и заводит новые так, что жизнь его становится ещё более приятной. Он встречается с будущей своей женой, и, хотя мог рассчитывать на более блестящую партию, решает жениться, так как невеста ему приятна и к тому же выбор Ивана Ильича выглядит правильным в глазах людей, стоящих выше него в свете.

Первое время после свадьбы жизнь Ивана Ильича не изменяется и даже становится более приятной и одобряемой обществом. Но постепенно, особенно с рождением первого ребёнка, супружеская жизнь усложняется, и Иван Ильич вырабатывает в себе определённое к ней отношение. Он требует от супружества только тех удобств, которые находит, восполняя ощущение собственной независимости в делах службы. Это отношение приносит свои плоды — в общественном мнении Иван Ильич принят и как хороший семьянин, и как хороший служака. Через три года его делают товарищем прокурора и через семь лет службы в одном городе переводят на место прокурора в другую губернию.

Проходит семнадцать лет со времени женитьбы. За это время родилось пятеро детей, трое из них умерло, старшей дочери уже шестнадцать лет, она учится дома, мальчика Прасковья Федоровна отдаёт в гимназию назло мужу, который хотел видеть сына в правоведении. Во всех раздорах и невзгодах семьи Прасковья Федоровна винит мужа, но он уклоняется от ссор. Весь интерес жизни Ивана Ильича поглощается службой. Денег не хватает на жизнь, и Иван Ильич в 1880 г., самом тяжёлом в его жизни, решает ехать в Петербург просить места в пять тысяч жалованья. Поездка эта завершается удивительным, неожиданным успехом. Запнувшаяся было жизнь опять обретает характер приятности и приличия.

Осматривая новую квартиру, Иван Ильич падает с лесенки и ударяется боком о ручку оконной рамы. Ушиб болит, но скоро проходит. Несмотря на некоторые несогласия, семейная жизнь протекает благополучно и заполнена заботами нового устройства. Служба у Ивана Ильича идёт легко и приятно, он даже чувствует виртуозность, с которой ведёт свои дела.

Он здоров — нельзя назвать нездоровьем странный вкус во рту и неловкость в левой стороне живота. Но со временем эта неловкость переходит в тяжесть, потом в боль, которая сопровождается дурным расположением духа. Все чаще он становится раздражён, особенно после того, как жена настаивает на обращении к докторам. Иван Ильич подчиняется ей и подвергается унизительным, с его точки зрения, медицинским осмотрам. Доктора увиливают от прямых ответов на вопросы об опасности болезни, и это ещё больше раздражает Ивана Ильича, Он исполняет все предписания врачей, находя в этом утешение, но боль усиливается. Жена постоянно делает замечания, находя, что Иван Ильич недостаточно строго исполняет предписанное лечение. На службе он начинает замечать, что к нему приглядываются, как к человеку, который может освободить место. Болезнь прогрессирует. И уже не с раздражением, а с ужасом и мучениями физическими он не спит ночами, страдает без единого человека рядом, кто мог бы понять и пожалеть. Боли усиливаются, и в промежутках облегчения Иван Ильич понимает, что не в почке дело, не в болезни, а «в жизни и  смерти. Да, жизнь была и вот уходит, уходит, и я не могу удержать её. То я здесь был, а теперь туда! Куда?  Неужели смерть? Нет, не хочу». Он всегда с досадой ждёт, когда уйдёт жена, приходящая помочь ему, и все думает о боли, о смерти, называя её для себя коротким словом «она». Он знает, что умирает, но никак не может понять этого. И вспомнившийся силлогизм: «Кай — человек, люди смертны, потому Кай смертен», — он не может применить к себе.

В страшном положении Ивана Ильича является ему и утешение. Это чистый, свежий мужик Герасим, слуга, приставленный ухаживать за умирающим. Простота и лёгкость, с которыми Герасим исполняет свои обязанности, умиляет Ивана Ильича. Он чувствует неумение Герасима лгать и притворяться перед лицом смерти, и это странным образом успокаивает Ивана Ильича. Он просит Герасима держать подолгу на плечах свои ноги, в таком положении боль уходит, и Иван Ильич любит при этом говорить с Герасимом. Герасим жалеет Ивана Ильича просто и по-настоящему.

Идут последние дни, наполненные муками физическими и нравственными. Встречи с домашними, с врачами заставляют страдать Ивана Ильича, и, когда эти люди уходят, он чувствует, что вместе с ними уходит ложь, но боль остаётся. И он посылает за Герасимом.

Когда Ивану Ильичу становится совсем плохо, он причащается. В ответ на вопрос жены, не лучше ли ему, он отвечает: «Да». И вместе с этим словом видит весь обман, скрывающий жизнь и смерть. С этой минуты три дня он кричит, не переставая, один звук «У-у!», оставшийся от крика «Не хочу!». За час до смерти к нему пробирается сын-гимназистик, и рука Ивана Ильича попадает на его голову. Сын хватает руку, прижимает к губам и плачет. Иван Ильич видит сына и чувствует жалость к нему. Сына уводят. Иван Ильич прислушивается к боли, ищет привычный страх смерти и не находит. Вместо смерти появляется свет. «Кончена смерть, её нет больше», — говорит он себе, останавливается на половине вздоха, потягивается и умирает.