Рассказ ведётся от первого лица. Рассказчик по имени Мисаил Полознев вместе с отцом-архитектором и сестрой Клеопатрой живёт в провинциальном городе. Их мать умерла. Отец воспитывал детей в строгости и, когда они стали взрослыми людьми, продолжает требовать полного подчинения. Это ему удаётся с Клеопатрой, но Мисаил вышел из подчинения. Он меняет одну работу за другой, не умея ужиться с начальниками и не желая заниматься скучным канцелярским трудом. Он не может и не хочет раствориться в скуке и пошлости провинциальной жизни. Мечтает о настоящем деле. Это злит отца, пугает сестру. Часто герой посещает любительские спектакли в богатом помещичьем доме Ажогиных. Собирается местное общество, приходят две девушки: дочь инженера Маша Должникова и Анюта Благово — дочь товарища председателя суда. Анюта тайно влюблена в Мисаила. Через отца она помогает ему поступить на работу к инженеру Должикову на строительство железной дороги. Должиков — надменный, неумный человек и к тому же изрядный хам. Разговаривая, он как бы постоянно забывает, что перед ним сын городского архитектора, унижает, как обычного безработного. Вступив в должность телеграфиста, Мисаил встречает Ивана Чепракова, сына генеральши, приятеля детства. Он спившийся человек, который не понимает смысла в своей работе и целыми днями ничего не делает.

Между прочим они вспоминают, что Мисаила прозвали в детстве — «Маленькая польза».

Все вместе: Должиков, Ажогины, отец Мисаила, Чепраков — они представляют картину провинциальной интеллигенции, разложившейся, ворующей, растерявшей начатки образования. Мисаил все это видит и не может с этим примириться. Его тянет к простым людям, рабочим и мужикам. Он идёт работать маляром под началом подрядчика Андрея Иванова (в городе его звали Редькой и говорили, что это настоящая его фамилия). Это странный человек, немного философ. Его любимая фраза: «Тля ест траву, ржа — железо, а лжа — душу». Стоило Мисаилу стать рабочим, как «благородная» часть города отворачивается от него. Даже Анюта Благово сказала, чтобы он не здоровался с ней на глазах у всех. Отец проклинает сына Теперь Мисаил живёт в городском предместье у своей няни Карповны и её приёмного сына мясника Прокофия. Последний — как бы Мисаил наоборот. Он из мужиков, но тянется в «благородные». Говорит он так: «Я вам, мамаша, могу снисхождение сделать... В сей земной жизни буду вас питать на старости лет в юдоли, а когда помрёте, на свой счёт схороню». Мисаил и Прокофий не любят друг друга, А вот маляры относятся к Мисаилу с почтением: нравится, что он не пьёт и не курит и ведёт степенную жизнь.

Мисаила часто посещают сестра и брат Анюты доктор Владимир Благово. Он влюблён в Клеопатру, и она любит его. Но он женат, встречаются они тайно. Между доктором и Мисаилом идут разговоры о смысле существования, о прогрессе и т. п. Мисаил думает, что каждый человек обязан заниматься физическим трудом, никто не имеет права пользоваться плодами чужого труда. В его словах проскальзывают идеи Толстого. Доктор же поклонник европейского прогресса и противник личного самосовершенствования. В то же время это уставший от жизни и изолгавшийся человек, живущий двойной жизнью.

Кто-то иногда присылает Мисаилу чаю, лимонов, печенья и жареных рябчиков, вероятно, чтобы облегчить ему тяжесть жизни. (Позже выяснится, что это делала Анюта Благово.) Наконец «благородные» примиряются с его поступком, даже начинают открыто его уважать. К нему приходит Маша Должикова и жалуется на скуку, называет его «самым интересным человеком в городе» и просит бывать в их доме. В гостях все просят рассказать о малярах; видно, что жизнь простого люда кажется чем-то экзотическим, неизведанным. И опять споры о смысле жизни, о прогрессе. В отличие от «общества» отец Мисаила не может простить ему ухода из дома. Он обращается к губернатору с просьбой оказать влияние на сына, который, по его мнению, порочит честь дворянина. Губернатор ничего не может сделать и только оказывается в неловком положении, вызвав Мисаила на беседу.

В жизни героя вновь серьёзная перемена. Маша Должикова и он влюблены друг в друга и становятся мужем и женой. Поселяются в имении Дубечня, которое инженер Должиков купил у генеральши Чепраковой, с азартом начинают заниматься сельским хозяйством. Эта работа увлекает Мисаила. Поначалу она нравится и Маше. Она выписывает книги по сельскому хозяйству, строит в деревне школу и пытается наладить контакт с мужиками. Но это ей плохо удаётся. Мужики стараются их обманывать, пьют, работают нехотя и не стесняясь грубят Маше: «Пошла бы сама и возила!» Они явно принимают Мисаила и Машу за дураков и ненастоящих хозяев. Маша очень быстро разочаровалась в мужиках и деревенской жизни. Мисаил смотрит на все глубже. Он видит, что при всей развращённости в мужиках сохранилась душевная чистота. Они хотят справедливости и обозлены тем, что должны работать на праздных людей. В том, что они ежедневно трудятся и не имеют времени на скуку, — их преимущество перед «благородными». Но Маша не хочет этого понимать. Выясняется, что она не столько любила Мисаила, сколько хотела свободы и самостоятельности. Она птица другого полёта. Однажды она уезжает и не возвращается. Мисаил получает письмо, где она пишет, что едет с отцом в Америку и просит развода. Мисаил тяжело переживает; с потерей Маши как бы кончается все светлое в его жизни и наступают серые будни, начинается просто «жизнь» без надежд и идеалов.

«Жизнь» осложняется тем, что сестра Мисаила ушла от отца и живёт с братом. Она беременна от доктора и больна чахоткой. Мисаил просит отца позаботиться о ней, но тот прогоняет сына и не желает простить дочь. Прокофий, сын няни, тоже требует, чтобы Мисаил с беременной сестрой покинул его дом, ибо — «за такую юдоль люди не похвалят ни нас, ни вас». А вот Редька — жалеет Мисаила и сестру и осуждает доктора: «Ваше высокоблагородие, не будет вам царства небесного!» Доктор шутливо парирует: «Что же делать, надо быть кому-нибудь и в аду».

Последняя глава рассказа — своеобразный эпилог. Рассказчик «постарел, стал молчалив, суров»; он работает подрядчиком вместо Редьки. В доме отца не бывает. Его жена живёт за границей. Сестра умерла, оставив дочь. Вместе с малюткой Мисаил по праздникам ходит на могилу сестры и иногда встречает там Анюту Благово. Она, видимо, по-прежнему любит Мисаила и по-прежнему скрывает это. Лаская маленькую дочь Клеопатры, племянницу Мисаила, она даёт волю чувствам, но — едва входят в город, становится строга и холодна, словно между ней и девочкой ничего не было.