Ранним зимним утром от крыльца московской гостиницы Шевалье, простясь с друзьями после долгого ужина, Дмитрий Андреевич Оленин отъезжает на ямской тройке в кавказский пехотный полк, куда зачислен юнкером.

С молодых лет оставшись без родителей, Оленин к двадцати четырём годам промотал половину состояния, нигде не кончил курса и нигде не служил. Он постоянно поддаётся увлечениям молодой жизни, но ровно настолько, чтобы не быть связанным; инстинктивно бежит всякого чувства и дела, которые требуют серьёзных усилий. Не зная с уверенностью, на что же направить силу молодости, которую ясно чувствует в себе, Оленин надеется с отъездом на Кавказ переменить жизнь, чтобы не стало в ней больше ошибок и раскаяния.

За долгое время дороги Оленин то предаётся воспоминаниям о московской жизни, то рисует в воображении манящие картины будущего. Горы, которые открываются перед ним в конце пути, удивляют и радуют Оленина бесконечностью величественной красоты. Все московские воспоминания исчезают, и какой-то торжественный голос будто говорит ему: «Теперь началось».

Станица Новомлинская стоит в трёх верстах от Терека, разделяющего казаков и горцев. Казаки несут службу в походах и на кордонах, «сидят» в дозорах на берегу Терека, охотятся и ловят рыбу. Женщины ведут домашнее хозяйство. Эту устоявшуюся жизнь нарушает приход на постой двух рот кавказского пехотного полка, в котором уже три месяца служит Оленин. Ему отведена квартира в доме хорунжего и школьного учителя, приезжающего домой по праздникам. Хозяйство ведут жена — бабушка Улита и дочь Марьянка, которую собираются выдать за Лукашку, самого удалого из молодых казаков. Как раз перед самым приходом русских солдат в станицу в ночном дозоре на берегу Терека Лукашка отличается — убивает из ружья плывущего к русскому берегу чеченца. Когда казаки разглядывают убитого абрека, незримый тихий ангел пролетает над ними и покидает это место, а старик Ерошка говорит, как будто с сожалением: «Джигита убил». Оленин принят хозяевами холодно, как и заведено у казаков принимать армейских. Но постепенно хозяева становятся терпимее к Оленину. Этому способствует его открытость, щедрость, сразу установившееся приятельство со старым казаком Ерошкой, которого в станице уважают все. Оленин наблюдает жизнь казаков, она восхищает его естественной простотой и слитностью с природой. В порыве добрых чувств он дарит Лукашке одну из своих лошадей, и тот принимает подарок, не в силах понять такого бескорыстия, хотя Оленин искренен в своём поступке. Он всегда угощает вином дядю Ерошку, сразу соглашается с требованием хорунжего повысить плату за квартиру, хотя оговорена была меньшая, дарит Лукашке коня — все эти внешние проявление искренних чувств Оленина казаки и называют простотой.

Ерошка много рассказывает о казацкой жизни, и немудрёная философия, заключённая в этих рассказах, восхищает Оленина. Они вместе охотятся, Оленин любуется дикой природой, слушает наставления и размышления Ерошки и чувствует, что постепенно все больше и больше хочет слиться с окружающей жизнью. Весь день он ходит по лесу, возвращается голодный и усталый, ужинает, выпивает с Ерошкой, видит с крыльца горы на закате, слушает истории про охоту, про абреков, про беззаботное, удалое житье. Оленин переполнен чувством беспричинной любви и обретает наконец ощущение счастья. «Все Бог сделал на радость человеку. Ни в чем греха нет», — говорит дядя Ерошка. И словно отвечает ему Оленин в своих мыслях: «Всем надо жить, надо быть счастливым... В человека вложена потребность счастья». Однажды на охоте Оленин представляет, что он «такой же комар, или такой же фазан или олень, как те, которые живут теперь вокруг него». Но как бы тонко ни чувствовал Оленин. природу, как бы ни понимал окружающую жизнь, — она не принимает его, и он с горечью осознает это.

Оленин участвует в одной экспедиции и представлен в офицеры. Он сторонится избитой колеи армейской жизни, состоящей в большей части из картёжной игры и кутежей в крепостях, а в станицах — в ухаживании за казачками. Каждое утро, налюбовавшись на горы, на Марьянку, Оленин уходит на охоту. Вечером возвращается усталым, голодным, но совершенно счастливым. Непременно приходит к нему Ерошка, они долго беседуют и расходятся спать.

Оленин каждый день видит Марьянку и любуется ею так же, как красотой гор, неба, даже не помышляя о других отношениях. Но чем больше он наблюдает её, тем сильнее, незаметно для себя, влюбляется.

Оленину навязывает свою дружбу князь Белецкий, знакомый ещё по московскому свету. В отличие от Оленина Белецкий ведёт в станице обычную жизнь богатого кавказского офицера. Он и уговаривает Оленина прийти на вечеринку, где должна быть Марьянка. Подчиняясь своеобразным шутливым правилам таких вечеринок, Оленин и Марьянка остаются наедине, и он целует её. После этого «стена, разделявшая их прежде, была разрушена». Оленин все больше времени проводит в комнате у хозяев, ищет любой повод, чтобы увидеть Марьянку. Все больше размышляя о своей жизни и поддаваясь нахлынувшему на него чувству, Оленин готов уже жениться на Марьянке.

В это же время продолжаются приготовления к свадьбе Лукашки и Марьянки. В таком странном состоянии, когда внешне все идёт к этой свадьбе, а у Оленина крепнет чувство и яснеет решимость, он делает девушке предложение. Марьянка соглашается, при условии согласия родителей. Наутро Оленин собирается идти к хозяевам просить руки их дочери. Он видит на улице казаков, среди них Лукашку, которые едут ловить перебравшихся на эту сторону Терека абреков. Повинуясь долгу, Оленин едет с ними.

Окружённые казаками чеченцы знают, что им не уйти, и готовятся к последнему бою. Во время схватки брат того чеченца, которого ранее убил Лукашка, стреляет Лукашке из пистолета в живот. Лукашку привозят в станицу, Оленин узнает, что тот при смерти.

Когда Оленин пытается заговорить с Марьянкой, та отвергает его с презрением и злобой, и он вдруг ясно понимает, что никогда не сможет быть любим ею. Оленин решается уехать в крепость, в полк. В отличие от тех мыслей, которые были у него в Москве, сейчас он уже не раскаивается и не обещает себе лучших перемен. Перед отъездом из Новомлинской он молчит, и в этом молчании чувствуется скрытое, неизвестное ранее понимание пропасти между ним и окружающей жизнью. Интуитивно чувствует внутреннюю сущность Оленина провожающий его Ерошка. «Ведь я тебя люблю, я тебя как жалею! Такой ты горький, все один, все один. Нелюбимый ты какой-то!» — говорит он на прощание. Отъехав, Оленин оглядывается и видит, как старик и Марьяна разговаривают о своих делах и уже не смотрят на него.