Роман представляет собой записки Гарри Галлера, найденные в комнате, где он жил, и опубликованные племянником хозяйки дома, в котором он снимал комнату. От лица племянника хозяйки написано и предисловие к этим запискам. Там описывается образ жизни Галлера, даётся его психологический портрет. Он жил очень тихо и замкнуто, выглядел чужим среди людей, диким и одновременно робким, словом, казался существом из иного мира и называл себя Степным волком, заблудившимся в дебрях цивилизации и мещанства. Сначала рассказчик относится к нему настороженно, даже враждебно, так как чувствует в Галлере очень необычного человека, резко отличающегося от всех окружающих. Со временем настороженность сменяется симпатией, основанной на большом сочувствии к этому страдающему человеку, не сумевшему раскрыть все богатство своих сил в мире, где все основано на подавлении воли личности.

Галлер по натуре книжник, далёкий от практических интересов. Он нигде не работает, залёживается в постели, часто встаёт чуть ли не в полдень и проводит время среди книг. Подавляющее их число составляют сочинения писателей всех времён и народов от Гете до Достоевского. Иногда он рисует акварельными красками, но всегда так или иначе пребывает в своём собственном мире, не желая иметь ничего общего с окружающим мещанством, благополучно пережившим первую мировую войну. Как и сам Галлер, рассказчик тоже называет его Степным волком, забредшим «в города, в стадную жизнь, — никакой другой образ точнее не нарисует этого человека, его робкого одиночества, его дикости, его тревоги, его тоски по родине и его безродности». Герой ощущает в себе две природы — человека и волка, но в отличие от других людей, усмиривших в себе зверя и приученных подчиняться, «человек и волк в нем не уживались и уж подавно не помогали друг другу, а всегда находились в смертельной вражде, и один только изводил другого, а когда в одной душе и в одной крови сходятся два заклятых врага, жизнь никуда не годится».

Гарри Галлер пытается найти общий язык с людьми, но терпит крах, общаясь даже с подобными себе интеллектуалами, которые оказываются такими же, как все, добропорядочными обывателями. Встретив на улице знакомого профессора и оказавшись у него в гостях, он не выносит духа интеллектуального мещанства, которым пропитана вся обстановка, начиная с прилизанного портрета Гете, «способного украсить любой мещанский дом», и кончая верноподданническими рассуждениями хозяина о кайзере. Взбешённый герой бродит ночью по городу и понимает, что этот эпизод был для него «прощанием с мещанским, нравственным, учёным миром, полнел победой степного волка» в его сознании. Он хочет уйти из этого мира, но боится смерти. Он случайно забредает в ресторан «Чёрный орёл», где встречает девушку по имени Гермина. У них завязывается нечто вроде романа, хотя скорее это родство двух одиноких душ. Гермина, как человек более практичный, помогает Гарри приспособиться к жизни, приобщая его к ночным кафе и ресторанам, к джазу и своим друзьям. Все это помогает герою ещё отчётливее понять свою зависимость от «мещанского, лживого естества»: он выступает за разум и человечность, протестует против жестокости войны, однако во время войны он не дал себя расстрелять, а сумел приспособиться к ситуации, нашёл компромисс, он противник власти и эксплуатации, однако в банке у него лежит много акций промышленных предприятий, на проценты от которых он без зазрения совести живёт.

Размышляя о роли классической музыки, Галлер усматривает в своём благоговейном отношении к ней «судьбу всей немецкой интеллигентности»: вместо того чтобы познавать жизнь, немецкий интеллигент подчиняется «гегемонии музыки», мечтает о языке без слов, «способном выразить невыразимое», жаждет уйти в мир дивных и блаженных звуков и настроений, которые «никогда не претворяются в действительность», а в результате — «немецкий ум прозевал большинство своих подлинных задач... люди интеллигентные, все сплошь не знали действительности, были чужды ей и враждебны, а потому и в нашей немецкой действительности, в нашей истории, в нашей политике, в нашем общественном мнении роль интеллекта была такой жалкой». Действительность определяют генералы и промышленники, считающие интеллигентов «ненужной, оторванной от действительности, безответственной компанией остроумных болтунов». В этих размышлениях героя и автора, видимо, кроется ответ на многие «проклятые» вопросы немецкой действительности и, в частности, на вопрос о том, почему одна из самых культурных наций в мире развязала две мировые войны, чуть не уничтожившие человечество.

В конце романа герой попадает на бал-маскарад, где погружается в стихию эротики и джаза. В поисках Гермины, переодетой юношей и побеждающей женщин «лесбийским волшебством», Гарри попадает в подвальный этаж ресторана — «ад», где играют черти-музыканты. Атмосфера маскарада напоминает герою Вальпургиеву ночь в «Фаусте» Гете (маски чертей, волшебников, время суток — полночь) и гофмановские сказочные видения, воспринимающиеся уже как пародия на гофманиану, где добро и зло, грех и добродетель неразличимы: «...хмельной хоровод масок стал постепенно каким-то безумным, фантастическим раем, один за другим соблазняли меня лепестки своим ароматом  змеи обольстительно глядели на меня из зелёной тени листвы, цветок лотоса парил над чёрной трясиной, жар-птицы на ветках манили меня...» Бегущий от мира герой немецкой романтической традиции демонстрирует раздвоение или размножение личности: в нем философ и мечтатель, любитель музыки уживается с убийцей. Это происходит в «магическом театре» («вход только для сумасшедших»), куда Галлер попадает с помощью друга Гермины саксофониста Пабло, знатока наркотических трав. Фантастика и реальность сливаются. Галлер убивает Гермину — не то блудницу, не то свою музу, встречает великого Моцарта, который раскрывает ему смысл жизни — её не надо воспринимать слишком серьёзно: «Вы должны жить и должны научиться смеяться... должны научиться слушать проклятую радиомузыку жизни... и смеяться над её суматошностью». Юмор необходим в этом мире — он должен удержать от отчаяния, помочь сохранить рассудок и веру в человека. Затем Моцарт превращается в Пабло, и тот убеждает героя, что жизнь тождественна игре, правила которой надо строго соблюдать. Герой утешается тем, что когда-нибудь сможет сыграть ещё раз.