В русской прозе конца XIX - начала XX вв. наряду с реалистической традицией сосуществовала и другая, связанная с модернизмом. Оба направления в художественной прозе этого периода развивались в тесном взаимодействии друг с другом. При всем разнообразии стилистических поисков писатели-прозаики рубежа веков проявляли общий интерес к романтической традиции.Неоромантизм (В общем смысле слова может быть определён как возрождение литературных настроений первой половины XIX века в Европе (Романтизм). Может пониматься как ранняя фаза или одно из крыльев модернизма.) ни в русской, ни в европейской литературах конца XIX - начала XX вв. не сложился в самостоятельное, обособленное течение; он сказывался в идейных и стилевых тенденциях как в реалистическом, так и в декадентском творчестве. Черты неоромантизма проявляются в некоторых произведениях таких разных писателей, как М. Горький, А. Куприн, Л. Андреев, А. Ремизов. Повесть «Олеся» Куприна, например, по-своему варьирует руссоистско-романтическую тему столкновения «детей природы» с миром цивилизации; в предреволюционные годы Куприн создал немало ярких художественных произведений, в которых звучал романтический мотив высокой и безграничной любви (рассказы «Суламифь», «Гранатовый браслет»).
Особенное место в русской прозе занимает творчество Л.Н. Андреева. В истории русской литературы принято сейчас выводить Андреева за пределы реализма: его творчество относят к новому и не получившему на русской почве развития литературного направления - экспрессионизму. В европейской литературе конца XIX - начала XX в. экспрессионизм возник и развивался в немецкой и австрийской литературах. От других авангардистских течений он отличался ярко выраженным социально-критическим пафосом. Мастера экспрессионизма совмещали протест с ужасом перед хаосом бытия; сознание героя в их произведениях представало крайне смятенным, разорванным. В рассказах Л. Андреева изображаются часто невыносимые по трагизму ситуации. Автор погружается в глубины подсознания, темные стихии человеческой души, ее звериные инстинкты; они оказываются победителями в борьбе с разумом, мыслью, которая подвергается Андреевым беспощадному анализу.
Словами «безумие и ужас» Андреев начинает одно из наиболее жутких по безысходности и трагизму произведений - «Красный смех», написанное под впечатлением событий русско-японской войны. Безумный ужас войны с ее насилием над чувствами и разумом людей воплощен Андреевым не с помощью конкретных сцен сражений, смерти солдат, но с помощью предельно обобщенного, символического образа Красного (кровавого) смеха. «Это красный смех. Когда земля сходит с ума, она начинает так смеяться».
Символисты создали оригинальный роман, вершинами которого являются «Мелкий бес» Ф. Сологуба и «Петербург» А. Белого.
В романе Сологуба ощутимы связи с традициями прозы Н.В. Гоголя, М.Е. Щедрина, А.П. Чехова. Но роман «Мелкий бес» не является романом реалистическим, хотя в нем ярко воссозданы картины растленного мира русского провинциального мещанства. Однако в центре внимания писателя не эти картины, а «овеществленный бред» человеческого существования. При этом акцент делается не просто на факте господства в жизни всяческого зла и пакостничества, а на необъяснимости этого пакостничества. В. Розанов писал по поводу главного героя романа, учителя гимназии Передонова: «Характерно и поразило всю Россию, что он мажет кота вареньем и хочет жениться сразу на трех сестрах, выбирая которая потолще».
Сологуб до предела заостряет тему абсурдности бытия, которую в русской и мировой литературе задолго до художников западноевропейского модернизма поднял Чехов. В отличие от Чехова, Сологуб говорит не об искажении нормы, а об универсальном отсутствии в мире любых норм. Воплощением этого универсального зла становится символический образ Недотыкомки, перекочевавший на страницы романа из поэзии Ф. Сологуба. Недотыкомка предстает как порождение воспаленного мозга сумасшедшего Передонова, и читатель с трудом нащупывает грань, когда автор от объективного изображения реальной действительности переходит к воспроизведению сознания героя. В «Мелком бесе» не всегда можно ответить на вопрос: что перед нами - реальные события или же кошмарный бред Передонова. Сам образ Недотыкомки сохраняет в «Мелком бесе» какую-то жуткую реальность. То, что развернул Сологуб в своем романе - да и в поэзии в целом - можно назвать трагедией без катарсиса. В ней нет очищающего просветления, она гнетет. Сологуб не знает и не верит в возможность ее преодоления.
Роман А. Белого «Петербург» (1913-1914) - вершина Белого-прозаика и одна из вершин русского символизма в целом. Действие его разворачивается на фоне событий революций 1905-1907 гг. и вбирает в себя проблемы исторических судеб России. В романе Белого находит свое развитие петербургская тема русской литературы, воплощенная в творчестве А.С. Пушкина, Н.В. Гоголя, Ф.М. Достоевского.
В романе Белый создает принципиально новый вид повествования, чтобы передать ирреальность каменного «бреда» Петербурга. В туманном мареве города смещаются планы, люди и вещи меняются местами; все происходящее выглядит порождением сознания главного героя, сенатора Аблеухова. Описание бури на Невском вырастает до космических размеров, в его дьявольских вихрях словно вырастает синтетический образ революционной стихии. Вся художественная система романа преследует одну цель: показать, как хаотически рассыпается некогда прочная основа исторического бытия России. С точки зрения стилистики «Петербург» - подлинный лабиринт перекликающихся слов, лейтмотивов, нарочитых созвучий.
Музыкальная проза Белого с его лейтмотивами и рапсодическим членением фразы предопределила революцию прозы в 20-е годы и весь «ориентализм» ранней советской литературы. Принцип воспроизведения действительности через сознание героя - художественное открытие А. Белого, которое стоит в одном ряду с новаторскими явлениями в западноевропейской литературе (Дж. Джойс, М. Пруст).