Теме любви посвящены многие рассказы И.А. Бунина. В его изображении любовь — это грозная сила, способная перевернуть всю жизнь человека и принести ему великое счастье или огромное горе. Такая история любви показана им в рассказе «Кавказ».
У героя и героини тайный роман. Они должны скрываться ото всех, потому что героиня замужем. Она боится своего мужа, который, как ей кажется, что-то подозревает. Но, несмотря на это, герои счастливы вместе и мечтают о дерзком побеге вдвоем к морю, на кавказское побережье. И этот побег им удается.
С помощью системы антитез Бунин ярко противопоставляет осень в Москве, холодные дожди, страх и тревогу влюбленных — и «нестерпимое сухое» солнце юга, первобытно красивые чащи чинар и магнолий, безмятежное счастье героев.
Но подлинная трагедия происходит не здесь. Это трагедия третьего — обманутого мужа. О нем известно немного. Со слов героини, у него «жестокий, самовлюбленный характер». Он как-то сказал ей: «Я ни перед чем не остановлюсь, защищая свою честь, честь мужа и офицера!» Затем герой встречает его на вокзале, где он провожает свою жену. У него высокая фигура, широкий шаг, он заботливо устраивает жену в вагоне. Наконец короткими, бесстрастными словами автор описывает, как он искал жену и, не найдя ее нигде, застрелился в номере гостиницы.
Создается резкий контраст между чувствами счастливых влюбленных, описанием красоты природы, южной ночи — и почти хроникой действий третьего героя, чье страдание только угадывается за скупыми строчками. У него «жестокий, самолюбивый характер»? Но права ли была его легкомысленная жена, видя в нем только помеху своему роману? Он сказал о том, что защитит свою честь — но это характеризует его как решительного и смелого человека. Особенно резкий контраст между уверенным его поведением на вокзале и трусливой осторожностью героя, который прячется в купе. Так за строками рассказа Бунина виден сильный и мужественный человек, страдающий, потому что его обманули, предали. Особенно впечатляет одновременность событий: влюбленные плачут от счастья, а в это время разыгрывается трагедия, в которой они повинны.
И.А. Бунин рисует читателям трагедию любви как неповторимый художник самых тонких чувств и человеческих переживаний.