Ana Karenina tiene dos tramas que corren paralelas a lo largo de la novela: la historia de Ana y la historia de Levin. La historia de Levin es una expresión de la naturaleza pastoril de Tolstói y una reafirmación de la visión del novelista de la vida simple. La belleza de las estaciones y el trabajo pragmático de cosechar absorben a Levin. La relación de Levin con la tierra y la vida contrasta con las pasiones enigmáticas y destructivas de Ana. La aparición de Ana en la novela representa una fisura en el tranquilo mundo que permite que prevalezcan la pasión y la irracionalidad.
El libro comienza con una crisis en el hogar. El hermano de Ana, Stiva, ha sido descubierto sacándole la vuelta a su esposa, Dolly. Ana logra convencer a Dolly para que lo perdone. Rápidamente, se entiende que Ana es una persona generosa, interesada sólo en la benevolencia. Está casada con Karenin, una persona de clase adinerada y con un alto rango. Su matrimonio parece estable y bastante unido desde el principio.
Sin embargo, poco después, Ana conoce y se enamora del apuesto Conde Vronsky. Ella intenta escapar de sus miradas, para evitar encontrarse con él, pero él es persistente y ella está enamorada. Ellos tienen un amorío que rompe con los esquemas de su vida social cuando Ana queda embarazada. Ella debe, obviamente, darle la noticia a Karenin. Él exige que su orgullo y honor social sea preservado en todo el asunto, y él y Ana pretenden que no está sucediendo nada. El teme mucho más al ridículo en la sociedad que la destrucción de su propio matrimonio. Sin embargo, Ana no puede dejar a Vronsky - sigue viéndolo con frecuencia. Karenin descubre el alcance de este amorío cuando ve a Vronsky salir de su casa, y pide el divorcio. Ana, por su parte, corre con Vronsky.
Después de tener el hijo de Vronsky, Ana cae enferma gravemente. Karenin piensa que ella va a morir, y perdona todo lo que ella hizo. Ana jura que es todo lo que quiere para el resto de su vida. Sin embargo, Ana se recupera y se olvida rápidamente de Karenin, y una vez más reanuda su tórrido romance con el conde. Mientras Ana estuvo enferma y Karenin estuvo presente a su lado, Vronsky fue humillado por lo que había hecho. Intentó suicidarse disparándose él mismo, pero él, al igual que Ana, no murió. Ahora él y Ana parten a Italia. Karenin rechaza un divorcio con Ana, con el fin de que poder hacer más honda su culpabilidad.
La vida de Ana se volvió terrible. Sus amigos la abandonaron, avergonzados de su comportamiento. Ella no podía salir en público con Vronsky, al teatro o la ópera, porque serían objeto de rumores y chismes. Vronsky, sin embargo, sale sin Ana, él es libre de hacerlo. Ana se vuelve terriblemente insegura, pensando que Vronsky sale tanto porque está enamorado de otra persona. No obstante, él solo está en amores con Ana, y los dos pelean a menudo debido a la tensión no expresada que existe entre ellos.
Ana se encuentra en una difícil posición. Ella no es la esposa de Vronsky, pero es algo más que su amante. Depende totalmente de él para la paz interna y el amor. Pero de lo que finalmente se da cuenta es que nadie tiene el poder para satisfacer sus deseos emocionales, ni Vronsky, ni ninguna otra persona. Ella ha tejido una compleja red para sí misma, una de la que siente que sólo puede escapar matándose. Esto es lo que ella hace, saltando delante de un tren. Ella lo reconsidera brevemente antes de que el tren la arrolle, pero no tiene tiempo de esquivarlo.
Paralelamente a la historia de Ana se encuentra la de Levin, uno que imita la vida y los intereses del novelista mismo. Levin, un propietario de tierras y hombre de campo, llega a la ciudad para hacerle una propuesta a Kitty, una hermosa joven que más bien es hipnotizada por Vronsky. Ella rechaza la propuesta de Levin y mantiene sus ojos en el conde. Vronsky, sin embargo, está enamorado de Ana.
Levin se siente vencido. Se va a su casa en el campo y se enfrasca totalmente en su relación con la tierra. Escribe un libro sobre las prácticas agrícolas en Rusia, revelando su convicción de que los propietarios de tierras deben compartir la tierra con sus campesinos de modo que los campesinos tengan un incentivo para trabajar más duro. Se trata de un controvertido proyecto a medida que Rusia se va haciendo más industrializada.
Kitty, también, es destrozada por el desinterés de Vronsky. Se enferma, y su familia la lleva a un balneario en Alemania, donde se recupera y se da cuenta de que realmente ha querido siempre a Levin. Ellos se vuelven a encontrar poco tiempo después y Kitty acepta la segunda propuesta de Levin. Se casan y son felices, tienen un niño llamado Mitya.
Kitty es una enorme fuerza en la vida de Levin, ayudándole a hacer frente a su lucha de toda la vida con la fe y la religión. También ayuda a Levin a superar la muerte de su hermano Nicolás. A los ojos de Tolstói, los dos tienen el matrimonio y amor ideal.
Aunque las tramas de Ana y Levin se conectan en ciertas ocasiones, Tolstói sólo se atreve a un breve encuentro entre los dos, casi al final de la obra. Levin se ve temporalmente arrastrado hacia el mundo de Ana, demostrando a Tolstói cuan peligroso es un personaje como Ana para Levin y su mundo.
Tolstói contrapone las historias de Ana y Levin y al mismo tiempo presenta un caso temático, a través de Levin, de las sociedades preindustriales como la principal fuente de felicidad, riqueza y sustento. Él defiende la idea de cuidar de la tierra como si se tratara de la riqueza del mundo, y considera que la tierra es la única asociación mutua que pueden mantener a las sociedades y las familias unidas. Tolstói nos muestra el valioso papel de la sociedad rural en la preservación de la familia. A través de Ana, Tolstói asocia la vida de la ciudad con el vicio. Siendo Ana una criatura del mundo social urbano hace que su personaje gire menos en torno a la virtud, y mucho más alrededor del romance, el sexo, y la afirmación de la sociedad.