Font recommendations would be a bit off-topic here, but I see that you’re limiting yourself to legacy 8-bit fonts. So what I can do is give you a method to use any modern font of your choice.
I don’t know which books or fonts you’re specifically thinking of, but if you have a PDF of the books you’re taking as a model, you can examine it to see which fonts it uses.
Your best bet is to compile with LuaLaTeX and use an OpenType or TrueType font. Try the following template, changing the font and font features as needed:
\documentclass{book} % Or whatever is appropriate
\usepackage{babel}
\usepackage{fontspec}
\usepackage{microtype}
\babelprovide[main, import=ru]{russian}
\defaultfontfeatures{Scale = MatchLowercase}
% Substitute your fonts of choice:
\babelfont{rm}[Scale=1.0]{CMU Serif}
\babelfont[russian]{rm}[Language=Default, Ligatures=Common]{CMU Serif}
\babelfont{sf}{CMU Sans Serif}
\babelfont[russian]{sf}[Language=Default, Ligatures=Common]{CMU Sans Serif}
\babelfont{tt}{CMU Typewriter Text}
\babelfont[russian]{tt}[Language=Default]{CMU Typewriter Text}
\begin{document}
\chapter{Матема́тика}
Матема́тика (др.-греч. μᾰθημᾰτικά < μάθημα «изучение; наука»)---наука
об отношениях между объектами, о которых ничего не известно, кроме
описывающих их некоторых свойств,---именно тех, которые в качестве
аксиом положены в основание той или иной математической теории.
Исторически сложилась на основе операций подсчёта, измерения и
описания формы объектов.
\end{document}

If you need mathematical typesetting, \usepackage{unicode-math} instead of fontspec and pick an OpenType math font that matches your text font.