As per comment request.
Some illustrative manual tweaking of offsets and positioning.
Using lualatex and polyglossia - fonts are ruled out as the issue since the cutout can be moved in LyX.



MWE
\documentclass{article}
\usepackage{xcolor}
\usepackage{shapepar}
\usepackage{polyglossia}
\setmainfont{notoserif}
\setmainlanguage{english}
\setotherlanguage{hebrew}
\newfontfamily\hebrewfont{miriamlibre}
\begin{document}
\cutout{r}(-0.4\textwidth,1\baselineskip)\shapepar[1em]{\squareshape}%
{\color{blue}\parbox{2in}{\selectlanguage{hebrew}\vspace{2.2em}%
חיתוך חיתוך חיתוך חיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוך
}}\par\selectlanguage{hebrew}\noindent
אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור!
\
%\selectlanguage{hebrew}
\hrule
\vspace{2em}\selectlanguage{english}
xxx -- \textit{switching languages has significance to layout}
\cutout{r}(-0.3\textwidth,7\baselineskip)\shapepar[1.3em]{\squareshape}%
{\color{blue}\raisebox{-3.5ex}{\fcolorbox{red}{blue!14}{\parbox{10em}{\selectlanguage{hebrew}{\bfseries\small%
חיתוך חיתוך חיתוך חיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוך
}}}}}\par\selectlanguage{hebrew}
אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור!
\
\hrule
\par\
\vspace{2em}\selectlanguage{english}
\cutout{l}(0.2\textwidth,7\baselineskip)\shapepar[1.3em]{\squareshape}%
{\color{blue}\hspace{-8em}\raisebox{-3.5ex}{\fcolorbox{red}{blue!14}{\parbox{10em}{\selectlanguage{hebrew}{\bfseries\small%
חיתוך חיתוך חיתוך חיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוךחיתוך חיתוך חיתוך
}}}}}\par\selectlanguage{hebrew}
אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור! אני חושב שזה רעיון נחמד, כי אם נוכל לחשב אינטגרל כדוגמת
$\int\limits _{A}\frac{\sin\sin x^{2}}{x},\mathrm{dx}$
אז נוכל להוכיח בקלות השערת רימן, כי ברור!
\
\hrule
\par\
\vspace{2em}\selectlanguage{english}
\end{document}
\parbox{12em}{\selectlanguage{hebrew}\vspace{4.2em}...}, it comes out OK. Therparameter puts it on the right side in lualatex, so could be a lyx-specific matter, making code even more useful. – Cicada Sep 18 '22 at 12:27