like this?

With enumitem instead of the enumerate package, enumerate list styles are changed only in tcolorboxses by help of `enumitem˙ package, considered @Leonardis comment:
\documentclass[11pt]{book}
\usepackage[margin=2.5cm]{geometry}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage{lmodern}
\usepackage{mathrsfs}
\usepackage{amsmath,amssymb}
\usepackage[most]{tcolorbox}
\newtcolorbox{exercisebox}%
{
enhanced,
breakable,
colback=white, colframe=green!15!white,
colbacktitle=white!15!pink, coltitle=pink!50!black,
left=0pt,right=0mm,top=3mm,bottom=3mm,
pad at break=0pt,bottomrule at break=0pt,toprule at break=0pt,
borderline={0mm}{0mm}{green!50!white,dashed},
attach boxed title to top center={yshift=-2mm},
boxed title style={boxrule=0.4pt},
title=EXERCICES,
}
\usepackage{eso-pic}
\usepackage{etoolbox}
\usepackage{enumitem}
\newcommand\circitem[1]{%
\tikz[baseline=(char.base)]{%https://tex.stackexchange.com/questions/204116/uniform-size-of-circles-around-enumitems
\node[circle,draw=gray, fill=gray!30,
minimum size=1.2em,inner sep=0] (char) {#1};}}
\newcommand\boxitem[1]{%
\tikz[baseline=(char.base)]{%https://tex.stackexchange.com/questions/204116/uniform-size-of-circles-around-enumitems
\node[fill=orange!30,
minimum size=1.2em,inner sep=0] (char) {#1};}}
\AtBeginEnvironment{tcolorbox}{%
\setlist[enumerate,1]{label=\protect\boxitem{\arabic*}}
\setlist[enumerate,2]{label=\protect\circitem{\alph*}}
}
\usepackage{fancyhdr}
\usepackage{cancel}
\usepackage{xcolor}
\newcommand\Exercice[1]{\fboxrule1.5pt%
\fcolorbox{gray}% frame
{cyan}% background
{\large\itshape\textbf{Exercise~#1}}%
\par\medskip}
\usepackage{graphicx}
\usepackage{pgfplots}
\pgfplotsset{compat=1.16}
\usetikzlibrary{arrows}
\usepackage{tkz-tab}
\usepackage{mdframed}
\usepackage{varwidth}
\usepackage{listings}
\usepackage{pstricks-add}
\usepackage{hyperref}
\usepackage{lipsum}
\begin{document}
\section{EXERCICES}
\begin{exercisebox}
\Exercice{1}
Simplifier les expressions suivantes:
\begin{enumerate}
\item $A=\mfrac{5^3\times(3^2\times2)^{-1}}{3^{-1}\times(2^{-3}\times5)^2}$
\item $B=\dfrac{(0.009)^{-3}\times(0.016)^2\times250}{(0.00075)^{-1}\times810^3\times30}$
\item $C=\dfrac{(a^{-2}c)^{-4}(-b^2c)^5(a^3bc^{-1})^{-2}}{(-a^2b^{-3}c)^3b^4(a^{-5}c)^2}$
\item $D=\dfrac{\left[\left(\dfrac23\right)^2\right]^6\times \left[\left(\dfrac35\right)^{-2}\right]^3\times\left[\left(\dfrac52\right)^2\right]^{-6}}{\left(\dfrac46\right)^6}$
\end{enumerate}
\Exercice{2}
\begin{enumerate}
\item Soient $a,b$ et $c$ trois nombres réels non nuls tels que $ab+bc+ca=0$.\\
Montrer que $\dfrac{b+c}{a}+\dfrac{c+a}{b}+\dfrac{a+b}{c}=-3$
\item On suppose maintenant que $abc=1$. Montrer que:
\\ $\dfrac{a}{ab+a+1}+\dfrac{b}{bc+c+1}+\dfrac{c}{ca+a+1}=1$
\item On suppose enfin que les réels $a,b$ et $c$ sont deux à deux distincts. Montrer que:
\\
$\dfrac{4a^2-1}{(a-b)(a-c)}+\dfrac{4b^2-1}{(b-c)(b-a)}+\dfrac{4c^2-1}{(c-a)(c-b)}=4$
\end{enumerate}
\Exercice{3}
Soient $a,b;c$ et $d$ des nombres réels strictements positifs tels que $\dfrac{a}{b}=\dfrac{c}{d}$.
\begin{enumerate}
\item
\begin{enumerate}
\item Montrer que: $\dfrac{7a+8c}{7b+8d}=\dfrac{a}{b}$
\item Montrer que: $\dfrac{a^2+b^2}{ab}=\dfrac{c^2+d^2}{cd}$
\item Montrer que: $\sqrt{\dfrac{a^2+c^2}{b^2+d^2}}=\dfrac{a}{b}$
\item Montrer que $\sqrt{(a+c)(b+d)}=\sqrt{ac}+\sqrt{bd}$
\end{enumerate}
\item
\begin{enumerate}
\item Vérifier que si $\dfrac{a}{b}=\dfrac{c}{d}$ alors $\dfrac{a^2+b^2}{ac+bd}=\dfrac{ac+bd}{c^2+d^2}$.
\item Démontrer la réciproque, à savoir: si $\dfrac{a^2+b^2}{ac+bd}=\dfrac{ac+bd}{c^2+d^2}$ alors $\dfrac{a}{b}=\dfrac{c}{d}$
\\
\end{enumerate}
\end{enumerate}
\Exercice{4}
Dans tout l'exercice $a,b$ et $c$ désignent des nombres réels
\begin{enumerate}
\item Vérifier les identités suivantes:
\begin{enumerate}
\item $(a+b+c)^2=a^2+b^2+c^2+2ab+2bc+2ca$
\item $(ax+by)^2-(ay+bx)^2=(a^2-b^2)(x^2-y^2)$
\item $(a^2+a+1)(a^2-a+1)=a^4+a^2+1$
\end{enumerate}
\item
\begin{enumerate}
\item Montrer l'identité de Gauss à savoir: \\
$a^3+b^2+c^3-3abc=(a+b+c)(a^2+b^2+c^2-ab-bc-ca)$
\item Servez vous de cette relation pour montrer que pour tout $u,v$ et $w$ on a l'identité:
\\ $(u-v)^3+(v-w)^3+(w-u)^3=3(u-v)(v-w)(w-u)$
\end{enumerate}
\end{enumerate}
\Exercice{5}
Factoriser les expressions suivantes
\begin{enumerate}
\item $ab+a+b+1$
\item $a^2xy+aby^2+b^2xy+abx^2$
\item $a^2+8+2a^2+4a$
\item $ab(a+b)+bc(b+c)+ca(c+a)+2abc$
\item $(ax+by)^2-(ay+bx)^2$
\item $(a^2+b^2-9)^2-4a^2b^2$
\item $(a+b)^2-a^3-b^3$
\item $(a^4-b^4)+2ab(a^2-b^2)-(a^3-b^2)+(ab^2-a^2b)$
\item $x^2y - xy^2 + yz^2 - xz^2 + x^2z - xyz + y^2z + xyz$
\end{enumerate}
\end{exercisebox}
\end{document}
Edit:
- If you consider less fancy design of your exercises, than the package
exam is right tool for you. For an example of it use see this answer.
- With use of above proposed solution for questions labels is possible to arrange them in two column by manula insert each question in appropriate place in
longtable:
\documentclass[11pt]{book}
\usepackage[margin=2.5cm]{geometry}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage{lmodern}
\usepackage{mathrsfs}
\usepackage{nccmath,amssymb}
\usepackage[most]{tcolorbox}
\newtcolorbox{exercisebox}%
{
enhanced,
breakable,
colback=white, colframe=green!15!white,
colbacktitle=white!15!pink, coltitle=pink!50!black,
left=0pt,right=0mm,top=3mm,bottom=3mm,
pad at break=0pt,bottomrule at break=0pt,toprule at break=0pt,
borderline={0mm}{0mm}{green!50!white,dashed},
attach boxed title to top center={yshift=-2mm},
boxed title style={boxrule=0.4pt},
title=EXERCICES,
}
\usepackage{eso-pic}
\usepackage{enumitem}
\newcommand\circitem[1]{%
\tikz[baseline=(char.base)]{%https://tex.stackexchange.com/questions/204116/uniform-size-of-circles-around-enumitems
\node[circle,draw=gray, fill=gray!30,
minimum size=1.2em,inner sep=0] (char) {#1};}}
\newcommand\boxitem[1]{%
\tikz[baseline=(char.base)]{%https://tex.stackexchange.com/questions/204116/uniform-size-of-circles-around-enumitems
\node[fill=orange!30,
minimum size=1.2em,inner sep=0] (char) {#1};}}
\usepackage{fancyhdr}
\usepackage{cancel}
\usepackage{xcolor}
\newcommand\Exercice[1]{\fboxrule1.5pt%
\fcolorbox{gray}% frame
{cyan}% background
{\large\itshape\textbf{Exercise~#1}}%
\par\medskip}
\usepackage{graphicx}
\usepackage{pgfplots}
\pgfplotsset{compat=1.16}
\usetikzlibrary{arrows}
\usepackage{tkz-tab}
\usepackage{mdframed}
\usepackage{varwidth}
\usepackage{listings}
\usepackage{pstricks-add}
\usepackage{multicol}
\usepackage{longtable}
\usepackage{hyperref}
\usepackage{lipsum}
\begin{document}
\lipsum[66]
\setcounter{chapter}{7}
\section{EXERCICES}
\begin{exercisebox}
\setlist[enumerate,1]{label=\protect\boxitem{\arabic*},leftmargin=*,resume}
\setlist[enumerate,2]{label=\protect\circitem{\alph*}}
\begin{longtable}{@{}*{2}{p{\dimexpr0.5\linewidth-\tabcolsep}}}
\Exercice{1}
Simplifier les expressions suivantes:
\begin{enumerate}
\item $A=\mfrac{5^3\times(3^2\times2)^{-1}}{3^{-1}\times(2^{-3}\times5)^2}$
\item $B=\mfrac{(0.009)^{-3}\times(0.016)^2\times250}{(0.00075)^{-1}\times810^3\times30}$
\item $C=\mfrac{(a^{-2}c)^{-4}(-b^2c)^5(a^3bc^{-1})^{-2}}{(-a^2b^{-3}c)^3b^4(a^{-5}c)^2}$
\item $D=\mfrac{\left[\left(\mfrac23\right)^2\right]^6\times \left[\left(\mfrac35\right)^{-2}\right]^3\times\left[\left(\mfrac52\right)^2\right]^{-6}}{\left(\mfrac46\right)^6}$
\end{enumerate}
&
\Exercice{3}
\begin{enumerate}
\item Soient $a,b$ et $c$ trois nombres réels non nuls tels que $ab+bc+ca=0$.
Montrer que $\mfrac{b+c}{a}+\mfrac{c+a}{b}+\mfrac{a+b}{c}=-3$
\item On suppose maintenant que $abc=1$. Montrer que:
$\mfrac{a}{ab+a+1}+\mfrac{b}{bc+c+1}+\mfrac{c}{ca+a+1}=1$
\item On suppose enfin que les réels $a,b$ et $c$ sont deux à deux distincts. Montrer que:
$\mfrac{4a^2-1}{(a-b)(a-c)}+\mfrac{4b^2-1}{(b-c)(b-a)}+\mfrac{4c^2-1}{(c-a)(c-b)}=4$
\end{enumerate}
\\
% new row
\Exercice{2}
Soient $a,b;c$ et $d$ des nombres réels strictements positifs tels que $\mfrac{a}{b}=\mfrac{c}{d}$.
\begin{enumerate}
\item
\begin{enumerate}
\item Montrer que: $\mfrac{7a+8c}{7b+8d}=\mfrac{a}{b}$
\item Montrer que: $\mfrac{a^2+b^2}{ab}=\mfrac{c^2+d^2}{cd}$
\item Montrer que: $\sqrt{\mfrac{a^2+c^2}{b^2+d^2}}=\mfrac{a}{b}$
\item Montrer que $\sqrt{(a+c)(b+d)}=\sqrt{ac}+\sqrt{bd}$
\end{enumerate}
\item
\begin{enumerate}
\item Vérifier que si $\mfrac{a}{b}=\mfrac{c}{d}$ alors $\mfrac{a^2+b^2}{ac+bd}=\mfrac{ac+bd}{c^2+d^2}$.
\item Démontrer la réciproque, à savoir: si $\mfrac{a^2+b^2}{ac+bd}=\mfrac{ac+bd}{c^2+d^2}$ alors $\mfrac{a}{b}=\mfrac{c}{d}$
\end{enumerate}
\end{enumerate}
&
\Exercice{4}
Dans tout l'exercice $a,b$ et $c$ désignent des nombres réels
\begin{enumerate}
\item Vérifier les identités suivantes:
\begin{enumerate}
\item $(a+b+c)^2=a^2+b^2+c^2+2ab+2bc+2ca$
\item $(ax+by)^2-(ay+bx)^2=(a^2-b^2)(x^2-y^2)$
\item $(a^2+a+1)(a^2-a+1)=a^4+a^2+1$
\end{enumerate}
\item
\begin{enumerate}
\item Montrer l'identité de Gauss à savoir:
$a^3+b^2+c^3-3abc=(a+b+c)(a^2+b^2+c^2-ab-bc-ca)$
\item Servez vous de cette relation pour montrer que pour tout $u,v$ et $w$ on a l'identité:
$(u-v)^3+(v-w)^3+(w-u)^3=3(u-v)(v-w)(w-u)$
\end{enumerate}
\end{enumerate}
\\
% new row
\Exercice{5}
Factoriser les expressions suivantes
\begin{enumerate}
\item $ab+a+b+1$
\item $a^2xy+aby^2+b^2xy+abx^2$
\item $a^2+8+2a^2+4a$
\item $ab(a+b)+bc(b+c)+ca(c+a)+2abc$
\end{enumerate}
&
\begin{enumerate}[start=5]
\item $(ax+by)^2-(ay+bx)^2$
\item $(a^2+b^2-9)^2-4a^2b^2$
\item $(a+b)^2-a^3-b^3$
\item $(a^4-b^4)+2ab(a^2-b^2)-(a^3-b^2)+(ab^2-a^2b)$
\item $x^2y - xy^2 + yz^2 - xz^2 + x^2z - xyz + y^2z + xyz$
\end{enumerate}
\end{longtable}
\vspace{-2\baselineskip}
\end{exercisebox}
\lipsum[3]
\end{document}


TikZandtcolorboxtags? – Ignasi Jun 07 '19 at 18:18\documentclasscommand, include any necessary packages and be as small as possible to demonstrate your problem. At the moment we have to guess what packages etc you are using before we can compile your code. – Jun 08 '19 at 00:55