If you want to use the kpfonts for text, then XeLaTeX is out of the question: they don't have support for OpenType or TrueType and so they aren't suitable for usage with XeLaTeX (although some dirty tricks might work).
Here's a version for pdflatex with babel, where for Greek I use GFS Artemisia that's not so distant from the Kpfonts.
\documentclass[a4paper]{memoir}
\usepackage[T1]{fontenc}
\usepackage[utf8]{inputenc}
\usepackage[greek,danish]{babel}
\usepackage{amsmath}
\usepackage{kpfonts} % for math
\usepackage{substitutefont}
\substitutefont{LGR}{\rmdefault}{artemisia}
\usepackage{siunitx}
\begin{document}
København er Danmarks hovedstad og er med \num{1246611} indbyggere (2014)
landets største byområde omfattende 18 kommuner eller dele heraf. Centrum
for byområdet udgøres af Københavns Kommune, der inkl. enklaven
Frederiksberg Kommune tæller \num{661464} indbyggere (2013) og er Danmarks
mest folkerige kommune. I hele byregionen, den \SI{2778}{km^2} store
Hovedstadsregionen, bor \num{1950430} mennesker (2013), der også
sammenfalder med Københavns lokaltrafikområde. Den danske hovedstad er
desuden centrum for Øresundsregionen, som er Nordens største metropolregion.
\[
\int_{-\infty}^\infty e^{-x^2}\,dx=\sqrt{\pi}
\]
\textgreek{μυρίᾳ εἰμὶ διὰ τὴν τοῦ θεοῦ λατρείαν}.
\end{document}

For XeLaTeX, probably the best match is Palatino or a clone thereof (TeX Gyre Pagella, here) again with GFS Artemisia for Greek.
\documentclass[a4paper]{memoir}
\usepackage{amsmath}
\usepackage{unicode-math}
\usepackage{polyglossia}
\usepackage{siunitx}
\setmainfont{TeX Gyre Pagella}
\setmathfont{TeX Gyre Pagella Math}
\setmainlanguage{danish}
\setotherlanguage{greek}
\newfontfamily{\greekfont}{GFS Artemisia}
\begin{document}
København er Danmarks hovedstad og er med \num{1246611} indbyggere (2014)
landets største byområde omfattende 18 kommuner eller dele heraf. Centrum
for byområdet udgøres af Københavns Kommune, der inkl. enklaven
Frederiksberg Kommune tæller \num{661464} indbyggere (2013) og er Danmarks
mest folkerige kommune. I hele byregionen, den \SI{2778}{km^2} store
Hovedstadsregionen, bor \num{1950430} mennesker (2013), der også
sammenfalder med Københavns lokaltrafikområde. Den danske hovedstad er
desuden centrum for Øresundsregionen, som er Nordens største metropolregion.
\[
\int_{-\infty}^\infty e^{-x^2}\,dx=\sqrt{\pi}
\]
\textgreek{μυρίᾳ εἰμὶ διὰ τὴν τοῦ θεοῦ λατρείαν}.
\end{document}

kpfontshave no support for Greek. – egreg Jul 17 '14 at 19:37kpfontsT1 encoding is the right choice. – Jul 17 '14 at 20:18