1944. május végén feleségével és 15 éves lányával az aknaszlatinai gettóból Auschwitz-Birkenauba deportálták. Rövid birkenaui tartózkodás után az A-8450-es számú tetoválást kapta, majd a monowitzi (Auschwitz III. – más néven Buna) kényszermunkatáborba, egy betonozó munkacsapatba osztották be. Körülbelül két héttel később valamennyi orvosvégzettségű foglyot a tábor SS főorvosához rendeltek, aki Németországban végzett patológust keresett. Egy francia társával együtt a több évig Németországban praktizáló Nyiszli megfelelt a követelményeknek. Az Auschwitz-Birkenaui rabkórházba került, ahol Dr. Josef Mengele beosztottjaként a II. krematórium boncolási részlegében fogták munkára. Nyiszli és csapata túlélte a Sonderkommando utolsó szelekcióit, majd 1945 januárjában a tábor evakuációja során sikerült elvegyülnie az egyik gyalogmenet foglyai között. Plaszówon  keresztül Mauthausenbe, majd a melki és az ebenseei koncentrációs táborba került, innen szabadították fel az amerikaiak.
Előbb a Világ című napilap közölte részletekben memoárját, majd 1946-ban könyv alakban is megjelent a Dr. Mengele boncolóorvosa voltam az auschwitzi krematóriumban (ennek alapján forgatták a 2002-es A szürke zóna című amerikai filmet). 1947-ben tanúként megjelent a Nürnbergi-perben. 1956. május 5-én hunyt el, Nagyváradon.

A Magvető Kiadónál megjelent műve
Dr. Mengele boncolóorvosa voltam az auschwitzi krematóriumban (2004)