Mary Roos (Marianne Rosemarie Schwab) nació el 9 de enero de 1949 en Bingen am Rhein. Sus padres regentaban un hotel en el que la pequeña Rosemarie hace sus primeras actuaciones a la edad de 9 años llamando la atención de un productor musical y grabando sus primeros singles en 1958.

Su debut internacional se produjo en 1963 en el Festival de Knocke, Bélgica, en el que queda segunda. Tres años más tarde queda sexta en el Festival de Schlager de Baden-Baden con  Wie der Wind (Como el viento). Su vuelta a este mismo festival en 1968 con Die Welt von morgen supondrá su primera colaboración con Ralph Siegel. No obstante, su éxito en esta época es aún moderado. Esto cambiará a partir de su matrimonio con el francés Pierre Scardin, que se convertirá en su manager.

Se presenta al Grand Prix alemán de 1970 con Bei jedem kuss (Con cada beso), quedando segunda tras Katja Ebstein. Ese mismo año da el gran salto con la canción Arizona Man, que permanece 22 semanas en las listas de éxitos consiguiendo el número 2 en Alemania. Firma con la CBS, empieza su carrera en Estados Unidos, participa en la Gala Unicef de 1971 e inicia su despliegue en Francia, país que será decisivo en su carrera.

En 1972 vence inesperadamente el Grand Prix con Nur die Liebe lässt uns leben y representa a Alemania en Eurovisión consiguiendo un meritorio tercer puesto. Poco después graba su primer Lp en francés y actúa en el mítico Olympia. Su álbum francés es traducido parcialmente a su lengua natal con gran éxito igualmente, siendo ya, pues, una artista consagrada dentro y fuera de las fronteras de Alemania.

En 1975 se presenta por tercera vez al Grand Prix, quedando esta vez tercera con Eine Liebe ist wie ein Lied (Un amor es como una canción). Tras esto su carrera sufre una pequeña recesión debido a su salud delicada y decide centrar su carrera en Alemania. Abandona la CBS, ficha con la Polydor y, paralelamente, se separa de su marido y manager, comenzando una relación con el también músico y cantante Werner Böhm. Protagoniza en 1976 el musical Showboat y en 1978 el especial televisivo Maryland. A finales de los 70 es la única artista alemana invitada a participar en The Muppets show (Los Teleñecos).

Con el paso a los 80 su música evoluciona también hacia un estilo más disco. En 1982 vuelve al Grand Prix, siendo vencida por la que sería la primera ganadora alemana de Eurovisión: Nicole. Mary Ross queda sexta, a dúo con David Hanselmann, con el tema Lady, composición de su entonces marido, Werner Böhm. Al año siguiente se le ofrece presentarse con Rücksicht (Respeto), la canción que los hermanos Hoffmann & Hoffmann interpretarán en Munich por Alemania, pero Mary se niega. No obstante, vence en 1984 volviendo a Eurovisión 12 años después con Aufrecht geh’n (Con la cabeza alta), pero sólo consigue una 13ª posición.

Su maternidad en 1986 la aparta temporalmente de los escenarios y los estudios de grabación hasta 1992 con la edición de Alles was ich will (Todo lo que quiero). En todos estos años, la colaboración con los productores  y compositores  Michael Reinecke y Alexander Menke es decisiva en la continuación de su carrera, que se prolonga con distintos altibajos a los largo de los 90 y la primera década del XXI hasta hoy mismo. En 2004 se le galardona como “Veterana de la escena musical alemana” en el Schlagerpreis. En 2005 la NDR le vuelve a dedicar un programa especial. También cuenta con cuatro películas en su filmografía.

En 2013 publicó el álbum Think what you want, en el que se aleja del pop y las canciones son más clásicas. Con este disco hizo una gira en clubs pequeños de toda Alemania con todas las entradas agotadas. Ese mismo año formó parte del jurado en la preselección alemana para eurovisión, volviendo a repetir en 2018. En 2017 su ciudad natal Bingen, la homenajeó poniendo su nombre al transbordador de coches que hace el recorrido entre Bingen y Rüdesheim am Rhein. En 2019 al cumplir 70 anunció que quería poner fin a su carrera pero respetando los contratos que tenía existentes. En octubre dio su último concierto en el festival SWR4 de Stuttgart y en noviembre apareció en el programa de la ADR Schlagerbooom 2019. Sus últimos actos fueron en 2020, una aparición en el programa Schlagerchampions 2020 y un espctáculo en la emisora MDR. En otoño de 2022 publicó su biografía Walking upright: My dissolute life.