Después de la ruptura de Xavier Naidoo el grupo se mantuvo sin movimiento. Tiempo después en el 2000 salió su primer álbum de estudio Zion, que contenía además del sencillo Geh davon aus otros hits de la banda. Después de diversos proyectos individuales de los miembros de la banda, estos se reencontraron en el estudio de grabación para registrar el álbum Noiz. Su segundo hit exitoso fue Und wenn ein Lied, con el cual obtuvieron en invierno de 2005 el segundo puesto en las listas de música de Alemania. De sus conciertos salió además un álbum en vivo llamado Power of the Sound. El 12 de junio de 2007 la banda salió de gira por clubes en Europa comenzando en Bélgica y terminando en Bielefeld, Alemania. Durante la tanda de conciertos la banda presento inclusive algunas canciones de el entonces planeado álbum Iz On. Las entradas para sus conciertos en Alemania, Austria y Suiza se agotaron completamente. El 10 de marzo de 2007 los Sohne Mannheims dieron nuevamente 6 conciertos en Alemania bajo el título Zwischenraume - Zweiklang im Einklang con la Orquesta sinfónica del SWR. Finalizaron con el concierto en su ciudad natal Mannheim el 17 de marzo de 2007.

La banda toca en distintos estilos musicales para que no sea posible clasificarlos en una única categoría o género musical. Ellos hacen soul, gospel, reggae, rock y baladas. El álbum Noiz contiene una versión a cappella del Padre Nuestro. Muchas de sus canciones contienen mensajes religiosos.

En el 2007 lanzaron el álbum Sohne, Mond und Sterne (esp. Hijos, luna y estrellas). En este ensamblado cada miembro de la banda aportó una canción propia. La intención fue mostrar cuantos estilos musicales realmente ellos representan.

Su nuevo álbum Iz On con el estilo acostumbrado salió el 10 de julio de 2009. Algunas de las canciones que el álbum contiene habían sido previamente depuradas durante su gira en el 2007 y en los conciertos y festivales del 2008. El lanzamiento del álbum había sido planeado para el 2008, pero fue aplazada debido a la grabación de su MTV Unplugged. El concierto Wettsingen in Schwetzingen fue grabado en el Teatro Rokoko del castillo de Schwetzingen, Alemania. En septiembre salió el álbum doble, y en octubre el DVD doble.

En agosto de 2008 la banda ascendió al primer lugar de los charts alemanes con su sencillo Das hat die Welt noch nicht gesehen(esp. Eso no lo ha visto el mundo todavía), una canción que habla sobre la invisibilidad del amor, y que a pesar de eso es algo muy bello y preciado.