Группа была основана гитаристом Рихардом Круспе эмигрантом из ГДР после его возвращения на родину в город Шверин. Все члены группы из бывшей Германской Демократической Республики в частности Восточного Берлина и Шверина. Круспе является основным композитором группы. В 1994 году вместе с Тилем Линдеманном вокал Оливером Риделем басгитара и Кристофом Шнайдером ударные они выиграли конкурс в Берлине получив право записи на профессиональной студии. Годом позже к группе присоединился второй гитарист Пауль Ландерс а затем и клавишник Кристиан Лоренц.Название группы было составлено из слов Ramm таран и Stein камень и одновременно отсылает к названию города РамштайнМизенбах где на военной базе НАТО во время авиашоу в 1988 году произошла авария со множеством жертв. Об этой аварии рассказывает одноимённая городу но не группе песня Rammstein