Det ser ut som tid och väder har tvättat ut marken under de ursprungliga stegen. Det är svårt att berätta om dessa stenar läggs på en väsentlig grund, eller om hela saken bara lagts ned på marken.
Den billiga / smutsiga / snabba vägen skulle vara att skotta och packa smuts upp i det ihåliga utrymmet under steget, sedan planera området framför och lägga ner en eller flera stenar. Avsluta genom att "peka" mortel vid sömmen mellan stigande stenar och de nya platta stegen / stenarna som du just placerat. Denna metod kommer sannolikt att resultera i liknande misslyckande under ett par årstider.
Ett annat alternativ skulle vara att dra ut allt det skräpet under steget och packa betong upp under det och avsluta enligt ovan. Detta borde vara lite längre eftersom betongen kommer att lägga till styrka och motstå "tvätta ut" med regn och snö.
Den bästa långsiktiga lösningen skulle vara att helt slita ut det gamla steget, bilda och häll ett ordentligt konkret steg och landa, än binda nya stenar till betongen med mortel och avsluta genom att grouting ordentligt.