De Penning-huizen liggen in de Lütticher Straße, niet ver van de ingang van de Casinovijver. De twee steengroevestenen huizen hebben hun naam te danken aan de smid Willem Anton Pennings die hier ooit gewoond heeft. Ze behoren tot de oudste bewaard gebleven huizen in Kelmis. Het hoekhuis van steengroevezandsteen is in 1776 gebouwd door Pennings en zijn vrouw Anne Barbe Groenenschild. Het is gemakkelijk te herkennen aan de kalkstenen vensterranden. Een gedateerde wigsteen bevindt zich links van de gevel als bovendorpel en draagt het opschrift: 'A.0 1776/I.W.A.P./A.B.G.' (Willem Anton Pennings-Anne Barbe Groenenschild, smid bij het bedrijf Altenberg). Op de gevel is er een schelpenniche met een voorstelling van Christus aan het kruis. Het tweede huis is in de 19e eeuw gebouwd uit steengroevekalksteen en was waarschijnlijk oorspronkelijk een stal.