Das Wohnhaus einer Großfamilie mit dem typischen sattelförmigen (Toba) bzw. pyramidenförmigen (Karo) Dach wird traditionell mit Fibern der Zuckerpalme oder Holzschindeln gedeckt. Über eine steile Treppe gelangt man ins dunkle Innere mit einer oder mehreren Koch- und Feuerstellen. Während früher mehrere Kleinfamilien ohne Privatraum lebten, sind die Innenräume heute durch Wände unterteilt. Die drei Etagen des Baus repräsentieren den Kosmos: Die Wohnebene auf Pfählen über dem Erdboden symbolisiert die Lebenswelt der Menschen. Unterhalb werden zwischen den Pfählen die Tiere gehalten. Das hohe Dach, in dem sich Vorräte und Opferaltäre befinden, repräsentiert die Sphäre der Geister und Ahnen. Bei den Karo-Batak werden die Spitzen der Dachgiebel von stilisierten Büffelhörnern gekrönt. In die Außenwände, besonders die Vorderseiten, sind Ornamente geschnitzt. Diese geometrischen Muster und stilisierten Darstellungen von Mensch und Tier werden bei den Toba-Batak mit weißer, rostbrauner und schwarzer Farbe bemalt, gemäß der o. g. Dreiteilung der Welt. Die Schnitzereien sollen vor bösen Geistern schützen sowie Krankheit und Unglück abhalten. Die alten Dörfer am Toba-See waren oft von hohen Erdwällen umgeben und nur durch ein schmales Tor zugänglich. Wohnhäuser, Versammlungshaus (Bale) und Reisspeicher (Sopo, Sapo) umgaben einen zentralen Platz, den Alaman. Im Karo-Hochland existieren nicht einmal mehr zwei Dutzend traditionelle Häuser, meist in schlechtem Zustand, z. B. in Lingga und Dokan.