Selain melihat nisan-nisan pemakaman dari berbagai tokoh di jaman “baheula”, di kompleks Museum Taman Prasasti juga terdapat koleksi kereta kuda yang ditempatkan pada sebuah bangunan khusus namun tidak berdinding sehingga pengunjung bisa melihat dari dekat bentuk dan desain kereta kuda tersebut.
Terdapat 3 (tiga) unit kereta kuda yang tersimpan sebagai koleksi Museum Taman Prasasti, satu di antaranya adalah kereta kuda yang dijadikan sebagai kereta pembawa peti jenazah peninggalan jaman kolonialisme Hindia-Belanda. Pada body kereta kuno itu tertulis buatan Batesville Casket Company Inc. yang berbasis di Indiana, Amerika. Perusahaan yang mengkhususkan diri pada pembuatan produk pemakaman itu sudah eksis sejak tahun 1884 ketika Batesville Coffin Company didirikan. Pada tahun 1906, John A Hillenbrand membeli Batesville Coffin Company lalu mengganti nama perusahaan itu menjadi Batesville Casket Company. John A Hillenbrand berhasil menjadikan perusahaannya sebagai market leader produsen peti mati kayu di dunia.
Sementara 2 (dua) kereta lainnya merupakan pemberian Presiden RI, Jokowi (Joko Widodo) yang pernah dipakai dalam event bertajuk Kereta Kencana World Music Festival tanggal 4 Juli 2012 di Karanganyar, Jawa Tengah. Kereta kuda tersebut dibuat oleh H. Anwar Muhtadi, seorang pengrajin kereta kuda di Solo, Jawa Tengah.