Основой альпийской горки является камень, поэтому к нему предъявляются особые требования. Он выполняет не только функцию декора для растений, но создает своеобразную сферу для их обитания. Камни дренируют и подщелачивают почву, аккумулируют влагу для корней, создают прохладу для надземной части растений, а ночью, наоборот, отдают накопленное за день тепло.
Желательно, чтобы камень был однородным по происхождению, лучше не смешивать минералы различного вида и свойств - рокарий может превратиться в бессмысленную свалку камней вместо уголка гористой природы. Если же не удается найти одинаковый камень, то хотя бы объедините камни одинаковых горных пород в группы, сложите из них отдельные участки горки или разноуровневые склоны из разных групп камней.
При выборе камня лучше ориентироваться на местный природный материал, что разумнее и дешевле. Камень лучше привозить с 50%-процентным запасом, чтобы при укладке горки иметь свободу выбора. Округлых, правильных камней одинаковой величины лучше избегать - создать из них природное сооружение будет трудно. Наиболее известные в Украине горные породы - граниты, известняки и песчаники. Гранит - прекрасный декоративный, но тяжелый и “холодный” камень. Почва рядом с ним легко закисляется. К тому же, часто гранитные валуны имеют разнообразную окраску, поэтому отобрать для горки материал сложно, альпинарий может получиться пестрым и неестественным.
Известняки залегают неглубоко и выходят на поверхность по руслам рек, отчего глыбы часто покрыты мхом, они живописны и гармонируют с любыми растениями. Однако известняк недолговечен, легко выветривается и распадается на отдельные плиты. Лучший источник природного материала для альпинария - песчаники. Они слабо метаморфизованы и легко поддаются обработке металлическими инструментами, поэтому песчанику легко придать нужную форму. Альпийские растения прекрасно уживаются с песчаниками и известняками, ведь они нейтрализуют кислую почву, а подавляющее большинство растений для горок предпочитает присутствие извести (обриета, прострел, колокольчики, гвоздики и др.)