Pietrele conglomerate sunt formate prin procesul rocilor sedimentare, care sunt: eroziune, transport, depunere și cimentare. Două caracteristici caracteristice ale rocilor conglomerate sunt că particulele sedimentare sau clasturile sunt mai mari de 2 milimetri în dimensiune, iar clasturile sunt rotunjite în aspect. Pietrele sedimentare cu clase unghiulare se disting de conglomerate și se numesc breccias.
Conglomeratele, ca și alte roci sedimentare, se formează din detritusul rocilor sursă, care rezultă din intemperii și eroziune. Pe măsură ce bucățile de rocă sursă dispar, ele sunt transportate în alte locuri unde sunt depozitate în straturi. În cazul conglomeratelor, transportul prin apă determină clasele să-și asume forma lor rotunjită. Pe măsură ce straturile sedimentare se adună în stadiul procesului de formare numit depunere, presiunea compactează straturile inferioare.
Stadiul final al procesului este cimentarea. Aceasta se referă la dezvoltarea de minerale noi între particulele sedimentare stratificate și compacte. Aceste noi creșteri minerale leagă particulele împreună. Procesul este ajutat de apa care intră prin porii din straturile sedimentare și depozitează minerale, cum ar fi carbonatul de calciu sau silicele, între particule. Precipitațiile provenite din apă acționează ca și cimentul și diminuează, de asemenea, porozitatea sau gradul de spațiu deschis între particulele sedimentare până la formarea unei noi stări întărite.