很多古菌是生存在极端环境中的。一些生存在极高的温度（经常100℃以上）下，比如间歇泉或者海底黑烟囱中。还有的生存在很冷的环境或者高盐、强酸或强碱性的水中。然而也有些古菌是嗜中性的，能够在沼泽、废水和土壤中被发现。很多产甲烷的古菌生存在动物的消化道中，如反刍动物、白蚁或者人类。古菌通常对其它生物无害，且未知有致病古菌。
单个古菌细胞直径在0.1到15微米之间，有一些种类形成细胞团簇或者纤维，长度可达200微米。它们可有各种形状，如球形、杆形、螺旋形、叶状或方形。它们具有多种代谢类型。值得注意的是，盐杆菌可以利用光能制造ATP，尽管古菌不能像其他利用光能的生物一样利用电子链传导实现光合作用。
