煤基活性炭的原子结构是一种含石墨微晶的乱层结构。所谓石墨微晶乱层结构是类似于石墨的二向结构，单其结构和石墨有所不同，平行的层片对于它们的共同的垂直轴并不是完全定向的，各平面不规则地相互重叠，从而形成乱层排列结构 。最常见的基本微晶约由3~4个平行的石墨层片组成，它的直径约为一个碳的六角体宽度的9倍，基本微晶的大小常由于活化或者炭化温度的升高而增大。石墨状微晶间的空隙构成了孔隙，各微晶大小不等，微晶结构并不均匀，由此赋予了活性炭宏观上的吸附能力。此外，活性炭的构成元素除碳外，还有氮、氧、氢等其他元素，它们以表面官能团的形态存在，因而导致活性炭具有不同的表面化学性质。    

      煤基活性炭所含的化学元素中的80％~90％以上是碳，这也是活性炭作为疏水性吸附剂的原因。此外还包含有两类其他元素；一类是化学结合的元素，主要是氧和氢，这类元素是由于原料未完全炭化而残留在炭中，或者在活化过重中，外来的非碳元素与炭表面化学结合，如用水蒸气活化时，炭表面被氧化或水蒸气氧化；另一类是灰分，主要来源于原料煤中所含的SiO₂ 、Al₂O₃等灰分，它是活性炭的无机部分。