黄菖蒲是多年生草本植物，植株基部围有少量老叶残留的纤维。根状茎粗壮，直径可达2.5厘米，斜伸，节明显，黄褐色；须根黄白色，有皱缩的横纹。基生叶灰绿色，宽剑形，长40-60厘米，宽1.5-3厘米，顶端渐尖，基部鞘状，色淡，中脉较明显。

花茎粗壮，高60-70厘米，直径4-6毫米，有明显的纵棱，上部分枝，茎生叶比基生叶短而窄；苞片3-4枚，膜质，绿色，披针形，长6.5-8.5厘米，宽1.5-2厘米，顶端渐尖；花黄色，直径10-11厘米；花梗长5-5.5厘米；花被管长1.5厘米，外花被裂片卵圆形或倒卵形，长约7厘米，宽4.5-5厘米，爪部狭楔形，下陷呈沟状，有黑褐色的条纹，内花被裂片较小，倒披针形，直立，长2.7厘米，宽约5毫米；雄蕊长约3厘米，花丝黄白色，花药黑紫色；花柱分枝淡黄色，长约4.5厘米，宽约1.2厘米，顶端裂片半圆形，边缘有疏牙齿，子房绿色，三棱状柱形，长约2.5厘米，直径约5毫米。花期5月、果实期6-8月。