กาบอ้อยเป็นไม้ต้น สูงได้ถึง ๔๕ ม. โคนต้นมักมีพอน
ใบประกอบแบบขนนกปลายคู่ ก้านใบยาว ๓-๑๘ ซม. มีใบย่อย ๒-๔ คู่ รูปไข่ถึงรูปขอบขนาน กว้าง ๓-๖ ซม. ยาว ๗-๑๕ ซม. แผ่นใบแข็ง บาง เกลี้ยง หรือมีขนตามเส้นกลางใบด้านล่าง ปลายเป็นติ่งแหลม โคนมนหรือเป็นรูปลิ่ม เส้นกลางใบนูนเด่นชัดทั้ง ๒ ด้าน เส้นแขนงใบข้างละ ๑๐-๑๕ เส้น ปลายโค้งจรดกันใกล้ขอบใบ เส้นใบย่อยแบบเส้นร่างแหกึ่งเส้น ขั้นบันได ด้านล่างของใบแห้งสีน้ำตาล ก้านใบย่อยยาว ๑-๒
ดอกแยกเพศต่างต้น ออกเป็นช่อแยกแขนงตามง่ามใบหรือค่อนไปทางปลายกิ่ง มีขนสั้นหนานุ่มสีน้ำตาลแดงเมื่ออ่อน ต่อมาจะเกลี้ยง ช่อดอกเพศเมียยาว ๑๐-๑๕ ซม. ช่อดอกย่อยยาว ๒-๕ ซม. ช่อดอกเพศผู้ยาวได้ถึง ๒๕ ซม. กิ่งย่อยยาวถึง ๑๒ ซม. ดอกเล็ก สีเขียวอ่อนเกือบขาว ยาว ๒-๓ มม. มีขนสั้นหนานุ่มสีน้ำตาลแดง วงกลีบดอกมีวงละ ๓ กลีบ กลีบดอกเรียงจรดกัน กลีบเลี้ยงเชื่อมติดกันเป็นรูปถ้วย กลีบรูปสามเหลี่ยม ยาว ๑-๒ มม. ในดอกเพศเมียยาวกว่าเล็กน้อยกลีบดอกมีขนสั้นหนานุ่มทางด้านนอก ด้านในมีขนยาวยกเว้นที่โคนกลีบ เกสรเพศผู้มี ๖ อัน เชื่อมกับจานฐานดอกจานฐานดอกรูปถ้วย รังไข่อยู่เหนือวงกลีบ มี ๓ ช่อง ยอดเกสรเพศเมียกลมไร้ก้าน เกสรเพศเมียในดอกเพศผู้เล็กมาก
ผลแบบผลเมล็ดเดียวแข็ง ผลผนังสด หนา สีเขียวเข้มเจริญเพียงช่องเดียวเป็นเมล็ด เมล็ดกลมรีหรือรูปขอบขนาน เบี้ยวเล็กน้อย แข็ง ค่อนข้างเกลี้ยง กว้าง ๑-๑.๒ ซม. ยาวประมาณ ๑.๕ ซม.
กาบอ้อยมีการกระจายพันธุ์ตามป่าดิบชื้นที่ลุ่มต่ำ และป่าพรุทางภาคใต้ พบที่ จ. นราธิวาส ในต่างประเทศพบที่คาบสมุทรมาเลเซีย เกาะสุมาตรา เกาะบอร์เนียว และฟิลิปปินส์ออกดอกเดือนมีนาคม ผลแก่เดือนพฤจิกายน.