首先，需要明确“林地”与“非林地”的定义。林地是指用于发展林业的土地，包括有林地、灌木林地、未成林造林地、宜林地等。而非林地则是指不属于上述范围的土地，如耕地、草地、建设用地等。
对于非林地上的林木，是否需要办理砍伐证，应视具体情况而定：
1. **如果林木属于个人或单位所有，且位于非林地上**，在进行砍伐前，通常仍需向当地林业主管部门申请采伐许可证。这是因为即使林木生长在非林地上，其所有权仍然受到法律保护，随意砍伐可能破坏生态环境或影响公共利益。
2. **如果林木是自然生长在非林地上的野生树木**，如道路两侧、河岸、荒地等，一般情况下不需要办理砍伐证，但不得擅自大规模砍伐，以免破坏生态平衡。
3. **如果林木是种植在非林地上的经济林或观赏树**，如果园、苗圃、庭院绿化等，原则上也属于林木范畴，应按照规定办理采伐手续。
4. **特殊情况**：如因工程建设、自然灾害等原因必须砍伐林木，无论是否在林地上，都应当依法办理相关审批手续，并采取相应的补种措施。
综上所述，非林地上的林木并非一律不需要办理砍伐证。是否需要办理，取决于林木的性质、用途以及所在地的法律规定。建议在进行任何砍伐行为前，咨询当地林业主管部门，了解具体政策和操作流程，避免因违法采伐而受到处罚。