本罪的客观方面表现为伪造、擅自制造或者出售伪造、擅自制造的用于出口退税、抵扣税款的其他发票的行为。
1、非法制造用于骗取出口退税、抵扣税款的发票。根据《发票管理办法》[2]  的规定：发票必须是由防伪专用品制成，并套印全国统一发票监制章才有效。因此，非法制造用于骗取出口退税、抵扣税款发票的，当然也就包括非法制造用于制作该发票的防伪专用品及套印在其上面的发票监制章，非法制造该类发票的，又有二种具体行为方式：一是伪造；二是擅自制造。
伪造，是指无权印制增值税专用发票之外的其他具有出口退税、抵扣税款功能的发票的人仿照真实的该类发票的式样，非法制造假发票，冒充真发票的行为。具体表现是:按照该类真发票的联次、内容、版面排列、规格、色彩、图案等，使用印刷、复印、描绘、拓印等各种方法印制假发票。伪造该类发票，除了要将发票本身制成和真发票一样之外，还必须使用上述各种制假方法伪造发票监制章、防伪水印、紫外线防伪措施等。
擅自制造，是指印制发票企业或生产发票防伪专用品企业未经有关主管税务机关批准，私自印制发票或私自制造防伪专用品，或虽经批准，但未按发票印制通知书或发票防伪专用品生产通知书所规定的印制数量或生产产量，私自超量加印或制造的行为。
擅自制造与伪造的不同主要在于：
第一，行为人不同，前者为印制发票企业或生产防伪专用品企业；后者为任何人。
第二，所制成的发票效力不同。前者制成的发票是真实有效的；后者制成的发票是虚假无效的。但无论是伪造还是擅自制造，均是非法制造的行为。
2、出售非法制造的用于骗取出退税、抵扣税款的发票。出售，是指以一定的价格将非法制造的用于骗取出口退税、抵扣税款的发票卖出的行为。有金钱交易、转移所有权是基本特征。因此，那些无金钱交易、不转移所有权的行为，如租用、转让、赠与等，就不能算是出售，因而也就不能构成本罪。出售的方法不限于私下成交，公开叫卖、大声吆喝、走街串巷、拦截强卖均可。出售的方式也不限于买卖双方直接会面，邮寄、托运、托带均可。出售非法制造的发票必须以占有该非法制造的发票为前提，其来源有二：一是自己伪造、擅自制造的；二是他人伪造、擅自制造的。后一种发票主要是通过盗窃、骗取、买入等手段获得的。出售的发票不限于假发票，真发票也可，如擅自制造的发票，尽管其擅自制造的行为是违法的，但其制造出来的发票却是真实有效的。
本罪是选择性罪名，实施伪造、擅自制造或出售任一行为的，均构成本罪，既实施伪造、擅自制造，又实施出售行为的，构成一罪，不实行数罪并罚。
根据最高人民法院《关于适用〈全国人民代表大会常务委员会关于惩治虚开、伪造和非法出售增值税专用发票犯罪的决定〉的若干问题的解释》的规定，伪造、擅自制造或者出售伪造、擅自制造的可以用于骗取出口退税、抵扣税款的其他发票50份以上的，应当依法定罪处罚。在没有新的司法解释前，应以此作为量刑起点。