在上海，货运车辆的通行证需要按照以下步骤进行申请：
1. 准备材料：你需要提供有效的身份证、驾驶证、行驶证、车辆照片以及单位介绍信或营业执照副本等材料。
2. 填写申请表：到上海市交通委员会的官方网站下载并填写《上海市道路货物运输证申请表》和《上海市道路危险货物道路运输证申请表》。
3. 提交申请：将准备好的材料和填写好的申请表一起提交到你所在区的运管处或者行政服务中心的交通窗口。
4. 审核与发证：提交申请后，相关部门会对你的申请材料进行审核。审核通过后，你就会收到货运通行证。
需要注意的是，不同类型的货运车辆和不同的区域可能会有不同的规定和要求，所以在申请前最好先咨询一下相关部门。