退伍军人安置工作后，单位不可以随时辞退，必须有法定的理由才可以辞退
根据国务院发布的《国营企业辞退违纪职工暂行规定》（国发[1986]77号）第2条规定，企业对有下列行为之一，经过教育或行政处分仍然无效的职工，可以辞退：
（1）严重违犯劳动纪律，影响生产、工作秩序的。
（2）违反操作规程，损坏设备、工具，浪费原材料、能源，造成经济损失的。
（3）服务态度很差，经常与顾客吵架或损害消费者利益的。
（4）不服从正常调动的。
（5）贪污、盗窃、赌博、营私舞弊，不够刑事处分的。
（6）无理取闹，打架斗殴，严重影响社会秩序的。
（7）犯有其他严重错误的。
符合除名、开除条件的职工，按照《企业职工奖惩条例》的规定执行。