如果非法经营行为被当场抓获，相关部门可以对其进行行政处罚，包括责令停业整顿、罚款等措施。同时，如果涉嫌犯罪，将移交公安机关依法处理。

【法律解析】

非法经营是指未经许可、登记或者备案，私自从事或者组织他人从事涉及国家管理的各种业务活动，且行为情节达到一定程度的不法行为。如果该行为被相关部门当场发现和抓获，可以对其进行行政处罚。具体行政处罚措施包括：责令停业整顿、没收违法所得、罚款等，在情节严重的情况下还可能吊销营业执照。同时，对于非法经营行为造成的损失，相关部门还要进行赔偿或者追缴违法所得等。值得注意的是，如果非法经营行为涉嫌犯罪，相关部门会移交公安机关依法处理。非法经营可能涉及到盗窃、诈骗、敲诈勒索、危害公共安全等罪名，如果被定罪，将面临刑事处罚，包括、或者等。总之，非法经营行为被当场抓获后，相关部门可以对其进行行政处罚，包括责令停业整顿、罚款等措施。但如果涉嫌犯罪，则会移交公安机关依法处理。建议广大市民要自觉遵守法律法规，不要从事非法经营活动，否则将承担相应的法律责任。

【法律依据】

《中华人民共和国》第二百二十五条　【】违反国家规定，有下列非法经营行为之一，扰乱市场秩序，情节严重的，处五年以下有期徒刑或者拘役，并处或者单处违法所得一倍以上五倍以下罚金;情节特别严重的，处五年以上有期徒刑，并处违法所得一倍以上五倍以下罚金或者：
(一)未经许可经营法律、行政法规规定的专营、专卖物品或者其他限制买卖的物品的;
(二)买卖进出口许可证、进出口原产地证明以及其他法律、行政法规规定的经营许可证或者批准文件的;
(三)未经国家有关主管部门批准非法经营证券、期货、保险业务的，或者非法从事资金支付结算业务的;
(四)其他严重扰乱市场秩序的非法经营行为。