上图为应用场景当发生灾难灾区附近基站损坏无法将灾区情况传输到地面站可以使用多台无人机进行协同通信-计算。系统的步骤大致如下1状态监控包括 ssdp 发现和心跳保持。2轻量级时延推理预测是调度器整合当前通信状态各个节点状态以及模型分层结构分析预测出来各个簇各个节点的推理时延。3启动 eclb 簇间协同调度将模型分段给不同的簇每一段包括模型的几层至于分多少层分给谁这是调度器通过第二部已经预测出来了。然后在簇内通过 iclb 将数据发给不同的节点每个节点发多少这也是由第二部调度器预测得到。如果分发资源分配过程中或者推理过程中有节点掉线那么会使用 es 收回它的任务重新使用 eclb 和 iclb 将这部分的任务分配。4数据集来自于 pytorch 随机生成的 50100 个张量图像数据其实就相当于这么多张 rgb 图像。一个簇头获取数据之后簇间开始流水线处理不同段的模型推理簇内由簇头给成员分发数据分片各节点并行进行推理最后由簇头整合。5在上一个簇推理完了之后会通过流水线的方式发给下一个簇。簇间为了节省资源还是用了自适应压缩也就是根据当前的实时网络等状况改变压缩比如果网络好那么就压缩比大一些保证好的实时性如果网络不好那么压缩比小一些保证推理精度。发送方会压缩接收方收到了会逆向的进行解压缩。
