添加系统模型
This commit is contained in:
Binary file not shown.
+26
-1
@@ -5,15 +5,40 @@
|
||||
|
||||
\section{系统模型}
|
||||
|
||||
\subsection{网络拓扑与业务场景}
|
||||
|
||||
如图~\ref{fig:system_model}所示,本文考虑一个由单接入点(AP)与 $N$ 个终端(STA)构成的边缘WiFi推理网络。视觉语言模型(VLM)或视觉语言动作模型(VLA)部署于AP侧,各STA通过WiFi链路向AP发起实时视频推理请求,形成"终端采集—无线传输—边缘推理—结果返回"的闭环服务链路。为模拟不同程度的网络拥塞,本文将在后续实验中引入WiFi同频干扰作为背景流量,以构造从轻载到重载的多种无线信道条件。
|
||||
|
||||
\begin{figure}[!h]
|
||||
\centering
|
||||
\includegraphics[width=0.6\linewidth]{figure/毕业论文-系统场景.pdf}
|
||||
\caption{面向实时视觉模型推理的WebRTC–Wi-Fi联合优化系统模型}
|
||||
\caption{研究场景}
|
||||
\label{fig:system_model}
|
||||
\end{figure}
|
||||
|
||||
\subsection{基本假设}
|
||||
|
||||
为聚焦核心问题,本文明确以下研究假设:(1)AP 具备充足的边缘算力以部署 VLM 或 VLA 模型,推理请求到达后立即置入模型 batch 中处理;(2)各 STA 部署有实时视频推理客户端,通过 WiFi 网络接入 AP,其中视频流采用 WebRTC 协议传输,任务请求与推理结果采用 WebSocket 协议传输;(3)WebRTC 内置的拥塞控制算法(如 GCC)根据网络状态动态调节视频编码码率——码率越低,视频压缩质量越差,同时码率选择也会反向影响 WiFi 上行队列的排队时延,形成传输质量与时延之间的耦合;(4)假设模型流式响应的每个chunk中只包含一个token。
|
||||
|
||||
\subsection{通信与推理流程}
|
||||
|
||||
在上述假设下,一次完整的实时视觉推理请求经历以下阶段:首先,终端通过 WebRTC 持续上传实时视频流,在需要服务时,终端通过 WebSocket 向 AP 发送文本形式的任务请求;同时;AP 在收到请求时,采样最近的视频帧,并调用已部署的 VLM/VLA 模型进行在线推理;最后,模型以流式方式逐token生成响应,并通过 WebSocket 回传至请求终端,直至推理结束。
|
||||
|
||||
\subsection{核心性能指标}
|
||||
|
||||
本文将视觉模型推理服务的用户体验质量(QoE)定义为\textbf{准确度}与\textbf{响应及时性}两个维度的综合度量。响应及时性由首 Token 响应时间(Time to First Token, TTFT)和 Token 间延迟(Inter-Token Latency, ITL)两个指标刻画。其中,TTFT 定义为从请求发出到终端收到首个 token的时间间隔,它同时涵盖了上行传输、模型推理和下行传输三个环节,是反映端到端响应速度的综合指标。ITL 定义为相邻两次 token(或 chunk)到达终端的时间间隔,反映模型输出的流畅程度。由于模型以 chunk 方式批量输出,ITL 同时受到模型生成速度和下行批量发送行为的双重影响,难以简单拆分为推理时延与传输时延。为全面刻画 ITL 的分布特征,本文不仅关注 ITL 的均值,也关注其高分位数(如 $P_{90}$、$P_{95}$),以捕捉影响交互连贯性的尾部延迟。
|
||||
|
||||
准确度方面,模型推理的准确度衡量输出结果与真实期望的吻合程度,其具体计算方法因任务类型而异(例如具身智能中的任务成功率、视频问答中的答案正确率等),后续研究将分别定义。
|
||||
|
||||
\subsection{优化问题描述}
|
||||
|
||||
综合上述分析,本文的核心研究问题可表述为:在单 AP、多 STA 的 WiFi 网络环境中,通过协同调节 WebRTC 层的传输策略(码率、FEC 冗余率、帧率、分辨率等)与 WiFi MAC 层的调度策略(队列优先级、过期帧清理阈值等),最大化视觉模型推理服务的综合 QoE。该优化问题可概括为:
|
||||
|
||||
\begin{equation}
|
||||
\max_{\pi}\ \mathbb{E}\left[\,\mathcal{Q}\big(Acc,\ TTFT,\ \overline{ITL},\ P_{95}(ITL)\big)\,\right]
|
||||
\end{equation}
|
||||
|
||||
其中 $\pi$ 表示跨层协同控制策略,$\mathcal{Q}(\cdot)$ 为准确度与及时性指标的效用聚合函数。后续章节将围绕该目标,依次开展仿真平台构建、跨层关联分析和联合优化方法设计等工作。
|
||||
|
||||
|
||||
\section{面向实时视觉模型业务的闭环联合仿真平台}
|
||||
|
||||
Reference in New Issue
Block a user