diff --git a/proposal.pdf b/proposal.pdf index 5adfa81..c4af889 100644 Binary files a/proposal.pdf and b/proposal.pdf differ diff --git a/text/03_method.tex b/text/03_method.tex index 15578ac..1deb46d 100644 --- a/text/03_method.tex +++ b/text/03_method.tex @@ -5,15 +5,40 @@ \section{系统模型} +\subsection{网络拓扑与业务场景} +如图~\ref{fig:system_model}所示,本文考虑一个由单接入点(AP)与 $N$ 个终端(STA)构成的边缘WiFi推理网络。视觉语言模型(VLM)或视觉语言动作模型(VLA)部署于AP侧,各STA通过WiFi链路向AP发起实时视频推理请求,形成"终端采集—无线传输—边缘推理—结果返回"的闭环服务链路。为模拟不同程度的网络拥塞,本文将在后续实验中引入WiFi同频干扰作为背景流量,以构造从轻载到重载的多种无线信道条件。 \begin{figure}[!h] \centering \includegraphics[width=0.6\linewidth]{figure/毕业论文-系统场景.pdf} - \caption{面向实时视觉模型推理的WebRTC–Wi-Fi联合优化系统模型} + \caption{研究场景} \label{fig:system_model} \end{figure} +\subsection{基本假设} + +为聚焦核心问题,本文明确以下研究假设:(1)AP 具备充足的边缘算力以部署 VLM 或 VLA 模型,推理请求到达后立即置入模型 batch 中处理;(2)各 STA 部署有实时视频推理客户端,通过 WiFi 网络接入 AP,其中视频流采用 WebRTC 协议传输,任务请求与推理结果采用 WebSocket 协议传输;(3)WebRTC 内置的拥塞控制算法(如 GCC)根据网络状态动态调节视频编码码率——码率越低,视频压缩质量越差,同时码率选择也会反向影响 WiFi 上行队列的排队时延,形成传输质量与时延之间的耦合;(4)假设模型流式响应的每个chunk中只包含一个token。 + +\subsection{通信与推理流程} + +在上述假设下,一次完整的实时视觉推理请求经历以下阶段:首先,终端通过 WebRTC 持续上传实时视频流,在需要服务时,终端通过 WebSocket 向 AP 发送文本形式的任务请求;同时;AP 在收到请求时,采样最近的视频帧,并调用已部署的 VLM/VLA 模型进行在线推理;最后,模型以流式方式逐token生成响应,并通过 WebSocket 回传至请求终端,直至推理结束。 + +\subsection{核心性能指标} + +本文将视觉模型推理服务的用户体验质量(QoE)定义为\textbf{准确度}与\textbf{响应及时性}两个维度的综合度量。响应及时性由首 Token 响应时间(Time to First Token, TTFT)和 Token 间延迟(Inter-Token Latency, ITL)两个指标刻画。其中,TTFT 定义为从请求发出到终端收到首个 token的时间间隔,它同时涵盖了上行传输、模型推理和下行传输三个环节,是反映端到端响应速度的综合指标。ITL 定义为相邻两次 token(或 chunk)到达终端的时间间隔,反映模型输出的流畅程度。由于模型以 chunk 方式批量输出,ITL 同时受到模型生成速度和下行批量发送行为的双重影响,难以简单拆分为推理时延与传输时延。为全面刻画 ITL 的分布特征,本文不仅关注 ITL 的均值,也关注其高分位数(如 $P_{90}$、$P_{95}$),以捕捉影响交互连贯性的尾部延迟。 + +准确度方面,模型推理的准确度衡量输出结果与真实期望的吻合程度,其具体计算方法因任务类型而异(例如具身智能中的任务成功率、视频问答中的答案正确率等),后续研究将分别定义。 + +\subsection{优化问题描述} + +综合上述分析,本文的核心研究问题可表述为:在单 AP、多 STA 的 WiFi 网络环境中,通过协同调节 WebRTC 层的传输策略(码率、FEC 冗余率、帧率、分辨率等)与 WiFi MAC 层的调度策略(队列优先级、过期帧清理阈值等),最大化视觉模型推理服务的综合 QoE。该优化问题可概括为: + +\begin{equation} + \max_{\pi}\ \mathbb{E}\left[\,\mathcal{Q}\big(Acc,\ TTFT,\ \overline{ITL},\ P_{95}(ITL)\big)\,\right] +\end{equation} + +其中 $\pi$ 表示跨层协同控制策略,$\mathcal{Q}(\cdot)$ 为准确度与及时性指标的效用聚合函数。后续章节将围绕该目标,依次开展仿真平台构建、跨层关联分析和联合优化方法设计等工作。 \section{面向实时视觉模型业务的闭环联合仿真平台}