岗 位职责 1.负责 大模型(LLM/VLA)在机器人边缘计算平台(如 NVIDIA Orin、Jetson、X86+GPU)的推理部署与性能 优化，包括模型转换、剪枝、量化(INT8/FP4)、算子 融合等。 2.设计并实现高效的⼤模型服务化架构，⽀持云端与边 缘端推理的弹性调度，保障机器⼈实时任务(如对话、任 务规划)的低延迟响应。 3.研发模型推理引擎的C++/Python接口，与机器人软 件栈(ROS 2)无缝集成，实现多态输⼊(视觉、语 音、状态)与模型输出的端到端通信。 4.优化显存占用与推理吞吐，解决大模型在资源受限设 备上的内存墙、带宽瓶颈问题，探索投机采样、KV Cach e、PagedAttention等加速技术 5.搭建模型性能评测体系，监控延迟、吞吐、功耗等核 心指标，持续迭代部署方案。 6.跟进前沿模型部署工具链(TensorRT-LLM、VLLM、L MDeploy、ONNX Runtime等)，并推动在机器人场最 的落地。
工作地址
苏州吴中区苏州市城南科技产业园55
招聘状态、薪资与职责可能发生变化。这里保留 2026-11-09 的采集原文，当前信息请以来源页面为准。