English translation pending — this page shows the Chinese original.
Current view
3D Gaussian Splatting: Representation, Optimization, Geometry, and Dynamic Scenes
3DGS 入门与研究地图:它是什么、55 篇正式论文分别在改进什么、新手可以从哪里开始做研究。
Reading path
- ProblemDefine task and evidence boundary
- MethodsCompare families and design choices
- EvidenceReturn to papers and searchable text
- Open questionsTrack unresolved tensions
Method family map
From problem definition to verifiable system capability
三分钟摘要
- 它是什么:三维高斯泼溅(3D Gaussian Splatting,3DGS)用几十万到几百万个半透明、带颜色的“椭球小斑点”拼出一个三维场景。给它一组拍好的照片和相机位置,它会调整这些斑点,直到从任何角度“拍”出来的图都和真实照片一致。
- 为什么火:训练好之后渲染极快,可以实时在新视角下看场景。原始 3DGS 在标准数据集上达到每秒 134 帧,而此前的 NeRF 类方法远达不到实时。
- 大家在改进什么:主要有四条线。① 画质和几何更准;② 训练更快、模型更小;③ 少拍几张、甚至不给相机参数也能重建;④ 扩展到会动的场景、语义查询、物理模拟和编辑。
- 最重要的一条阅读提醒:本页数字都来自各论文自报,不同论文用的显卡、数据处理和训练步数都不一样。只在同一张表、同一条件下比较数字,不要跨论文排总榜。
- 证据阶段:本页基于 55 篇正式发表论文的全文(含明确标注版本的作者公开稿),阶段为
evidence_map(初步证据地图)。另有 44 篇候选论文待筛,#36 AnySplat 因出版社 PDF 权限受阻。逐篇细节见 逐篇证据矩阵。
先懂这几个词
| 术语 | 白话解释 |
|---|---|
| 高斯图元(Gaussian primitive) | 场景里的一个“椭球斑点”,有位置、形状、颜色和透明度 |
| 新视角合成(novel view synthesis) | 从没拍过的角度生成一张照片 |
| 相机内参 / 外参 | 内参是镜头本身的参数(焦距等);外参是相机在空间中的位置和朝向,也叫“位姿(pose)” |
| SfM(运动恢复结构) | 从一堆照片里反推相机位置和一批稀疏三维点,是 3DGS 的常用起点 |
| 逐场景优化(per-scene optimization) | 每个新场景都要单独训练几分钟到几十分钟 |
| 前馈重建(feed-forward) | 先用大量场景训练一个网络,遇到新场景时一次推理就输出高斯,通常不到一秒 |
| 增密 / 剪枝(densification / pruning) | 训练中增加或删除斑点,决定模型大小和细节 |
| 网格(mesh) | 用三角面片表示的物体表面,游戏和 CAD 常用;3DGS 本身不直接给出网格 |
指标怎么读
| 指标 | 含义 | 方向 | 大致量级 |
|---|---|---|---|
| PSNR | 渲染图和真实照片的像素相似度 | ↑ 越高越好 | 真实场景常见 20–30 |
| SSIM | 结构相似度 | ↑ 越高越好 | 0–1 |
| LPIPS | 人眼感知差异,越低越像真的 | ↓ 越低越好 | 0.1–0.4 常见 |
| FPS | 每秒渲染帧数 | ↑ 越高越好 | 30 以上可视为实时 |
| Chamfer 距离 | 重建表面和真实表面的平均距离 | ↓ 越低越好 | 与数据集尺度有关 |
| F1(几何) | 表面点在误差阈值内的准确率与完整度的综合 | ↑ 越高越好 | 0–1 |
| mIoU | 语义分割的平均重叠率 | ↑ 越高越好 | 0–100% |
| ATE | 相机轨迹误差 | ↓ 越低越好 | 厘米级 |
| FID / FVD | 生成图像 / 视频与真实数据的分布距离,不测真实形状 | ↓ 越低越好 | 随数据与评测协议变化 |
| TSED | 不同视角匹配点是否符合相机几何,不等于真实表面精度 | ↑ 越高越好 | 0–1 |
任务或系统流程
两种获得高斯的方式在哪里分开?
逐场景优化每个场景单独训练;前馈重建先在大量场景上训练网络,遇到新场景时直接预测。两者之后的渲染步骤相同。
- 输入多张照片 + 相机内外参;常用 SfM 同时得到一批稀疏三维点作为起点
- 得到高斯逐场景迭代优化并增密/剪枝,或用预训练网络一次预测
- 渲染传统路径按深度排序并叠加;随机路径用深度缓冲选择样本并平均,需控制噪声
- 评测画质和真实照片比 PSNR / SSIM / LPIPS,并记录速度
- 可选:提取表面需要网格时另外提取,并用真实表面测 Chamfer / F1
输入照片和相机参数,经 SfM 得到初始点;逐场景分支迭代优化高斯,前馈分支用预训练网络一次预测高斯;随后排序并混合渲染新视角图片;需要表面时再提取网格。
一句话理解传统渲染:每个高斯投到屏幕上是一个椭圆,从近到远叠加,前面的越不透明,后面的就越看不见。训练就是反复“渲染 → 和照片比 → 调整高斯”。详细数学见 3D Gaussian Splatting:从稀疏点到实时新视角渲染。
当前综合判断
1. “实时”只指训练完成后的渲染,训练和准备仍然要时间
为什么重要:新手容易以为 3DGS 什么都快。实际上它渲染快,但每个场景仍要训练几十分钟,模型文件也不小。
| 方法 | PSNR ↑ | SSIM ↑ | LPIPS ↓ | 渲染速度 ↑ | 模型大小 | 训练时间 |
|---|---|---|---|---|---|---|
| 原始 3DGS | 27.21 | 0.815 | 0.214 | 134 FPS | 734 MB | 41 分 33 秒 |
| Mip-NeRF 360(NeRF 类对照) | 27.69 | 0.792 | 0.237 | 0.06 FPS | — | — |
条件:Mip-NeRF 360 数据集,原始 3DGS 论文同一张表。怎么读:3DGS 的 PSNR 略低,SSIM 和 LPIPS 更好,渲染速度快两千多倍。来源:3D Gaussian Splatting:从稀疏点到实时新视角渲染。
2. 画面好看不等于几何准确
为什么重要:PSNR 高只说明照片像,表面可能是歪的。要做测量、CAD、机器人等需要真实形状的任务,必须另测几何。
| 方法 | 解决什么 | 结果 | 代价 |
|---|---|---|---|
| Mip-Splatting | 放大缩小时出现锯齿、发虚 | 跨尺度测试 PSNR 从 17.69 提到 28.67 | 同尺度下 LPIPS 没有优势 |
| 2DGS | 用扁平圆盘代替椭球,表面更准 | DTU 表面误差(Chamfer ↓)0.80,原 3DGS 为 1.96 | 画质 PSNR 34.52,低于原 3DGS 的 35.76 |
| CoMe | 从高斯提取更干净的网格 | Tanks and Temples 几何 F1 0.521,对照 SOF 0.474 | 仍低于用单目深度先验的 GeoSVR |
| MetroGS | 城市级大场景,多卡训练 | F1 0.585,对照 CityGSV2 0.544 | 需要 4 张卡和更多预处理 |
| EvaGaussians | 从运动模糊RGB加事件流重建静态场景 | 大场景平均PSNR ↑:23.86 → 26.02(对照BAD-GS) | 需额外事件传感器、EDI和COLMAP;真实场景没有清晰真值 |
怎么读:几何更准的方法往往牺牲一点画质;事件辅助可改善模糊输入的画质,真实形状仍需另测。选方法前先明确图像还是几何目标。
3. 训练与渲染提速依赖底座,还要检查画质代价
为什么重要:这个方向很拥挤,很多收益依赖工程底座。训练和渲染是不同环节,随机采样还会用画质换速度。
| 方法 | 训练时间 ↓ | PSNR ↑ | LPIPS ↓ |
|---|---|---|---|
| FastGS 基础版 | 1.93 分钟 | 27.56 | 0.261 |
| FastGS Big 版 | 3.58 分钟 | 27.93 | 0.216 |
| DashGaussian(对照) | 6.35 分钟 | 27.73 | 0.218 |
条件:Mip-NeRF 360,RTX 4090,FastGS 论文同一张表。怎么读:Big 版比对照快近一倍,画质持平;基础版更快,但 LPIPS 变高,细节更糊。
注意:FastGS 接到几何方法上后,几何 F1 从 0.57 降到 0.55。
其他几篇各自的“加速前 → 加速后”(不同显卡和数据,只看各行内部变化):
| 方法 | 做了什么 | 变化 | 代价 |
|---|---|---|---|
| Faster-GS | 重写优化器和反向传播 | 训练 18 分 44 秒 → 4 分 31 秒,PSNR 27.53 → 27.56 | 部分开关会增加显存 |
| Turbo-GS | 4K 训练时只采样部分像素 | 113 分钟 → 24 分钟,PSNR 26.75 → 26.80 | 模型 412 MB → 680 MB |
| Speedy-Splat | 精确计算覆盖区域并剪掉 90% 图元 | 渲染 134 → 898 FPS | LPIPS 0.222 → 0.296,画质明显下降 |
| StochasticSplats | 随机透明采样代替全局排序 | RTX4090单样本前向时间 ↓:5.60 → 1.85 毫秒 | 多到8样本时为6.71毫秒,已慢于对照;低样本有噪声 |
怎么读:各行只比较其论文内部设置;低采样渲染省时不能推成同画质或训练加速。
注意:StochasticSplats高采样精修的反向成本显著增加;消除视角跳变还需额外几何近似,各模式分开看。
软件库 gsplat 本身就能让训练更快、更省显存,所以比较加速方法前要先统一底座版本。
4. 前馈重建能“秒出”场景,但要大规模预训练
为什么重要:逐场景训练要几十分钟;前馈网络遇到新场景只需不到一秒,适合产品化。代价是前期要在大量视频上训练,显存需求高。
| 方法 | 输入 | RE10K 两视图 PSNR ↑ | 备注 |
|---|---|---|---|
| pixelSplat | 2 张有相机参数的图 | 26.09 | 训练约需 80GB 显存单卡 |
| MVSplat | 同上 | 26.39 | 单张 A100 可训练 |
| DepthSplat | 同上,加单目深度先验 | 27.47 | 推理略慢于 MVSplat |
| iLRM | 同上 | 28.65 | 推理 0.025 秒 |
数字为各论文自报,数据集和输入相同,可以粗看趋势。
注意:输入视角多时,逐场景优化仍然更好:
| 前馈方法 | 输入视角数 | 前馈 PSNR ↑ | 同条件逐场景 3DGS PSNR ↑ |
|---|---|---|---|
| iLRM | 32 | 24.30 | 24.43 |
| tttLRM | 64 | 25.95 | 26.55 |
5. 无真值外参已延伸到训练,内参与先验仍需分账
为什么重要:真实拍摄常常拿不到准确的相机位姿。“无位姿(pose-free)”方法直接从照片预测高斯,是近两年热点。
| 方法 | 需要什么 | 结果 | 对照 / 条件 |
|---|---|---|---|
| NoPoSplat | 只需内参 | RE10K PSNR 25.033;视角重叠小时 22.514 | MVSplat 23.977;重叠小时 20.353 |
| FreeSplatter | 内外参都不需要 | GSO 物体 PSNR 30.443 | InstantMesh(给真值位姿)25.421 |
| SPFSplat | 默认给内参,主训练不监督真值外参 | RE10K PSNR ↑ 25.484 | NoPoSplat 25.033;本法无EPA,对照用EPA |
怎么读:SPFSplat把“不给真值外参”从推理扩展到主训练阶段;这不等于没有镜头内参或预训练几何知识。各行是论文自报,不同数据和位姿对齐协议不能排总榜。
注意:NoPoSplat、FreeSplatter仍有训练相机监督;SPFSplat默认依赖内参与MASt3R初始化,评测期位姿对齐(EPA)须单列。
| 同为RE10K训练→DTU零样本 | PSNR ↑ | 对齐条件 |
|---|---|---|
| SPFSplat | 16.550 | 无EPA |
| NoPoSplat | 17.899 | 有EPA |
| SPFSplat | 18.297 | 有EPA |
注意:没有EPA时SPFSplat的DTU画质反例必须保留;不是无条件跨域领先。比较需配平训练先验与目标对齐权限,细节见 SPFSplat来源笔记。同类方法还有 Uni3R、Off The Grid、WildSplat。
6. 动态场景要分清画质、速度和完整任务成本
为什么重要:现实里人和车会动。动态高斯要同时建模形状、运动和随视角变化的外观,难度和成本都更高。
| 方法 | 任务 | 结果 | 代价 |
|---|---|---|---|
| SpeeDe3DGS | 逐场景动态重建提速 | NeRF-DS:54.37 → 505.60 FPS,PSNR 23.80 → 23.66 | D-NeRF 合成场景 PSNR 38.92 → 35.07 |
| MoVieS | 从有位姿视频前馈预测动态高斯 | 单场景推理 0.93 秒 | 训练用 32 张 H20 约五天 |
| WildGS-SLAM | 有人走动时边定位边建图 | 轨迹误差 ATE 0.46 cm,对照 MegaSaM 2.40 cm | 完整序列约 0.49 FPS,离实时还远 |
| 7DGS完整模型 | 联合时间与方向的逐场景动态渲染 | 自建六场平均PSNR ↑:27.79 → 32.50 | FPS ↑:192.6 → 174.7,完整模型更慢 |
| 7DGS无自适应精修 | 同一数据集,关闭残差网络 | PSNR ↑:27.79 → 31.77 | FPS ↑:192.6 → 376.0,牺牲部分画质换速度 |
| 4DGS-SLAM | RGB-D相机跟踪,同时保留动态地图 | TUM平均ATE cm ↓:15.8 → 1.8(对照MonoGS) | 完整速度未报告;有深度和预训练分割/光流成本 |
怎么读:各行只比较原论文内部设置;渲染、前馈重建和完整定位建图是不同任务,不能拼成速度总榜。7DGS最快版本并非最高画质版本;4DGS-SLAM有深度输入,WildGS-SLAM用RGB且只建静态地图。
注意:7DGS有画质与速度反例;4DGS-SLAM跟踪仍遮蔽动态区域,后来进入的物体还需预指定初始化,不能推成实时、自动持续建图。
7. 采集、生成、语义和物理任务各需自己的评测
为什么重要:高斯用于选照片、生成、语言或物理任务时,单一画质指标已不能说明效果,需要各自的真值和指标。
| 方法 | 做什么 | 结果 | 对照 / 代价 |
|---|---|---|---|
| LangSplat | 用文字查询场景中的物体 | 定位准确率 84.3%,每次查询 0.28 秒 | LERF 73.6%,每次 55.7 秒 |
| StochasticSplats接LangSplat | 在已有语义资产上改随机渲染 | 定位准确率 ↑:84.3 → 82.0 | 仅其论文四场平均,方向为退化;渲染提速不等于建场或查询全链提速 |
| B³-Seg | 在已有高斯上快速分割物体 | mIoU 84.5 | FlashSplat 69.6 |
| TT-Occ | 自动驾驶的语义占据 | mIoU 16.70 | SelfOcc 10.54;但速度 0.7 FPS 慢于对照 |
| GAINS | 少视角下估计材质并重新打光 | 重打光 PSNR 28.16 | GI-GS 23.92 |
| GGS | 用视频先验补出静态三维场景 | RE10K单图3D的FID ↓:57.8 → 56.3 → 47.3 | 依次为No3D、加深度监督、再精修5000步;需要已知相机与专有预训练骨干 |
| GS-GS | 已知相机少视角,生成伪图辅助逐场重建 | LLFF三视PSNR ↑:20.31 → 24.82(对照FSGS) | 额外扩散适配及深度先验;真实几何和完整耗时未测 |
| UVGS | 已拟合静态资产先展开二维张量,再学压缩与生成 | AE存储减少 ↑:99.5%;Full PSNR ↑:34.2 → 30.8 dB | 有损压缩;另有多卡映射训练,不能直接推显存或完整效率 |
| POp-GS | 已有地图和候选相机位姿,选择下一张照片 | Mip360十张单选PSNR ↑:17.29 → 18.15 dB(对照Uniform) | 完整信息计算2.62 GB、0.15 Hz;其它协议并非都优于简化版 |
生成方向也有取舍:同一ScanNet++单图视频协议,GGS的一致性TSED ↑从0.596到0.896,但图像分布距离FID ↓从80.4变为81.8,反而退化。怎么读:不同视角更协调,并不保证图像更好或形状真实。完整版本、数据和原表定位见 GGS;本文未核对作者稿与出版最终版的差异。
球面展开(UV mapping)把高斯按方向排成二维网格,便于接图像模型。怎么读:UVGS能大幅减少资产存储,但丢点和解码会损画质,映射与生成仍需训练;真实形状和完整成本要另测。
主动采集就是决定下一张照片从哪里拍。怎么读:POp-GS先要已有地图和候选相机位置,固定照片数的画质收益还须配平计算与移动成本;信息评估频率不同于渲染帧率。
物理方向的 PhysGaussian 和 PhysGM 的材料参数由人工设定或由模型伪标注,尚无真实物性测量来验证。
近五年演化(2022—2026)
| 年份 | 本页论文数 | 代表工作 | 这一年解决了什么 |
|---|---|---|---|
| 2022 及以前 | 背景 | SfM、NeRF | 提供相机求解和神经渲染的基础 |
| 2023 | 1 | 原始 3DGS | 证明显式高斯 + 快速光栅化可以实时渲染 |
| 2024 | 7 | Mip-Splatting、2DGS、MCMC、pixelSplat、MVSplat、LangSplat、PhysGaussian | 补上抗锯齿、表面几何、前馈重建、语义和物理五个基础分支 |
| 2025 | 17 | Speedy-Splat、gsplat、DepthSplat、NoPoSplat、SPFSplat、FreeSplatter、SplatFormer、3DGUT、WildGS-SLAM、GGS、StochasticSplats、7DGS、4DGS-SLAM、EvaGaussians、GS-GS、UVGS、POp-GS | 工程底座、无位姿重建、非标准相机、动态 SLAM与生成一致性 |
| 2026 | 30 | FastGS、Faster-GS、MoVieS、iLRM、GlobalSplat、CoMe、MetroGS 等 | 分支大量细化:更快训练、动态前馈、图元预算、网格、大场景和各类应用 |
趋势:2024 年定下基本分支,2025 年补工程和“去掉相机”,2026 年论文数量暴增,但多数是在已有分支里做细化。
方法家族与成熟阶段
一篇新论文改的是哪一环?
先判断论文改的是表示、训练、输入条件还是下游任务,再看它和同类论文比。
- 静态底座与采样3DGS、Mip-Splatting、3DGUT、MCMC、EvaGaussians
- 表面几何与网格2DGS、CoMe、MetroGS、BrepGaussian
- 训练与渲染效率FastGS、Turbo-GS、Faster-GS、Speedy-Splat、StochasticSplats、gsplat、RAP、Matryoshka
- 前馈重建pixelSplat、MVSplat、DepthSplat、iLRM、tttLRM、GlobalSplat、EcoSplat、SplatFormer、Splatent
- 无位姿输入NoPoSplat、FreeSplatter、Uni3R、Off The Grid、WildSplat
- 动态场景与 SLAMSpeeDe3DGS、MoVieS、7DGS、4DGS-SLAM、AeroDGS、WildGS-SLAM、Changes in Real Time、GPERT
- 语义、编辑与主动采集POp-GS、LangSplat、REALM、B³-Seg、TT-Occ、GaussianDWM、GAINS、HyperGaussians
- 物理与生成PhysGaussian、PhysGM、Let it Snow!、Diff4Splat、GGS、GS-GS、UVGS
八个大类为静态底座与采样、表面几何、训练与渲染效率、前馈重建、无位姿输入、动态与 SLAM、语义与主动采集、物理与生成。
方法家族的成熟度
静态底座与采样
原始 3DGS、Mip-Splatting、MCMC 是常用底座;EvaGaussians补充事件流辅助模糊输入,传感器条件不同。
在统一相机和多尺度设置下公平复核,而不是再提一个小改动。
表面几何与网格
2DGS 之后,CoMe、MetroGS 继续提升网格质量和场景规模。
画质和几何的取舍、网格提取参数对结果的影响。
训练与渲染效率
FastGS、Turbo-GS、Faster-GS、Speedy-Splat 都在 2025—2026 年发表。
统一显卡和底座后的公平对比,本身就有价值。
前馈重建
从 pixelSplat、MVSplat 到 iLRM、tttLRM,输入视角从 2 张扩展到几十张。
跨数据集泛化、相机误差鲁棒性;但训练成本高,需要大显存。
无位姿输入
NoPoSplat、FreeSplatter 已正式发表,但训练仍依赖相机真值。
更诚实的评测协议,比如评测时不偷看目标照片来对齐位姿。
动态场景与 SLAM
SpeeDe3DGS、MoVieS、WildGS-SLAM 分别覆盖逐场景、前馈和在线三种设置。
剧烈运动、长序列和时间一致性。
语义、编辑与应用
LangSplat、REALM、B³-Seg、TT-Occ 等,各自依赖 SAM、CLIP 或大语言模型。
独立人工标注的评测,以及把预处理成本算进总时间。
物理与生成
PhysGaussian、PhysGM、Let it Snow!、Diff4Splat、GGS。
物理需要真实参数测量;生成需要统一先验预算并分别评测跨视一致性、图像质量和真实几何。
拥挤方向与研究机会
先看结论
Recommended
先复现、再找缺口
先选 A,在原始 3DGS 和 Mip-Splatting 上做公平的多尺度复核。
选 B,比较 2DGS 等几何方法和原始 3DGS 的画质—几何取舍。
选 C,但要先确认训练资源够。
选 D,做统一底座下的训练加速对比。
Avoid first
直接提一个“更快的 3DGS”
在原始 3DGS 上加一个小模块,报告“训练快了 X 倍”。
加速方向已有 FastGS、Turbo-GS、Faster-GS 等多篇同期工作,而且很多提速来自底层实现,不同显卡的数字也无法直比。
固定显卡、分辨率和软件底座,画出“速度—画质”曲线,说明你的改动在什么条件下有效、在什么条件下失效。
四个研究入口怎么选
多尺度渲染的公平复核
检查 Mip-Splatting 的抗锯齿收益在统一相机和测试尺度下是否稳定。
有一点图形学或多视图基础,算力有限。
用原始 3DGS 和 Mip-Splatting 官方代码,在相同场景和相机下复跑多尺度评测脚本。
跨尺度收益和同尺度退化都能复现。
画质与几何的取舍
量化 2DGS 等几何方法“表面更准、画质略降”的取舍到底来自哪里。
关心表面重建,能用带真实网格的数据集(如 DTU)。
在 DTU 上用相同输入复跑原始 3DGS 和 2DGS,同时报告 Chamfer 和 PSNR。
几何与画质的取舍能稳定复现。
前馈重建的跨数据集泛化
检查 pixelSplat、MVSplat 等前馈方法换一个数据集后还剩多少优势。
能拿到大显存单卡和较长训练时间。
先只用公开模型权重做评测,复核作者表格中的数字。
确认有足够显存和时间做再训练。
训练加速的公平对比
把 FastGS、Turbo-GS、Faster-GS 放到同一显卡、同一分辨率下重新比较。
喜欢 CUDA 和性能分析,能长时间稳定使用一张显卡。
统一 gsplat 或官方底座版本,先复现两种方法的速度和画质。
不同方法的收益在统一条件下仍可区分。
对“能否作为研究生方向”的修订结论
3DGS 可以作为研究生方向,但本页仍是初步证据地图,四个入口都是“先复现、再判断”的条件性建议。默认从 A 或 B 开始,它们算力需求最低、结论最容易验证。等尚未完成核验的 45 篇候选论文筛完,才能判断这些切口是否已被别人做过。
反方证据、局限与可证伪条件
检查点 1:几何和画质不能兼得的反例
- 2DGS 在 Tanks and Temples 上几何 F1 低于 Neuralangelo。
- FastGS 接到几何方法后,几何和 SLAM 画质都略有退化。
- CoMe 在 DTU 物体上的表面误差仍不如 PGSR。
- EvaGaussians真实场景没有清晰真值,作者稿的主表与附录指标也有差异;无参考图质分数不能证明真实几何正确。
检查点 2:前馈与无位姿方法的反例
- 前馈方法换数据集(RE10K → DTU)后,绝对 PSNR 都很低,领先幅度意义有限。
- MVSplat 在反光、非漫反射表面上失败。
- Uni3R 正文说的提升幅度和它自己的表格不一致;NoPoSplat 附录的一张表和文字结论方向矛盾。
检查点 3:效率与动态方法的反例
- Speedy-Splat 渲染快了数倍,但感知画质明显下降。
- StochasticSplats单样本噪声较大、高采样反向更贵,语义定位亦有退化。
- SpeeDe3DGS 在剧烈运动的合成场景上画质下降明显。
- 多篇论文的训练时间混用不同显卡,无法当作纯算法收益。
- 4DGS-SLAM动态建图的平均感知指标会退化,光流收益依赖静动态分离;动态物体保留不保证每场轨迹最优。
检查点 4:扩展任务的反例
- POp-GS的完整信息估计更贵,Blender批选时三项画质都弱于简化版;局部参数不确定性尚未验证真实几何或机器人安全。
- UVGS的压缩率伴随画质损失;固定结构不等于数学可逆,冻结图像自编码器不等于全系统零训练。
- GS-GS少视角画质提升不证明真实几何;动态输入是多个同步视频机位,相对收益还会随视数增加而缩小。
- PhysGaussian、PhysGM 缺少真实物理参数测量。
- REALM、B³-Seg 等依赖 SAM、CLIP 或大语言模型,评测场景是挑选过的子集。
- Matryoshka、WildSplat 的正文和表格数字存在矛盾,引用时要回到原表。
- GGS的一致性收益伴随部分FID/FVD退化;私有视频骨干和训练场景限制公平复现。
什么结果会推翻本页判断:如果在统一相机、数据划分和训练预算后,简单的滤波或正则就能达到同等收益,入口 A、B 的价值就不成立;如果统一预训练和显存预算后前馈方法的跨域优势消失,入口 C 就要收窄。
- 7DGS完整模型的平均渲染速度下降,真实视频也有单场画质反例;条件几何不等于真实表面。
研究生可行的研究入口
资源有限时,先做哪个可以被验证或推翻的实验?
所有入口都先复现基线和失败案例,再决定是否提新方法。具体显存和时间要以实际机器实测为准。
- A 多尺度画质固定相机和三档测试尺度,复跑原始 3DGS 与 Mip-Splatting
- B 表面几何DTU 上用相同输入复跑 3DGS 与 2DGS,同时报 Chamfer 和 PSNR
- C 前馈泛化先用公开权重评测,确认显存够再训练
- D 训练加速统一显卡和底座,复现两种加速方法
- 决策门槛基线能复现、失败案例已整理、真实成本已测,再开始新方法
关心画质选 A,关心几何选 B,有大显存选 C,偏工程选 D;四条路都先复现、再比较。
候选课题 A:多尺度渲染的公平复核首选
Expand research designCollapse research design
Mip-Splatting 的抗锯齿收益,在统一相机、场景和测试尺度下是否仍然成立?
用官方代码在相同场景上复跑原始 3DGS 和 Mip-Splatting 的多尺度评测。
跨尺度提升和同尺度退化都能复现。
只要调整测试图缩放方式就能得到同等收益。
单卡即可。
候选课题 B:画质与几何的取舍推荐
Expand research designCollapse research design
2DGS 表面更准、画质略降的取舍,有多少来自图元形状,有多少来自网格提取参数?
在 DTU 上用相同输入和网格提取参数复跑原始 3DGS 与 2DGS。
几何与画质的取舍能稳定复现。
调整网格提取阈值或正则就能解释全部差异。
单卡即可,需要带真实网格的数据集。
候选课题 C:前馈重建的跨数据集泛化条件推荐
Expand research designCollapse research design
前馈方法在同一预训练和图元预算下,换数据集后还剩多少优势?
只用公开模型权重评测,复核作者同表数字。
确认有足够显存和时间再训练。
统一预训练后跨域优势消失。
pixelSplat 原训练约需 80GB 显存单卡;MVSplat 用 A100。显卡未知时先做文献和协议审计。
候选课题 D:训练加速的公平对比工程向
Expand research designCollapse research design
FastGS、Turbo-GS、Faster-GS 的加速在统一显卡、分辨率和底座下还能区分吗?能否叠加?
统一底座版本,复现其中两种方法。
统一条件下仍能看到各自独立的收益。
收益主要来自底层实现,换底座后差异消失。
单卡,但需要长时间稳定使用。
推荐排序与止损条件
- 优先顺序:没有特定资源先做 A 或 B;有大显存再考虑 C;偏工程做 D。
- 不要作为首个课题:从零训练大型前馈模型,或只报告“比原始 3DGS 快 X 倍”。
- 三个月止损信号:基线无法复现;改进只在一个数据集出现;换显卡或底座后收益消失。
- 调整方式:方法创新证据不足时,把课题收窄为公平评测、失败案例分析或成本—质量取舍。
证据基础
55 篇论文均保存了完整 PDF、可检索全文和独立 analysis.md,位于同名 raw/ingest/ 目录。本页作者尚未实际运行任何复现实验。检索范围和比较口径见 检索协议,逐篇数字、页码和口径冲突见 证据矩阵。
| 大类 | 论文 | 一句话贡献 |
|---|---|---|
| 静态底座 | 3DGS | 奠基:显式高斯 + 快速光栅化 |
| 静态底座 | Mip-Splatting | 放大缩小时的抗锯齿 |
| 静态底座 | 3DGS as MCMC | 用重定位代替手工增密规则 |
| 静态底座 | 3DGUT | 支持鱼眼等畸变相机 |
| 静态底座 | EvaGaussians | 事件流辅助模糊RGB重建,真实几何尚未验证 |
| 几何 | 2DGS | 用扁平圆盘提升表面精度 |
| 几何 | CoMe | 用置信度提取更干净的网格 |
| 几何 | MetroGS | 城市级场景的多卡几何重建 |
| 几何 | BrepGaussian | 从高斯得到 CAD 参数化边界 |
| 效率 | FastGS | 按多视误差增密和剪枝,训练约 2 分钟 |
| 效率 | Turbo-GS | 4K 训练只采样部分像素 |
| 效率 | Faster-GS | 重写底层实现,拆解各环节耗时 |
| 效率 | StochasticSplats | 随机采样取消排序,用噪声换渲染时间,精修另计 |
| 效率 | Speedy-Splat | 精确 tile 覆盖 + 剪枝,渲染更快 |
| 效率 | gsplat | 开源渲染库,常用实验底座 |
| 效率 | RAP | 跨场景预测哪些高斯可删 |
| 效率 | Matryoshka | 一个模型按需截取不同大小 |
| 前馈 | pixelSplat | 两张图前馈预测高斯 |
| 前馈 | MVSplat | 用匹配代价体,更快更省显存 |
| 前馈 | DepthSplat | 加入单目深度先验 |
| 前馈 | iLRM | 用视角 token 融合多视图 |
| 前馈 | tttLRM | 长序列输入的记忆机制 |
| 前馈 | GlobalSplat | 固定数量的紧凑高斯 |
| 前馈 | EcoSplat | 按指定数量输出高斯 |
| 前馈 | SplatFormer | 修复极端视角下的画质 |
| 前馈 | Splatent | 潜空间高斯 + 参考图补细节 |
| 无位姿 | NoPoSplat | 不需外参的前馈重建 |
| 无位姿 | SPFSplat | 主训练和推理均不输入真值外参,内参与先验分账 |
| 无位姿 | FreeSplatter | 内外参都不需要 |
| 无位姿 | Uni3R | 无外参下同时输出几何和语义 |
| 无位姿 | Off The Grid | 按图像结构放置亚像素高斯 |
| 无位姿 | WildSplat | 网络照片、光照不一也能重建 |
| 动态 | 4DGS-SLAM | 用RGB-D跟踪相机并保留动态地图,完整速度尚未报告 |
| 动态 | 7DGS | 联合时间与方向的高维表示,精修开关改变画质和速度 |
| 动态 | SpeeDe3DGS | 动态高斯剪枝和运动分组提速 |
| 动态 | MoVieS | 视频前馈预测动态高斯 |
| 动态 | AeroDGS | 航拍视频中的动态物体 |
| 动态 | WildGS-SLAM | 有动态干扰时的定位建图 |
| 动态 | Changes in Real Time | 在线检测场景变化并更新地图 |
| 动态 | GPERT | 用事件相机重建 |
| 语义与应用 | LangSplat | 用文字查询场景 |
| 语义与应用 | REALM | 大模型推理定位并编辑物体 |
| 语义与应用 | B³-Seg | 主动选视角做快速分割 |
| 语义与应用 | TT-Occ | 自动驾驶语义占据 |
| 语义与应用 | GaussianDWM | 驾驶场景的语言理解与生成 |
| 语义与应用 | GAINS | 少视角材质估计与重打光 |
| 语义与应用 | HyperGaussians | 更精细的人脸头像 |
| 主动采集 | POp-GS | 已有地图指导选图,保留复杂估计的反例与完整采集成本缺项 |
| 物理与生成 | UVGS | 通过有损二维资产表示复用图像模型,区分存储、画质和学习成本 |
| 物理与生成 | GS-GS | 已知相机逐场生成伪图,需额外先验与完整成本验收 |
| 物理与生成 | PhysGaussian | 给定材料和外力做物理模拟 |
| 物理与生成 | PhysGM | 单图预测物性并模拟 |
| 物理与生成 | Let it Snow! | 给场景加雪、雾等天气 |
| 物理与生成 | Diff4Splat | 从单图生成动态场景 |
| 物理与生成 | GGS | 已知相机的静态场景生成,分开看一致性、质量与精修代价 |
开放问题
用户的前瞻方向:以 DINO 二维密集特征为前端,经多视图投影或特征蒸馏赋予高斯语义,再训练语义头或聚类映射。研究问题 明确检验多视图一致性、类别映射与遮挡边界;当前标为待验证假设。骨干概念与论文版本边界见 Visual Representations and Backbones 和 DINO 家族:自监督视觉表示与预训练骨干。
- 在统一相机、数据划分和硬件下,各种加速方法的收益能否区分、能否叠加?
- 画质与几何的取舍,有多少来自图元形状,有多少来自网格提取参数?
- 前馈方法在统一预训练和图元数量后,跨数据集优势还剩多少?
- 无位姿方法如果评测时不用目标照片对齐位姿,结果会怎样?
- 动态高斯在剧烈运动、长序列上能否同时保住画质和速度?
- 语义和编辑方法在独立人工标注的数据上还有多少提升?
- 物理高斯能否建立一个有真实材料测量的评测基准?
- 尚未完成核验的 45 篇候选论文是否已经覆盖了上面这些切口?
相关页面
- 先读基础:Foundations of Core Vision Tasks(相机与几何)、Datasets, Metrics, and Benchmark Reliability(指标可靠性)。
- 推荐阅读顺序:原始 3DGS → Mip-Splatting → 2DGS → MCMC → pixelSplat → MVSplat,之后按兴趣选大类。
- 完整审计:检索协议、逐篇证据矩阵。