上一篇
AgentScope是什么？一文让你看懂AgentScope的技术原理、主要功能、应用场景
LeviTor是什么？一文让你看懂LeviTor的技术原理、主要功能、应用场景
来源：卓商AI
发布时间：2025-04-05
LeviTor概述简介
LeviTor是南京大学、蚂蚁集团、浙江大学等机构推出的图像到视频合成技术，结合深度信息和K-means聚类点控制视频中3D物体的轨迹，无需显式的3D轨迹跟踪。LeviTor用高质量的视频对象分割数据集进行训练，有效捕捉复杂场景中的物体运动和交互，基于用户友好的推理流程简化3D轨迹输入，让视频生成技术更加先进和易用。LeviTor的引入为3D物体轨迹控制铺平道路，拓宽创意应用范围，适用于更广泛的用户群体。
LeviTor的功能特色
精确操控物体运动：在从静态图像生成视频时，精确控制物体的运动轨迹。
增强创意应用：基于3D轨迹控制，拓宽视频合成的创意应用范围。
简化用户输入：用户用简单的2D图像上的绘制和深度调整输入3D轨迹，降低技术门槛。
自动提取深度信息和物体掩码：系统自动从图像中提取深度信息和物体掩码，减少用户操作。
交互式轨迹绘制：用户交互式地绘制物体轨迹，系统将其解释为3D路径。
LeviTor的技术原理
K-means聚类：对视频对象掩码（mask）的像素进行K-means聚类，得到一组代表性的控制点。
深度信息融合：深度估计网络DepthAnythingV2预测相对深度图，并在每个控制点采样深度，为控制点增添深度信息。
控制信号构建：结合2D坐标和估计的深度值，构建控制轨迹，轨迹作为视频扩散模型的控制信号。
视频扩散模型：将控制信号输入到视频扩散模型中，生成与3D轨迹对齐的视频。
用户友好的推理流程：设计用户友好的交互系统，用户用点击和调整深度值输入3D轨迹。
LeviTor项目介绍
项目官网：ppetrichor.github.io/levitor
GitHub仓库：https://github.com/qiuyu96/LeviTor
HuggingFace模型库：https://huggingface.co/hlwang06/LeviTor
arXiv技术论文：https://arxiv.org/pdf/2412.15214
LeviTor能做什么？
电影特效制作：生成逼真的特效场景，减少实地拍摄成本，提高制作效率。
游戏动画生成：在游戏开发中，创造动态的游戏背景和角色动画，增强游戏的沉浸感。
虚拟现实体验：在VR应用中合成逼真的虚拟环境，为用户提供更加真实的沉浸式体验。
增强现实展示：在AR领域将虚拟信息与现实世界无缝结合，用在教育、导航等场景。
广告视频制作：制作动态广告视频，吸引观众注意力，提升品牌形象和产品吸引力。
© 版权声明:本站所有原创文章版权均归卓商AI工具集及原创作者所有，未经允许任何个人、媒体、网站不得转载或以其他方式抄袭本站任何文章。
相关文章
-
VideoVAE+是什么？一文让你看懂VideoVAE+的技术原理、主要功能、应用场景2025-04-05 -
LiveKit Agents是什么？一文让你看懂LiveKit Agents的技术原理、主要功能、应用场景2025-04-05
-
夸克灵知大模型是什么？一文让你看懂夸克灵知大模型的技术原理、主要功能、应用场景2025-04-05
-
MMSearch是什么？一文让你看懂MMSearch的技术原理、主要功能、应用场景2025-04-05
-
MobileLLM是什么？一文让你看懂MobileLLM的技术原理、主要功能、应用场景2025-04-05
-
mPLUG-DocOwl2是什么？一文让你看懂mPLUG-DocOwl2的技术原理、主要功能、应用场景2025-04-05
卓商AI
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
最新发布
1
2
3
4
5
6
7
8
9
10
猜你喜欢
saasydb
与有史以来最广泛，最具成本效益的SaaS数据库的正确决策者预订更多会议。在10,000多个SaaS公司的员工联系人的可搜索数据库。 SaasyDB提供...
blockode ai photo studio
与Blockode AI照片录音室体验高质量的个性化AI头像。这个革命性的工作室使用先进的AI技术来生成100个具有4K分辨率的自定义化身，从而准确捕...
usesaaskit
使用useAaskit以可自定义的next.js模板快速启动SaaS。获得在Next.js，Supabase，Stripe，TailWindCSS和R...
business card scanner
名片扫描仪是一种在线工具，可以从图像，PDF，手写笔记和印刷文档中提取文本。使用高级OCR算法以准确的结果，它是用户友好且快速的。您可以在各种操作系统...
someli ai
引入Someli AI，这是一种在线平台，可自动化您的社交媒体内容计划和发布。借助Someli AI智能技术，可以创建和安排帖子以获得最佳性能。使用时...
dewstack
DeWstack是一种文档解决方案，可帮助您提高用户体验。工艺，管理和托管智能文档，这些文档是专门设计用于实时响应用户查询的智能文档。增强用户参与度并...
alphy
Alphy是一种尖端的AI助剂，旨在增强您的视听体验。通过访问多个平台和高级技术，Alphy可以提供准确的转录，详细的摘要和AI生成的答案。只需提交链...
emailoctopus
Emailoctopus是一个由AI驱动的电子邮件管理平台，旨在使电子邮件营销变得容易和强大。它提供了简单，用户友好的工具来帮助企业发展，并提供诸如拖...
AI爱好者的一站式人工智能AI工具箱，累计收录全球10,000⁺好用的AI工具软件和网站，方便您更便捷的探索前沿的AI技术。本站持续更新好的AI应用，力争做全球排名前三的AI网址导航网站，欢迎您成为我们的一员。
