英特尔研究院发布全新AI扩散模型,可根据文本提示生成360度全景图
LDM3D是业界领先的可创建深度图的生成式AI模型,有望革新内容创作、元宇宙和数字体验
英特尔研究院宣布与Blockade Labs合作发布LDM3D(Latent Diffusion Model for 3D)模型,这一全新的扩散模型使用生成式AI创建3D视觉内容。LDM3D是业界领先的利用扩散过程(diffusion process)生成深度图(depth map)的模型,进而生成逼真的、沉浸式的360度全景图。LDM3D有望革新内容创作、元宇宙应用和数字体验,改变包括娱乐、游戏、建筑和设计在内的许多行业。
英特尔研究院人工智能和机器学习研究专家Vasudev Lal表示:“生成式AI技术旨在提高和增强人类创造力,并节省时间。然而,目前的大部分生成式AI模型仅限于生成2D图像,仅有少数几种可根据文本提示生成3D图像。在使用几乎相同数量参数的情况下,不同于现存的潜在扩散模型,LDM3D可以根据用户给定的文本提示同时生成图像和深度图。与深度估计中的标准后处理方法相比,LDM3D能够为图像中的每个像素提供更精准的相对深度,并为开发者省去了大量用于场景开发的时间。”
(资料图)
封闭的生态系统限制了规模。英特尔致力于推动AI的真正普及,通过开放的生态系统让更多人从这项技术中受益。计算机视觉领域近年来取得了重大进展,特别是在生成式AI方面。然而,当今许多先进的生成式AI模型只能生成2D图像。与通常只能根据文本提示生成2D RGB图像的现有扩散模型不同,LDM3D可以根据用户给定的文本提示同时生成图像和深度图。与深度估计(depth estimation)中的标准后处理(post-processing)方法相比,LDM3D在使用与潜在扩散模型Stable Diffusion几乎相同数量参数的情况下,能够为图像中的每个像素提供更精准的相对深度(relative depth)。
这项研究有望改变我们与数字内容的互动方式,基于文本提示为用户提供全新的体验。LDM3D生成的图像和深度图能够将诸如宁静的热带海滩、摩天大楼、科幻宇宙等文本描述转化为细致的360度全景图。LDM3D捕捉深度信息的能力,可以即时增强整体真实感和沉浸感,使各行各业的创新应用成为可能,包括娱乐、游戏、室内设计、房产销售 ,以及虚拟博物馆与沉浸式VR体验等。
6月20日,在IEEE/CVF计算机视觉和模式识别会议(CVPR)的3DMV工作坊上,LDM3D模型获得了“Best Poster Award”
LDM3D是在LAION-400M数据集包含一万个样本的子集上训练而成的。LAION-400M是一个大型图文数据集,包含超过4亿个图文对。对训练语料库进行标注时,研究团队使用了之前由英特尔研究院开发的稠密深度估计模型DPT-Large,为图像中的每个像素提供了高度准确的相对深度。LAION-400M数据集是基于研究用途创建而成的,以便广大研究人员和其它兴趣社群能在更大规模上测试模型训练。
LDM3D模型在一台英特尔AI超级计算机上完成了训练,该超级计算机由英特尔 至强 处理器和英特尔 Habana Gaudi AI加速器驱动。最终的模型和流程整合了RGB图像和深度图,生成360度全景图,实现了沉浸式体验。
为了展示LDM3D的潜力,英特尔和Blockade的研究人员开发了应用程序DepthFusion,通过标准的2D RGB图像和深度图创建沉浸式、交互式的360度全景体验。DepthFusion利用了TouchDesigner,一种基于节点的可视化编程语言,用于实时互动多媒体内容,可将文本提示转化为交互式和沉浸式数字体验。LDM3D是能生成RGB图像及其深度图的单一模型,因此能够节省内存占用和降低延迟。
LDM3D和DepthFusion的发布,为多视角生成式AI和计算机视觉的进一步发展铺平了道路。英特尔将继续探索如何使用生成式AI增强人类能力,并致力于打造一个强大的开源AI研发生态系统,让更多人能够使用AI技术。延续英特尔对开放AI生态系统的大力支持,LDM3D正在通过HuggingFace进行开源,让AI研究人员和从业者能对这一系统作出进一步改进,并针对特定应用进行微调。
在2023年6月18日至22日举行的IEEE/CVF计算机视觉和模式识别会议上,英特尔将发表这项研究成果。欲了解更多信息,请参考论文《LDM3D: Latent Diffusion Model for 3D》。
标签:
- 英特尔研究院发布全新AI扩散模型,可根据文本提示生成360度全景图
- 当前快看:格莱美发布新规:禁止纯AI生成的作品参评
- 关于对艾纯、杜春辉采取监管谈话行政监管措施的决定-世界信息
- 水稻上山是国家政策吗?水稻上山亩产788公斤是真的吗? 环球快报
- 青春不落幕!“夏至已至”毕业季音乐会在福田奏响 每日短讯
- 每日速递:起点二次元小说_起点二次元
- 何雄会见特斯拉汽车(北京)有限公司客人 拓展合作领域丰富合作内容 提供更多新产品新技术新服务-当前热点
- 德国签证材料_德国签证需要什么材料-当前播报
- 济南精神推荐医院:精神分裂症有哪些类型
- 北京端午假期接待游客518.59万人次超2019年同期水平
- Theshy送出关键节奏,BLG远古龙怒斩WBG!Poke阵容下次真别玩了
- 世界快资讯丨急!内江这里20000余斤李子滞销,吃货们,是时候展现实力了!
- 阳历1024是什么星座(10 24是什么星座)
- 焦点热门:【赛马娘同人】真弓快车于第100天消失 3
- 端午假期北京60个重点商圈客流量超2千万人次 同比增长76.8%
- 保健品原料概念股有哪些股票?(2023/6/24)
- 天天报道:霍格沃兹之遗基础魔咒怎么获得
- 日本全渔联向政府递交请愿书 重申反对核污染水排海-当前速讯
- 6月28日交付 蔚来全新ES8配置/价格调整_天天最资讯
- 《巫师3次世代版》流派哪些适合新手?新手推荐流派介绍
- 微动态丨win11时间同步失败的解决方法
- 重点聚焦!两广部分地区发生山洪灾害可能性大 两部门联合发布橙色山洪灾害气象预警
- 迈入“市域时代”!苏州轨道交通11号线开通运营 世界快播报
- 湖州启动防汛IV级应急响应!
- 视点!阿里闪电换帅背后:马云的“进”与张勇的“退”
- 世界快讯:乐正龙牙ai_乐正龙牙
- 小虎滨滨早新闻|市工业互联网协会成立;蒲湖迷你马拉松赛开赛 当前观察
- 争相入局新能源赛道 解码上市房企跨界转型虚与实
- 建筑设备常用条文速查与解析 天天关注
- 神咒 环球播资讯