文章 2023-05-17 来自:开发者社区

消费级GPU成功运行1760亿参数大模型

在消费级 GPU 上运行大规模模型是机器学习社区正面临的挑战。语言模型的规模一直在变大,PaLM 有 540B 参数,OPT、GPT-3 和 BLOOM 有大约 176B 参数,模型还在朝着更大的方向发展。这些模型很难在易于访问的设备上运行。例如,BLOOM-176B 需要在 8 个 80GB A100 GPU(每个约 15000 美元)上运行才能完成推理任务,而微调 BLOOM-176B 则需....

消费级GPU成功运行1760亿参数大模型
文章 2023-05-17 来自:开发者社区

消费级GPU可用,文本转图像开源新模型Stable Diffusion生成宇宙变迁大片

Stable Diffusion 模型无需预处理和后处理,几秒钟内就能创造出令人惊叹的艺术图像。根据文本生成图像是近来大火的一个研究方向。无论是英伟达的 GauGAN,还是 OpenAI 的 DALL·E,都获得了令人印象深刻的结果。但这些模型都是参数量过亿的超大模型,普通的消费级 GPU 根本无法支持。现在,来自慕尼黑大学和 Runway 的研究者基于其 CVPR 2022 的论文《High-....

消费级GPU可用,文本转图像开源新模型Stable Diffusion生成宇宙变迁大片
文章 2023-05-16 来自:开发者社区

一块GPU训练TB级推荐模型不是梦,OneEmbedding性能一骑绝尘(2)

算子优化:逼近 GPU 极限性能OneFlow 团队不仅对通用算子进行了深度优化,还针对流行的推荐系统模型特点,增加了多个高性能 CUDA 算子实现。对于 DLRM、DCN 模型中的特征交叉部分,OneFlow 分别实现了 FusedDotFeatureInteraction 和 FusedCrossFeatureInteraction 算子。(FusedCrossFeatureInteract....

一块GPU训练TB级推荐模型不是梦,OneEmbedding性能一骑绝尘(2)
文章 2023-05-16 来自:开发者社区

一块GPU训练TB级推荐模型不是梦,OneEmbedding性能一骑绝尘(1)

个性化推荐已成为人们获取信息的主要形式。以往,人们更多通过主动搜寻自己感兴趣的信息,而现在,基于算法推荐技术的信息分发平台会自动识别用户兴趣,快速筛选信息,推送用户所感兴趣的信息。一方面,推荐系统大幅提升了用户体验,另一方面,个性化分发信息更精准、高效,可以帮助平台更准确地匹配用户和信息,大大提高流量变现效率,基于推荐技术的流量变现引擎甚至成就了万亿市值的庞大商业帝国。从短视频信息流推荐、广告搜....

一块GPU训练TB级推荐模型不是梦,OneEmbedding性能一骑绝尘(1)
文章 2023-05-12 来自:开发者社区

ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型

 新智元报道  编辑:桃子 好困【新智元导读】130亿参数模型权重公布不久,UC伯克利LMSys org再次发布了70亿参数「小羊驼」。同在今天,Hugging Face也发布了70亿参数模型StackLLaMA。自从Meta发布「开源版ChatGPT」LLaMA之后,学界可谓是一片狂欢。先是斯坦福提出了70亿参数Alpaca,紧接着又是UC伯克利联手CMU、斯坦福、UCSD....

ChatGPT平替「小羊驼」Mac可跑!2行代码单GPU,UC伯克利再发70亿参数开源模型
文章 2023-05-12 来自:开发者社区

中文多模态模型问世!IDPChat生成图像文字,只需5步+单GPU

 新智元报道  编辑:桃子 拉燕【新智元导读】中文多模态模型IDPChat来了,快速上手教程在此。中文多模态模型IDPChat和大家见面了。随着GPT4、文心一言等的发布,预训练大模型正式开启由单模态向多模态模型演进。多模态的特性为语言模型带来更加丰富的应用场景。我们认为,未来的AI应用将主要以大模型为核心基石。而在大模型的领域,基于基础模型(Foundation model....

中文多模态模型问世!IDPChat生成图像文字,只需5步+单GPU
文章 2023-05-10 来自:开发者社区

一颗GPU,秒出3D模型!OpenAI重磅新作:Point-E用文本即可生成三维点云模型(2)

从计算的角度来看,点云更容易合成,但它们无法捕获对象的细腻形状或纹理,这是目前Point-E的一个短板。为解决这个限制,Point-E团队训练了一个额外的人工智能系统来将Point-E 的点云转换为网格。将Point-E点云转换为网格在独立的网格生成模型之外,Point-E 由两个模型组成:一个文本图像转化模型(text-to-image model)和图像转化3D模型(image-to-3D ....

一颗GPU,秒出3D模型!OpenAI重磅新作:Point-E用文本即可生成三维点云模型(2)
文章 2023-05-10 来自:开发者社区

一颗GPU,秒出3D模型!OpenAI重磅新作:Point-E用文本即可生成三维点云模型(1)

一颗GPU,秒出3D模型!OpenAI重磅新作:Point-E用文本即可生成三维点云模型新智元新智元 2022-12-21 13:33 发表于北京  新智元报道  编辑:Joey Aeneas【新智元导读】文本除了生成图像、视频,还有3D模型!OpenAI最新发布的POINT-E,输入Prompt一分钟内便可生成3D模型。席卷AI世界的下一个突破在哪里?很多人预测,是3D模型....

一颗GPU,秒出3D模型!OpenAI重磅新作:Point-E用文本即可生成三维点云模型(1)
问答 2023-04-22 来自:开发者社区

请问GPU docker环境运行这个模型https://www.modelscope.cn/mode

请问GPU docker环境运行这个模型https://www.modelscope.cn/models/damo/cv_dut-raft_video-stabilization_base/summary,卡在2023-04-18 17:28:01,109 - modelscope - WARNING - task video-stabilization input definition is ....

问答 2023-04-22 来自:开发者社区

有大哥用过ModelScope这个模型吗?它是需要GPU环境才能部署吗?我用CPU环境部署它,报错了

有大哥用过ModelScope这个模型吗?它是需要GPU环境才能部署吗?我用CPU环境部署它,报错了。。。。 RuntimeError: Failed to import modelscope.models.nlp.mglm.mglm_for_text_summarization because of the following error (look up to see its traceba....

本页面内关键词为智能算法引擎基于机器学习所生成,如有任何问题,可在页面下方点击"联系我们"与我们沟通。

产品推荐

云服务器ECS

云服务器ECS是一种安全可靠、弹性可伸缩的IaaS级云计算服务。在这里你可以获取最新的ECS产品资讯、最前沿的技术交流以及优惠活动等信息,加速自己的技术成长。

+关注