程序员文章、书籍推荐和程序员创业信息与资源分享平台

网站首页 > 技术文章 正文

【Python大语言模型系列】阿里云人工智能平台部署ChatGLM2-6B

hfteth 2025-07-03 15:21:45 技术文章 1 ℃

这是我的第328篇原创文章。

一、引言

阿里云的机器学习 PAI -DSW平台基于Ubuntu操作系统,带有GPU硬件条件资源,并且已经为你安装配置好了训练、调试模型的基础开发环境。我们借助(白嫖)这个云平台,可以更加快速方便的部署chatglm2-6b大语言模型。

二、实现过程

创建工作空间

阿里云的机器学习 PAI -DSW平台, A10 显卡

地址:https://free.aliyun.com/?product=9602825

创建DSW实例

创建DSW实例,输入实例名称,免费的GPU 只能选择 A10 或者 V100 都行,V100 性能更好但是贵,A10 显卡每小时消耗6.991计算时,如果不关机持续使用大概可以使用30天。这里我们学习使用就选择A10。

基本信息:

镜像:

资源:

存储:

网络:

启动DSW实例

启动界面:

开始部署

更新相关基础工具、下载项目:

安装项目依赖库:

下载模型:直接git clone https://huggingface.co/THUDM/chatglm2-6b model会出现fatal: 无法访问 'https://huggingface.co/THUDM/chatglm2-6b/':Failed to connect to huggingface.co port 443 after 128959 ms: 连接超时的错误,这里我直接将之前本地下载好的模型上传到平台的项目文件夹下的model文件夹下:

上传完成:

修改模型的路径,在DSW中启动WebUI:

运行,整理运行速度要比在windows本地要快很多:

作者简介: 读研期间发表6篇SCI数据算法相关论文,目前在某研究院从事数据算法相关研究工作,结合自身科研实践经历持续分享关于Python、数据分析、特征工程、机器学习、深度学习、人工智能系列基础知识与案例。关注gzh:数据杂坛,获取数据和源码学习更多内容。

原文链接:

【Python大语言模型系列】基于阿里云人工智能平台部署ChatGLM2-6B(完整教程)

Tags:

最近发表
标签列表