当前位置: 首页 > news >正文

保姆级离线+windows环境+大模型前端UI安装(二)

看到很多文章采用docker在windows环境安装python或者是linux环境再装webui的,感觉比较麻烦,不够简洁,本文采用nodejs,来作为客户端引擎。

这篇只讲客户端安装,需要安装后端大模型及其运行的可以参考第一篇:

保姆级离线+windows环境+私有化部署大模型(一)-CSDN博客

Node.js 是一个开源的、跨平台的 JavaScript 运行时环境,允许开发者在服务器端运行 JavaScript 代码。它基于 Chrome 的 V8 JavaScript 引擎构建

一、安装思路

Ollama-webUI可以直接在有网环境下安装,把相关的依赖文件下载完成,复制安装好以后的WebUI文件目录到内网环境。

二、安装步骤

1、Node.js下载安装


进入Node官网下载Node,https://nodejs.org 

一步一步安装即可,安装完成以后,验证是否安装成功,可在windws命令窗口win+r,cmd,打开的页面,验证node的版本:

node -v

v20以上就没问题

2、下载ollama-webui代码

默认ollama安装后,对话只有黑色命令界面,交互体验较差。借助open-webui可以通过web界面连接ollama,从而实现类似chatGPT式的web交互体验。

下载地址:github.com

从github下载zip文件夹。解压到本地,如D:\ollama-webui-lite-main

windows+R输入cmd,进入dos命令界面

cd D:\ollama-webui-lite-main

进入ollama-webui文件夹,在此文件夹下进行以下所有的命令。首先,设置国内镜像源提速:

npm config set registry http://mirrors.cloud.tencent.com/npm/


3.安装Node.js依赖:

npm ci
npm install

如果报错说要audit,则依次进行即可:

npm audit
npm audit fix

4.启动webUI

启动Web界面:

npm run dev


打开Web页面,选择你的模型即可开始对话。

三、拷贝整个D盘的WebUI到内网环境

D:\ollama-webui-lite-main

在内网环境,cd到WebUI的文件夹,这文件夹下,直接启动

npm run dev


http://www.mrgr.cn/news/25373.html

相关文章:

  • 240416 初始化列表 构造与隐式类型转换 static成员 友元 内部类
  • 专业版PyCharm使用plt.show()显示图像时,如何不显示在右侧工具栏中,而是直接弹出来
  • RTL设计中中$signed函数的使用
  • 海外仓系统如何为企业提供智能财务解决方案?
  • 严重干扰的验证码识别系统源码分享
  • 工具使用记录-Tkinter
  • Rust:Result 和 Error
  • el-input 只能输入数字和一个小数点,或者只能输入两位小数
  • 线程---实践与技巧(C语言)
  • 线程池的应用-->2
  • 职场效率提升秘籍
  • 合成控制法SCM
  • CSS——盒子模型
  • 数据处理与统计分析篇-day02-Linux进阶
  • 山峰个数【python实现】
  • 未来工业,新质赋能!迈威通信邀您共赴智造盛宴
  • C++多态讲解
  • 「漏洞复现」SPIP porte_plume插件 远程代码执行漏洞(CVE-2024-7954)
  • 装杯 之 Linux 指令1
  • NPDP|在传统行业,怎么做好产品管理?有啥诀窍