剪藏#NASBox#剪藏

居然能在浏览器里跑 Qwen3?Docker 部署超简单!

2025 年 12 月 22 日1 分钟
分享Twitter / XTelegram微博
居然能在浏览器里跑 Qwen3?Docker 部署超简单! 封面

如有修改或改动,关注文章底部留言!

教程对你有用,可以 “点赞” 和 “打赏”支持 ~

Notion image

Qwen-Web:

一款在本地浏览器运行 Qwen3-0.6b 大语言模型项目,零安装、无日志记录和无数据

Notion image

在线 Demo:

https://qwen-web.sdan.io

安装

Docker Compose

JAVASCRIPT
services:
  qwen-web:
    image: heizicao/qwen-web:latest
    container_name: qwen-web
    ports:
      - 8443:443
    restart: always

使用

浏览器中输入 https://NAS的IP:8443就能看到界面,注意是 HTTPS 协议

Notion image

TIP:如果显示部署私密连接,选择继续访问即可

Notion image

每次打开网页访问,都需要先加载 Qwen3-0.6b 的模型

Notion image

顶部栏可以切换颜色主题

Notion image

背景加网格效果

Notion image

输入文字回车确认,能看到就有回复了

Notion image

上面能看到回复速度为 14.93TPS,因为有显示思考过程,所以感觉速度还能接受

Notion image

左边内置了几个角色,可以选中进行聊天

Notion image

网页聊天,模型是调用设备 GPU 进行计算的

Notion image

总结

这个项目还是挺有意思的,在浏览器就可以运行 Qwen3 的大语言模型。它通过 WebGPU 技术,实现网页调用设备 GPU 进行计算和渲染。不过目前该项目 PC 界面适配不太好,而且运行模型有时候会有 BUG(卡住,回复英文)。但是个人觉得还是挺好玩的,运行模型的同时,也可以测试设备 GPU 性能表现。

综合推荐:⭐⭐⭐(有点意思)

使用体验:⭐⭐(界面简陋,有时候还有 BUG)

部署难易:⭐(非常简单)︎

原文地址: https://mp.weixin.qq.com/s?__biz=MzI2MjkzMDk3OA==&mid=2247536760&idx=1&sn=aaed98ca9e6ddc8bbc7193d6d10f1fd0&chksm=ebbc9c78f936f3804a4c4b3abee263099b4fedfc35826a997ad4936847e186ef494d7fea0b4f&mpshare=1&scene=1&srcid=1222cX1ZpqbMuBzyBbCFnSba&sharer_shareinfo=a8e3ab4846af71bcefd4fc7c4d5baa42&sharer_shareinfo_first=a8e3ab4846af71bcefd4fc7c4d5baa42#rd

相关文章