加载中...

地址发布 老王说明书 宣传中心

[转载搬运] 本地部署ai小说软件 [1+56][百度盘]

查看数: 66788 | 评论数: 120 | 收藏 1622
关灯 | 提示:支持键盘翻页<-左 右->
    组图打开中,请稍候......
发布时间: 2024-3-9 21:20

正文摘要:

本帖最后由 15267158147 于 2024-3-30 11:15 编辑 & L* U# |. w7 M+ U, n 3 f' [5 y" V7 f9 S' d我内存不够了,我给你们一个启动器,你们下载之后它可以自己下载配置,记住不要更新,不然不能瑟瑟,还有里面的模型 ...

回复

15267158147 发表于 2024-3-10 11:21:47

大模型运行

本帖最后由 15267158147 于 2024-3-10 11:23 编辑 7 J4 L/ h( B4 m( e  ~(欢迎访问老王论坛:laowang.vip)

8 G  Z5 y. @0 I1 c: Y4 Q大是因为里面模型大,21G的大模型,14G的大模型,这模型你下了才知道有多折磨人,我帮你们下完了,就能直接用
15267158147 发表于 2024-3-10 12:11:46

解决不能使用的办法

本帖最后由 15267158147 于 2024-3-14 09:24 编辑 3 n* K4 m* o! L$ y( c; p, d0 `3 z(欢迎访问老王论坛:laowang.vip)

. f7 x1 ~, A8 ]! s# S3 \( A$ [如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到模型参数的strategy选择不同的内存,显存还是gpu运行方式,然后点击转换,就可以转换成你可以用的模型,然后点击加载,等到加载完成,就可以对话,写小说了,如果以上方法都不能解决你的问题,那么可以去B站搜索akkv,有详细的教程
15267158147 发表于 2024-3-29 16:52:50
我看了一下,不能瑟瑟的原因可能是因为更新了版本,你们试试不要更新版本
qi79361439 发表于 2024-3-10 18:20:35
15267158147 发表于 2024-3-10 17:55
4 m% \, v& [) ~6 C! D8 [你不带脑子怪谁,我都教你怎么降低内存使用了,再说里面还有小模型,你不会看吗
5 h2 U' c/ ?+ s& y5 C& s ...
% U, Y  Y+ p# N. R; R( f(欢迎访问老王论坛:laowang.vip)
这么强的攻击性啊?你那几个模型我都试了,都是16G吃满然后加载极其缓慢,我放在M2的固态都要加载十几分钟,加载完之后,聊天模型也有问题,回答速度也极其缓慢( u" M4 E' S  X! e) j. m$ n! M. ~(欢迎访问老王论坛:laowang.vip)
qi79361439 发表于 2024-3-10 18:40:46
15267158147 发表于 2024-3-10 18:25
  b9 b1 P1 O1 Y9 l- j- M1 }0 [' V你不适合这个,别玩了

* X/ B7 h! a0 B) O' x! Q" R% J2 k3 G已经删了,解压完74G,太占地方了,5币就当支持你分享东西了
wewewer 发表于 2024-3-10 12:12:33
15267158147 发表于 2024-3-10 12:06% d' u& W$ C: [3 h! R1 h1 G(欢迎访问老王论坛:laowang.vip)
如果模型加载不出来,可以下载里面自带的小一点的模型
6 w& {" D# H- ]! ~$ v(欢迎访问老王论坛:laowang.vip)
能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗?我在右上角模型栏不知道那个是14或者21的模型。
qi79361439 发表于 2024-3-10 11:22:32
感谢分享,下着玩玩
15267158147 发表于 2024-3-10 12:06:12
如果模型加载不出来,可以下载里面自带的小一点的模型
jieyaofeng 发表于 2024-3-15 00:30:01
咋破限啊,有点色色就被限制了
1710433739575.jpg
wewewer 发表于 2024-3-10 12:00:46
yeyumao01 发表于 2024-3-10 11:115 [2 E: l4 G8 X9 `3 |(欢迎访问老王论坛:laowang.vip)
老哥,怎么说?

( q$ @) [) V) \4 E# d  J$ g等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是拉满状态,这状态持续了10分钟左右了,如果是32或者64运存的可能会快点。目前是这样,还没读完,
youcaiqing 发表于 2024-3-10 11:43:15
这个,0购买量。有人试用过了么
六蛊阴 发表于 2024-7-2 08:11:07
楼主哪个模型是用内存啊?我显存4g。内存24g
liguisaya 发表于 2024-7-2 06:07:46
15267158147 发表于 2024-7-1 19:20
$ f. _2 T8 E0 r! [8 K; h) u$ O- Y+ X/ q- x内存不够

* r4 G/ c, z. @# z谢谢,已经找到原因了
15267158147 发表于 2024-7-1 19:20:43
liguisaya 发表于 2024-6-29 13:22# @. b+ G8 R! p; J/ o9 n(欢迎访问老王论坛:laowang.vip)
敢问楼主,老是出现“切换模型失败 - {"detail":"failed to load: cannot import name 'packaging' from 'p ...
, ], u& ~0 b$ a6 P2 m: P" c(欢迎访问老王论坛:laowang.vip)
内存不够
' }+ d8 z2 z. D& g
liguisaya 发表于 2024-6-29 13:22:15
敢问楼主,老是出现“切换模型失败 - {"detail":"failed to load: cannot import name 'packaging' from 'pkg_resources' (D:\\py310\\Lib\\site-packages\\pkg_resources\\__init__.py)"}”是怎么回事?
15267158147 发表于 2024-6-15 22:06:28
1931066429 发表于 2024-6-15 11:39
) {8 E2 G9 h) L+ q3 H. Z% }% @7 F老哥,一直提示:Python依赖缺失,是否安装?怎么搞啊

5 j, d" @5 Q8 |% u' @你看看是不是你的电脑当病毒删掉了
# d9 {; a/ n4 V5 v; K
1931066429 发表于 2024-6-15 11:39:01
老哥,一直提示:Python依赖缺失,是否安装?怎么搞啊
15267158147 发表于 2024-6-5 10:51:19
qdss123 发表于 2024-6-5 00:09
6 N, H/ d4 A3 m5 v打开方式是啥?我这一点打开全都是word,记事本啥的!

8 E) f- ^8 i5 z# b6 F6 x$ q: I一个启动器你要啥打开方式,双击算吗
$ J5 ^8 b$ b! z' W' X
qdss123 发表于 2024-6-5 00:09:07
打开方式是啥?我这一点打开全都是word,记事本啥的!0 i& K# i! P5 B1 b( u, ~3 K" [(欢迎访问老王论坛:laowang.vip)
15267158147 发表于 2024-6-4 19:49:29
罗天 发表于 2024-6-4 18:18
1 e9 o9 Y: ~4 h( r( L基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等…… ...

! v$ I% C- j- n3 n6 d+ T1 P你不要更新,把不平等啥的那段话删掉,、重新生成几次就好了6 y/ r2 g% L6 z# t+ f(欢迎访问老王论坛:laowang.vip)
罗天 发表于 2024-6-4 18:18:35
基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等……
15267158147 发表于 2024-5-31 18:00:01
568658203 发表于 2024-5-31 08:23
6 P$ a+ Z% ?+ S2 G我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直 ...
1 V" ?  d; J& {, ~- t(欢迎访问老王论坛:laowang.vip)
我给你个夸克网盘链接,模型都在里面,你自己下一个https://pan.quark.cn/s/35e34bfa3be41 h( }' t% Z- v(欢迎访问老王论坛:laowang.vip)
568658203 发表于 2024-5-31 08:23:35
15267158147 发表于 2024-5-25 19:08; w/ R) I. r7 w(欢迎访问老王论坛:laowang.vip)
可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
0 Q' b$ p/ ~' d: s! }; j(欢迎访问老王论坛:laowang.vip)
我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直接度盘发给我,我可以开个500币的悬赏, Q. X. `9 ^! z( S* a$ `( G/ R% O(欢迎访问老王论坛:laowang.vip)
s20201313 发表于 2024-5-28 10:44:22
可以用,不过需要自己去下载懒人包,然后现在楼主链接里只有exe的运行端了,21G数据模型没了,
15267158147 发表于 2024-5-27 19:02:46
568658203 发表于 2024-5-27 11:27
+ W. y( K* l/ y9 m; S我这不是慢,他是压根不开始下载

. N7 c" c- g$ r5 t2 U+ \0 c就是这样的,下的很慢,你过一会就要看一眼
8 [1 c0 c. h' n2 ^- V! p6 _1 g
568658203 发表于 2024-5-27 11:27:58
15267158147 发表于 2024-5-27 10:03
% E4 P2 H# s4 J9 b# m* D% J# D那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启 ...

7 O6 Z# l' s9 e$ B$ k. ^& ?' e我这不是慢,他是压根不开始下载
15267158147 发表于 2024-5-27 10:03:41
568658203 发表于 2024-5-27 09:37
- x7 {( B  \2 M  c) D; z: Y) C不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy:

+ `& x3 [+ s/ r9 v' G7 k+ p. E那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启动器了) p+ ]! a0 d3 N(欢迎访问老王论坛:laowang.vip)
568658203 发表于 2024-5-27 09:37:35
15267158147 发表于 2024-5-25 19:080 ]8 l4 w. Z8 u) O' j9 y6 g9 K(欢迎访问老王论坛:laowang.vip)
可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
8 `1 B" M' z0 P7 t5 S( e(欢迎访问老王论坛:laowang.vip)
不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy:# m' _: K- L  U5 l0 }(欢迎访问老王论坛:laowang.vip)
s20201313 发表于 2024-5-26 09:50:28
95933365 发表于 2024-4-14 21:44
# \) J& w2 c/ j  P# ~大佬,我想问下可以色色的对话是用的那个模型啊
' g' q; l" a% G9 Q(欢迎访问老王论坛:laowang.vip)
同问。所有模型都下载就太大了2 r+ i& \0 w! `; P" ?& T+ I(欢迎访问老王论坛:laowang.vip)
15267158147 发表于 2024-5-25 19:08:46
568658203 发表于 2024-5-25 13:00
/ P; q- g3 z0 u: o6 t; k; C我这模型根本下不了啊?
/ n# I0 [9 q0 V( h(欢迎访问老王论坛:laowang.vip)
可以下的,你要是有机场就比较快,因为这是国外的模型,会限流
3 S5 E% F0 L$ W' A
xq88 发表于 2024-5-25 16:32:45
可以用用,支持一下。

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图