本帖最后由 15267158147 于 2024-3-10 11:23 编辑 7 J4 L/ h( B4 m( e ~(欢迎访问老王论坛:laowang.vip) 大是因为里面模型大,21G的大模型,14G的大模型,这模型你下了才知道有多折磨人,我帮你们下完了,就能直接用 |
本帖最后由 15267158147 于 2024-3-14 09:24 编辑 3 n* K4 m* o! L$ y( c; p, d0 `3 z(欢迎访问老王论坛:laowang.vip) 如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到模型参数的strategy选择不同的内存,显存还是gpu运行方式,然后点击转换,就可以转换成你可以用的模型,然后点击加载,等到加载完成,就可以对话,写小说了,如果以上方法都不能解决你的问题,那么可以去B站搜索akkv,有详细的教程 |
我看了一下,不能瑟瑟的原因可能是因为更新了版本,你们试试不要更新版本 |
15267158147 发表于 2024-3-10 17:55 这么强的攻击性啊?你那几个模型我都试了,都是16G吃满然后加载极其缓慢,我放在M2的固态都要加载十几分钟,加载完之后,聊天模型也有问题,回答速度也极其缓慢( u" M4 E' S X! e) j. m$ n! M. ~(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-3-10 18:25 已经删了,解压完74G,太占地方了,5币就当支持你分享东西了 |
15267158147 发表于 2024-3-10 12:06% d' u& W$ C: [3 h! R1 h1 G(欢迎访问老王论坛:laowang.vip) 能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗?我在右上角模型栏不知道那个是14或者21的模型。 |
感谢分享,下着玩玩 |
如果模型加载不出来,可以下载里面自带的小一点的模型 |
咋破限啊,有点色色就被限制了 |
yeyumao01 发表于 2024-3-10 11:115 [2 E: l4 G8 X9 `3 |(欢迎访问老王论坛:laowang.vip) 等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是拉满状态,这状态持续了10分钟左右了,如果是32或者64运存的可能会快点。目前是这样,还没读完, |
这个,0购买量。有人试用过了么 |
楼主哪个模型是用内存啊?我显存4g。内存24g |
15267158147 发表于 2024-7-1 19:20 谢谢,已经找到原因了 |
liguisaya 发表于 2024-6-29 13:22# @. b+ G8 R! p; J/ o9 n(欢迎访问老王论坛:laowang.vip) 内存不够 |
敢问楼主,老是出现“切换模型失败 - {"detail":"failed to load: cannot import name 'packaging' from 'pkg_resources' (D:\\py310\\Lib\\site-packages\\pkg_resources\\__init__.py)"}”是怎么回事? |
1931066429 发表于 2024-6-15 11:39 你看看是不是你的电脑当病毒删掉了 |
老哥,一直提示:Python依赖缺失,是否安装?怎么搞啊 |
qdss123 发表于 2024-6-5 00:09 一个启动器你要啥打开方式,双击算吗 |
打开方式是啥?我这一点打开全都是word,记事本啥的!0 i& K# i! P5 B1 b( u, ~3 K" [(欢迎访问老王论坛:laowang.vip) |
罗天 发表于 2024-6-4 18:18 你不要更新,把不平等啥的那段话删掉,、重新生成几次就好了6 y/ r2 g% L6 z# t+ f(欢迎访问老王论坛:laowang.vip) |
基本等于一秒一字,不过可以跑……谢谢大佬分享。但是一些拘束性的内容生成不了,说不平等…… |
568658203 发表于 2024-5-31 08:23 我给你个夸克网盘链接,模型都在里面,你自己下一个https://pan.quark.cn/s/35e34bfa3be41 h( }' t% Z- v(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-5-25 19:08; w/ R) I. r7 w(欢迎访问老王论坛:laowang.vip) 我这确实下不了,要不兄弟你帮我把所有要用到的组件全部下好,然后把完整的不用再安装东西可以直接用的直接度盘发给我,我可以开个500币的悬赏, Q. X. `9 ^! z( S* a$ `( G/ R% O(欢迎访问老王论坛:laowang.vip) |
可以用,不过需要自己去下载懒人包,然后现在楼主链接里只有exe的运行端了,21G数据模型没了, |
568658203 发表于 2024-5-27 11:27 就是这样的,下的很慢,你过一会就要看一眼 |
15267158147 发表于 2024-5-27 10:03 我这不是慢,他是压根不开始下载 |
568658203 发表于 2024-5-27 09:37 那我没办法,慢点就慢点吧,本来我都下完的,可以直接用,有人说太大了,然后我内存也不够了,就给一个启动器了) p+ ]! a0 d3 N(欢迎访问老王论坛:laowang.vip) |
15267158147 发表于 2024-5-25 19:080 ]8 l4 w. Z8 u) O' j9 y6 g9 K(欢迎访问老王论坛:laowang.vip) 不行啊,开着VPN还是下不了,一直都是暂停的点开就自动关上了:dizzy:# m' _: K- L U5 l0 }(欢迎访问老王论坛:laowang.vip) |
95933365 发表于 2024-4-14 21:44 同问。所有模型都下载就太大了2 r+ i& \0 w! `; P" ?& T+ I(欢迎访问老王论坛:laowang.vip) |
568658203 发表于 2024-5-25 13:00 可以下的,你要是有机场就比较快,因为这是国外的模型,会限流 |
可以用用,支持一下。 |