加载中...

地址发布 老王说明书 宣传中心
【自行打包】是指含有本站宣传文件和解压密码是本站的默认密码的资源。具体说明及教程见公告区或者置顶贴。
自行打包资源审核通过后,系统会24小时内自动加精华,并自动奖励100软妹币、5政绩与10威望。

发帖选择来源分类时,非自行打包资源请一律选【搬运转载】,冒充自行打包资源的,多次发现直接直接封号!



发帖要求:

1.格式要求:软件名+版本+是否破解

2.预览图至少一张(自行打包资源请帖子末尾加上自行打包证明截图)

3.造福狼友为主,禁止欺诈,广告引流或者为自己谋利的一律举报封号

4.用户发现有虚假APP或有病毒木马、名实不符等问题请积极举报

5、解压密码禁止同行网址等方式进行引流
查看: 66309|回复: 120
收起左侧

[Windows] [转载搬运] 本地部署ai小说软件 [1+56][百度盘]

    [复制链接]
 楼主| 发表于 2024-3-9 21:20:45 | 显示全部楼层 |阅读模式
下载信息分类
下载方式: 百度盘
来源: 转载搬运
文件数量: 1
资源大小: 56
解压密码: 1234
解压软件: 压缩包解压

马上注册,结交更多好友,享用更多功能,让你轻松玩转社区。

您需要 登录 才可以下载或查看,没有帐号?免费注册

x
本帖最后由 15267158147 于 2024-3-30 11:15 编辑 4 {$ x# W7 S. |1 O! x3 H& D(欢迎访问老王论坛:laowang.vip)
4 P7 }% a! o, E3 }(欢迎访问老王论坛:laowang.vip)
我内存不够了,我给你们一个启动器,你们下载之后它可以自己下载配置,记住不要更新,不然不能瑟瑟,还有里面的模型你们也自己下一下,把它放到一个空白的文件夹里再启动7 |; J: U. c/ F; ~& ^; I(欢迎访问老王论坛:laowang.vip)
屏幕截图 2024-03-09 215101.png
回复

使用道具 举报

 楼主| 发表于 2024-3-10 11:21:47 | 显示全部楼层

大模型运行

本帖最后由 15267158147 于 2024-3-10 11:23 编辑 ! U! @2 E. D8 t0 C: ](欢迎访问老王论坛:laowang.vip)

& i* V* T8 V$ q6 h1 n; e& \大是因为里面模型大,21G的大模型,14G的大模型,这模型你下了才知道有多折磨人,我帮你们下完了,就能直接用
回复 支持 15 反对 0

使用道具 举报

 楼主| 发表于 2024-3-10 12:11:46 | 显示全部楼层

解决不能使用的办法

本帖最后由 15267158147 于 2024-3-14 09:24 编辑 , ^- D* X- B) b9 z3 v6 f' Y(欢迎访问老王论坛:laowang.vip)

+ E* H! _; q0 E4 w" o3 C如果你的模型加载不出来,你可以看看左上角你的什么比较大,内存,显存还是gpu,然后你可以找到配置,找到模型参数的strategy选择不同的内存,显存还是gpu运行方式,然后点击转换,就可以转换成你可以用的模型,然后点击加载,等到加载完成,就可以对话,写小说了,如果以上方法都不能解决你的问题,那么可以去B站搜索akkv,有详细的教程
回复 支持 4 反对 1

使用道具 举报

 楼主| 发表于 2024-3-29 16:52:50 | 显示全部楼层
我看了一下,不能瑟瑟的原因可能是因为更新了版本,你们试试不要更新版本
回复 支持 反对

使用道具 举报

发表于 2024-3-10 18:20:35 | 显示全部楼层
15267158147 发表于 2024-3-10 17:559 O9 _( S! r; G1 ^; m. T9 A5 j(欢迎访问老王论坛:laowang.vip)
你不带脑子怪谁,我都教你怎么降低内存使用了,再说里面还有小模型,你不会看吗- n  L" q9 d3 C0 H+ ?(欢迎访问老王论坛:laowang.vip)
...
9 v2 \' ^7 P9 K2 H  Q(欢迎访问老王论坛:laowang.vip)
这么强的攻击性啊?你那几个模型我都试了,都是16G吃满然后加载极其缓慢,我放在M2的固态都要加载十几分钟,加载完之后,聊天模型也有问题,回答速度也极其缓慢4 L9 K# j; ?! B  }/ }4 ~" U5 O(欢迎访问老王论坛:laowang.vip)
回复 支持 7 反对 0

使用道具 举报

发表于 2024-3-10 18:40:46 | 显示全部楼层
15267158147 发表于 2024-3-10 18:25
1 a4 p8 U0 x7 r/ l4 k你不适合这个,别玩了
/ ^. A+ Y  t3 \% F5 x(欢迎访问老王论坛:laowang.vip)
已经删了,解压完74G,太占地方了,5币就当支持你分享东西了
回复 支持 4 反对 2

使用道具 举报

发表于 2024-3-10 12:12:33 手机版 | 显示全部楼层
15267158147 发表于 2024-3-10 12:06" j+ Y5 ^4 }8 H7 g(欢迎访问老王论坛:laowang.vip)
如果模型加载不出来,可以下载里面自带的小一点的模型
4 y4 l* m1 S2 w$ \(欢迎访问老王论坛:laowang.vip)
能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗?我在右上角模型栏不知道那个是14或者21的模型。
回复 支持 2 反对 2

使用道具 举报

发表于 2024-3-10 11:22:32 | 显示全部楼层
感谢分享,下着玩玩
回复 支持 4 反对 0

使用道具 举报

 楼主| 发表于 2024-3-10 12:06:12 | 显示全部楼层
如果模型加载不出来,可以下载里面自带的小一点的模型
回复 支持 3 反对 0

使用道具 举报

发表于 2024-3-15 00:30:01 手机版 | 显示全部楼层
咋破限啊,有点色色就被限制了
1710433739575.jpg
回复 支持 2 反对 0

使用道具 举报

发表于 2024-3-10 12:00:46 手机版 | 显示全部楼层
yeyumao01 发表于 2024-3-10 11:11
. s3 }8 j* m* O; X+ d老哥,怎么说?

2 \, ~5 }5 B1 f! }) A& v0 V4 k等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是拉满状态,这状态持续了10分钟左右了,如果是32或者64运存的可能会快点。目前是这样,还没读完,
回复 支持 2 反对 0

使用道具 举报

发表于 2024-3-10 11:43:15 手机版 | 显示全部楼层
这个,0购买量。有人试用过了么
回复 支持 2 反对 0

使用道具 举报

发表于 2024-3-10 10:01:08 手机版 | 显示全部楼层
56g 怎么这么大
回复 支持 反对

使用道具 举报

发表于 2024-3-10 10:55:55 手机版 | 显示全部楼层
有用过的老哥说说嘛?
回复 支持 1 反对 0

使用道具 举报

发表于 2024-3-10 11:03:47 手机版 | 显示全部楼层
正在下载,等会儿回来反馈
回复 支持 1 反对 0

使用道具 举报

发表于 2024-3-10 11:11:07 手机版 | 显示全部楼层
wewewer 发表于 2024-3-10 11:03# h) j6 N* d! ]% W. D, W1 a(欢迎访问老王论坛:laowang.vip)
正在下载,等会儿回来反馈

! I8 l! K" [# N8 R( Y老哥,怎么说?
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-10 12:05:07 | 显示全部楼层
wewewer 发表于 2024-3-10 12:004 n+ a5 [9 R5 ?* _* k(欢迎访问老王论坛:laowang.vip)
等会儿,正在读模型,目前情况是,不吃gpu 不吃cpu 但是16g运存,两个ddr4的内存条直接拉爆,运存一直是 ...

0 O8 i0 ?- r  P! S你把那个配置又下角有一个载入显存乘数,你把那个拉到0,还有下面运用使用自定义cuda加速关了! x- N9 i8 f( \: s, W! B1 I& a* r" }0 x(欢迎访问老王论坛:laowang.vip)
回复 支持 0 反对 1

使用道具 举报

 楼主| 发表于 2024-3-10 12:13:59 | 显示全部楼层
wewewer 发表于 2024-3-10 12:12( {# q* j; G- @2 ~2 M7 P+ o(欢迎访问老王论坛:laowang.vip)
能加载出来,就是慢点,Python窗口开始动了就好了,楼主我这步没问题吧?你下载好的我可以不读直接用吗? ...
0 {% M% ?8 q1 z6 l; ?(欢迎访问老王论坛:laowang.vip)
这个一定要读的,我给的都是21G,14G的大模型,所以加载可能会比较吃力,不读就用不了
4 L: a5 Y) k  }; \1 W' y2 O5 O  K
回复 支持 1 反对 0

使用道具 举报

发表于 2024-3-10 12:18:00 手机版 | 显示全部楼层
好了,可用,很顺畅,刚开始加载时候可能会慢一点,你可以按照楼主在评论区的方法加载,加载之后就没什么问题了,很顺畅,结果秒出,可以玩玩。
回复 支持 反对

使用道具 举报

发表于 2024-3-10 12:19:15 手机版 | 显示全部楼层
15267158147 发表于 2024-3-10 12:13
+ i5 }1 y. @/ _这个一定要读的,我给的都是21G,14G的大模型,所以加载可能会比较吃力,不读就用不了$ S6 }9 }* G5 n2 X: Y; X0 t(欢迎访问老王论坛:laowang.vip)
...

3 r% \, q3 R1 ^: b' xok了,我去玩了,谢谢楼主!
回复 支持 反对

使用道具 举报

发表于 2024-3-10 12:36:17 手机版 | 显示全部楼层
15267158147 发表于 2024-3-10 12:13
# ^  {$ j, k( U" g0 O/ N# ~这个一定要读的,我给的都是21G,14G的大模型,所以加载可能会比较吃力,不读就用不了8 [4 T% b  i$ @+ [; K(欢迎访问老王论坛:laowang.vip)
...

) s8 e  Z1 g9 Q# b楼主,我有个问题,聊天或者续写右上角的模型选择栏只有3个绿✓,怎么才知道自己选的是你给的21 或者14啊?
回复 支持 反对

使用道具 举报

 楼主| 发表于 2024-3-10 12:40:46 | 显示全部楼层
wewewer 发表于 2024-3-10 12:36
9 V$ ~/ a6 @% e! d, d$ E8 q楼主,我有个问题,聊天或者续写右上角的模型选择栏只有3个绿✓,怎么才知道自己选的是你给的21 或者14啊 ...

2 A, t% F; x7 ^" X8 d9 N你可以打开模型文件,看看多大的,你就知道了2 a3 ^$ @3 Q& @9 O. u4 P, c(欢迎访问老王论坛:laowang.vip)
回复 支持 反对

使用道具 举报

发表于 2024-3-10 12:47:49 | 显示全部楼层
13900K 24C24T 占用80%0 A7 U/ t# J. q2 \, D5 b(欢迎访问老王论坛:laowang.vip)
DDR4 3600C14 32G 占用70%(22G左右)
8 U' v2 ~; z# F# v! {" V2 b" E* ~ROG 3080 12G 使用 GPU 2G配置 显存占用4.5G左右3 ?5 s" l8 n8 ~(欢迎访问老王论坛:laowang.vip)
正在下载GPU 10G配置 看看能不能速度更快. e+ W' V# k7 K9 T/ m5 e(欢迎访问老王论坛:laowang.vip)
先玩着 回头再来追评
回复 支持 反对

使用道具 举报

发表于 2024-3-10 17:48:50 | 显示全部楼层
我是16G内存,不够用,直接吃满了然后就卡死了,可惜
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 免费注册
点击进行验证

本版积分规则

我们不生产资源,只做资源的搬运工。

tags标签-春满四合院-AvGood-Archiver-小黑屋- |网站地图