收起左侧

【飞牛相册】飞牛相册上传了45万张照片+视频,人脸识别最后聚合数据时崩溃

7
回复
485
查看
[ 复制链接 ]

2

主题

3

回帖

0

牛值

系统先锋体验团🛩️

2026-5-2 15:30:07 显示全部楼层 阅读模式
悬赏1飞牛币未解决

我的配置是I3-9100T+16G内存+P104-100-8G显卡,用的是SSD系统盘,16T企业盘存照片+视频。上传了45万个照片+视频之后(照片大约40万,视频大约5万个),每次全部识别完人脸之后,在聚合时最终就会出错。

做了一系列尝试:

1、安装以前的旧版本,至少尝试了不同时期的5个版本的飞牛,都不行,同样报错;

2、更换了不同版本的显卡驱动,至少3个版本,还是同样报错;

3、把照片分批次每次导入1/3,大约15万个左右,进行识别,还是报错。

4、把照片数据减少到2万个,这时候就不报错了。

但是每次识别2万个,这也太费劲了。

还有一个问题:

P104-100显卡,识别人脸的时候很慢,1秒钟大约3-4张,完全跑不出显卡的能力。显卡功率只有30多W。

但是用来进行场景识别,则可以跑到1秒20多张,是正常的速度,而且功率可以上到130W。

有没有大神知道这是什么原因导致的?

我已经折腾了半个月了,换了各种方法,都不行。

735a113a-85c4-4667-a3e8-99057a70cd21.jpeg

附件: 您需要 登录 才可以下载或查看,没有账号?立即注册
收藏
送赞
分享

本帖子中包含更多资源

您需要 登录 才可以下载或查看,没有账号?立即注册

x

12

主题

208

回帖

0

牛值

小有名气

2026-5-2 18:16:02 显示全部楼层

这个厉害了。。。加油。。。。数据量大。。

5

主题

14

回帖

0

牛值

江湖小虾

2026-5-3 13:45:46 显示全部楼层
显存问题,8个g略缩图差不多2万张照片,建议做好寻址规范,按文件夹分类照片,减少不必要照片再读取

2

主题

3

回帖

0

牛值

系统先锋体验团🛩️

2026-5-5 13:20:47 楼主 显示全部楼层

进行了几天的测试,发现是电脑内存不够,当需要聚合的照片达到5万张以上的时候,飞牛相册会把我16G内存+8Gswap 全部占满,导致相册聚合进程崩溃退出,从来最终报错,照片聚合失败。但实际上,人脸识别的数据都在,但就是不是显示。我试了几次,都是这个原因。

可以确定,不是显存的原因,因为显存一直占用很低。

我没有更多的系统内存进行测试,不过看B站上有博主进行几十万张照片测试,用的是32G内存,就可以顺利完成。

0

主题

1

回帖

0

牛值

江湖小虾

2026-5-6 15:25:11 显示全部楼层

厉害了

4

主题

78

回帖

0

牛值

初出茅庐

2026-5-8 19:06:54 显示全部楼层

1、换高主频CPU(主频越高越好,6核8核均可),可加快人脸识别,提高104的利用率

2、增加物理内存(越多越好,至少32G,我的12万张照片32GRAM可正常工作),如无法增加物理内存,就增大SWAP分区

3、分批次喂数据(照片)

上述优先级1,2,3

我觉得应该还相册存在BUG,我同样数量的照片,在极空间中进行识别,就没有任何问题。极空间才8G内存,N5105的cpu,速度是慢点,但是绝对不会报错。  详情 回复
2026-5-16 11:17

2

主题

3

回帖

0

牛值

系统先锋体验团🛩️

2026-5-16 11:17:18 楼主 显示全部楼层
pkoko 发表于 2026-5-8 19:06
1、换高主频CPU(主频越高越好,6核8核均可),可加快人脸识别,提高104的利用率
2、增加物理内存(越多越 ...

我觉得应该还相册存在BUG,我同样数量的照片,在极空间中进行识别,就没有任何问题。极空间才8G内存,N5105的cpu,速度是慢点,但是绝对不会报错。
你说的对,我追踪了一段时间这个问题,发现主要在两个过程: 1)图片预处理阶段:目前飞牛相册人脸识别图片的预处理阶段只调用的CPU,而没有调用GPU,同时也没有充分利用CPU的多核,从图片中截取单个人脸的过程非常  详情 回复
2026-5-19 11:02

4

主题

78

回帖

0

牛值

初出茅庐

2026-5-19 11:02:19 显示全部楼层
bxq1980 发表于 2026-5-16 11:17
我觉得应该还相册存在BUG,我同样数量的照片,在极空间中进行识别,就没有任何问题。极空间才8G内存,N51 ...

你说的对,我追踪了一段时间这个问题,发现问题主要出在两个过程:
1)图片预处理阶段:目前飞牛相册人脸识别图片的预处理阶段只调用了CPU,而没有调用GPU,同时也没有充分利用CPU的多核,从图片中截取单个人脸的过程非常耗时   
2)聚合阶段:耗时,CPU占用异常高

与之对比是同样的硬件,用飞牛的docker安装immich,其预处理,识别,聚合都比飞牛快很多

如要解决该问题:
1)最优的解决方案是优化软件,预处理阶段尽量利用CPU的多核,或者像其它类似软件一样直接调用GPU
2)如果软件解决不了,那就提高CPU的单核频率

可以参见我的贴子
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则