生成式 AI 普及,使网路充斥 AI 产生内容,日後 AI 模型开发也可能用到 AI 产生内容训练。不过研究发现,图像模型如果采「自给自足」,效果会越来越差。
史丹佛大学和莱斯大学研究员最近报告,生成式 AI 模型训练需使用「新鲜的真实资料」,否则效果会越来越差,还将这状况取名为「模型自噬障碍」,每版本进化时如果没有足够新鲜资料,一定会出错。
重复用 AI 产图训练模型,虽然可保留大概形状,但有不少肉眼可见瑕疵,人脸也越来越不像人。就研究结果看来,如果要继续开发 AI 模型,仍需真人照片或人类画的作品,才能使产生内容维持正常。但若日後有新技术能解决问题,训练模型时不再需要真实/人类资料库,也不太令人意外。
- AI Trained on AI Images Produces Terrible Results, Study Finds
(本文由 Unwire HK 授权转载;首图来源:论文)