AI生成内容的冲击

最近这一年来,生成式大模型已经火爆天际,文生文、文生图、文生视频、图生视频等等,简直是百花齐放。

AI生成内容的冲击

虽然各行各业大多是一片叫好惊叹之声,但是大模型的流行也并不是百利而无一害。对于某些行业或者企业来说,生成式内容会对它们经过多年经验建立起来的体系造成巨大的冲击,以下简单列举几个行业:

教研行业

在教育和依托于教育的科研行业,生成式大模型被利用之后,会导致这个行业构筑的针对学生和老师的评价体系崩溃。

AI生成内容的冲击

当学生普遍采用生成式大模型完成作业或者论文时,老师将无法对学生做出正确的评价,甚至由于基础较差的学生更多的使用大模型,反而能够得到一个比完全自主完成作业的学生更好的评价。而在这种激励机制下,会导致越来越多的学生选择采用AI帮助完成作业或者论文,并最终挤压自主完成作业或论文的学生的生存空间,直至其被同化或者淘汰。

对于依托学校的科研工作,这个问题同样存在。当老师们采用大模型帮助自己完成论文的撰写时,也会导致学校或者科研团体对于该老师的科研水平的评价体系失灵,科研本身强调自主创新,然而在大模型的冲击下,会导致真正完全自主创新的老师,更加的难以得到出头之日。

把教研行业比作江湖的话,大模型就相当于《葵花宝典》,现在这本《葵花宝典》在江湖中公开了,它的威力大家也有目共睹。但是,要练这门功法,需要先阉割掉自己的“独立思考”能力;你若不练呢,江湖中大家都练了,甚至你得仇家也练了,你若坚持不练就可能被江湖中其他人干掉,最后会逼得你不得不练。当然,也不排除有些天赋异禀的人,如独孤求败、风清扬等,依靠自己能力也能打赢东方不败,但是这终归是少数。

做内容的媒体

现在,有大量以内容为王的媒体,主要就是依靠大量优质原创内容构筑竞争力,比如知乎、Bilibili、微信公众号等,而生成式大模型被利用之后,可能产生大量非原创且低质量的内容充斥在这些平台之中,会急剧的拉低这些平台的内容质量。

同时,由于大量AI创作内容在这些平台中占据主流位置之后,也会使得原创内容用户无法获得相对应的地位和收益,从而导致原创内容用户的流失。

AI生成内容的冲击

内容是这些媒体耐以生存的关键,内容质量的下降,以及原创内容用户的流失,会对这些媒体带来致命的打击。

大模型厂商

大家可能会觉得奇怪,生成式大模型本来就是这些大模型厂商训练出来的,为什么还会对他们有影响呢?

大模型厂商训练模型的基础是数据,只有高质量的优秀数据才能训练出一个优秀的模型,而当AI生成内容大量充斥在训练数据中时,会污染训练集,最终导致训练出的大模型越来越像它自己,而不是越来越像真实世界。

因此,大模型厂商为了保证自己的模型能够越来越接近真实世界,那就需要尽力的保障训练数据的优秀,保障训练数据不能被大量低质量的AI生成内容污染。

不过,对于大模型训练来说,AI生成的内容也并不是完全不能作为训练数据,一些优秀的生成数据也是可以作为训练数据对模型自身进行强化的。但是,让模型利用自身生成的数据不断强化自身是一把双刃剑,准确的生成数据能使模型越准确,而错误的生成数据也会使模型越错误,如何选择生成数据作为训练数据本身也是一个难点所在。


技术是一把双刃剑,没有放之四海而皆准的技术,往往一个新技术可能是“吾之蜜糖,彼之砒霜”。这里仅仅列出了少量不适合生成式大模型的行业或场景,AI生成内容的大量生产,必定会对一些行业造成巨大冲击,甚至毁灭这些行业。


返回:AI生成内容的冲击

本文由“公众号文章抓取器”生成,请忽略上文所有联系方式或指引式信息。有问题可以联系:五人工作室,官网:www.Wuren.Work,QQ微信同号1976.424.585