编辑(jí)【导读】生成式AI火了(le)以后，限制输出(chū)内容(róng2l是多少斤 2l是多少kg)的就只剩(shèng)人(rén)们的(de)想(xiǎng)象力了。这不，两个高中生(shēng)用AI生成裸(luǒ)照(zhào)，疯狂(kuáng)在(zài)道德(dé)的底线(xiàn)游走。

生成式(shì)AI爆火之后，人(rén)们发(fā)现，这AI还真的(de)什么都能(néng)生成啊。

从ChatGPT生成语段(duàn)和用户自如对话，到AI生成(chéng)图像，再到(dào)搭载GPT-4的微软全(quán)家桶连ppt都能(néng)一键生成，好像没有什(shén)么东(dōng)西是(shì)生成(chéng)式AI做不到的了。

能是一(yī)方面(miàn)，怎么加以利(lì)用变现(xiàn)又(yòu)是另一码事了。

这不，国外几个(gè)不知(zhī)天高地厚的大学生，竟然用AI生(shēng)成(chéng)裸照(zhào)在(zài)Reddit上(shàng)卖。

甚(shèn)至(zhì)还(hái)大赚了一(yī)笔。

AI卖「黄」？

图片的(de)这个姑娘叫Claudia，她(tā)有着乌(wū)黑的长发，甜美的笑容(róng)。在(zài)社(shè)交(jiāo)媒体上，她会update自己的(de)心情，觉得自己美美哒。

然而在Reddit上，只要你(nǐ)跟她(tā)私聊，她就(jiù)卖你(nǐ)裸照。不得不(bù)说，在Reddit上(shàng)她还挺火(huǒ)。可惜(xī)，Claudia是个假的。社交(jiāo)媒体上的所有照片，包括上(shàng)面这(zhè)张，全都(dōu)是(shì)用AI生(shēng)成的。据两位合成媒体领域的研究人员说(shuō)，这一组(zǔ)Claudia的照片都是冲着坑(kēng)蒙拐骗去的。

总(zǒng)有人看不出这是AI，然后为此买(mǎi)单。最近，像(xiàng)Midjourney和Stable Diffusion这种能(néng)生(shēng)成图片的AI发(fā)展非常(cháng)快(kuài)，他(tā)们所展现(xiàn)出(chū)的创造性备受瞩目。但在Claudia之前，绘图(tú)AI一般都是靠生成一些逼真的艺术作品或者美(měi)丽的画作夺人眼球(qiú)。在Claudia之后，人们认识(shí)到(dào)用(yòng)AI生成假人的图片的功(gōng)能，还有这个让人意想不到的变现手段。

其(qí)实很多年以(yǐ)来，一(yī)部分新(xīn)技(jì)术的发(fā)展(zhǎn)都跟色情行业有那么(me)一(yī)点(diǎn)关系，AI图像生成看来(lái)也没能(néng)免俗。目前(qián)，Reddit上有好几(jǐ)千个账户都在(zài)搞(gǎo)AI图像生成——而且大部分生成的都是女性。带来的影响(xiǎng)就是，改变(biàn)了人们对(duì)于模特，和一(yī)部分演(yǎn)员的需求，同(tóng)时加深了人们对于物化女性这个议题的担忧(yōu)。

有(yǒu)人匿(nì)名表示，「反正也遇不(bù)到真(zhēn)人，就算(suàn)不是AI生(shēng)成的也(yě)遇不到真人(rén)，那她究竟是真是假又怎么样呢？」Claudia的(de)账户并没有做出回应。但(dàn)是有两位大学(xué)生表示(shì)，自己是该(gāi)账户(hù)的管理(lǐ)者。在接受「滚(gǔn)石」杂志采访时(shí)表(biǎo)示，他们从Claudia这(zhè)个账(zhàng)户挣了100美(měi)元。研究人员(yuán)继续出发(fā)，根据一些(xiē)AI图(tú)像生成器留下的蛛丝马(mǎ)迹(jì)，确定了几个(gè)女性用户的在线资料。他(tā)们判断，这(zhè)些头(tóu)像是AI生(shēng)成的。

就(jiù)像是Claudia的账户一样，这些账户也(yě)在Instagram、Reddit、推特和OnlyFans等论坛(tán)上分享女性的裸照，并标(biāo)明付(fù)费(fèi)以解锁更多图(tú)片。研(yán)究人员(yuán)联(lián)系了这(zhè)些(xiē)账户(hù)后这些账户(hù)没有对该问题做出(chū)任何相关回应。由于大部(bù)分AI图像生成的时(shí)候并没有任何水印，所以普通用户(hù)无(wú)法进(jìn)行(xíng)辨别。所以，有大量(liàng)的用(yòng)户被这些免(miǎn)费图(tú)片吸引，给这些账户(hù)留2l是多少斤 2l是多少kg(liú)言。因为，他们(men)相(xiāng)信这些照片是真的（也(yě)许是因为不(bù)在乎）。

为啥这么逼真？

AI生成图像的原理其实并不(bù)复(fù)杂。

在整个过程中，AI会先(xiān)生成一(yī)个(gè)较低分辨率的(de)图像(xiàng)，然后(hòu)慢慢增加细(xì)节和复杂度。神经(jīng)网络(luò)有(yǒu)很多(duō)层，每(měi)一层神经网络负责处(chù)理不(bù)同级别的特征。从简单的边(biān)缘和纹(wén)理，再到复杂的场景(jǐng)等等。各层神经(jīng)网络(luò)之间(jiān)互相连接，这样(yàng)AI就可以将(jiāng)不同层次上的特征进行组合。比(bǐ)如，AI可(kě)能会先确(què)定一(yī)个场景的大致布局的框架，然(rán)后在这个(gè)基础上慢(màn)慢添加其它物(wù)体或者(zhě)细节。在(zài)这个过程中，AI根据(jù)prompt调整该部分的组合(hé)，以(yǐ)生成相关图像(xiàng)。目前(qián)很(hěn)多AI生成器靠的是(shì)所谓的扩散(sàn)模(mó)型。任何人都(dōu)可以输入简短(duǎn)的(de)prompt，然后(hòu)免费得到一张(zhāng)足以以假乱真(zhēn)的图片。初次创建完还(hái)能进一(yī)步调教，让照(zhào)片变得(dé)更有(yǒu)说服力。底线在哪里？

技(jì)术说完了，事儿本身说完了，就该考虑一些(xiē)技(jì)术(shù)之(zhī)外的东西了(le)。

从大往小说，技术应该被这么应用吗(ma)？人人(rén)都可(kě)以免费(fèi)生成图片拿来(lái)变(biàn)现，今天是裸照，明天又会是什么？毕竟，无所不(bù)能(néng)的AI真(zhēn)的无所(suǒ)不能，人们的想(xiǎng)象力(lì)和鬼点子(zi)可是越(yuè)来越(yuè)多。而缺少相关法律(lǜ)法规约束(shù)的话，这种(zhǒng)行为只(zhǐ)会越来(lái)越多，并(bìng)且(qiě)难以控制。Claudia的管理者(zhě)面(miàn)对媒体的诘问，只要轻飘飘的说上一句，我这是假(jiǎ)的呀！就能逃脱任何指控了。再进一步(bù)，Claudia这个账户折射(shè)出(chū)了(le)女性所面临的一(yī)部分(fēn)社会问(wèn)题(tí)。物化女性等词(cí)汇本(běn)身(shēn)就(jiù)屡(lǚ)次(cì)出现(xiàn)在人们的(de)讨(tǎo)论之中。小编认为，这种生成的裸(luǒ)照显然是(shì)对女性的(de)冒犯，更不用说拿来传播得利了(le)。相信AI的未来一定(dìng)是利大于弊(bì)的，只不过在充满荆棘的道(dào)路(lù)上还是要谨慎前行(xíng)。

未经允许不得转载：腾众软件科技有限公司 2l是多少斤 2l是多少kg