编辑【导读】生成式AI火了(le)以后，限制输出(chū)内容的就只剩(shèng)人(rén)们(men)的想象力了。这不，两个高中生用(yòng)AI生成裸(luǒ)照，疯(fēng)狂在(zài)道德的底线游走。

生成式AI爆火(huǒ)之后，人们发现，这(zhè)AI还真的什么都能(néng)生成啊。

从ChatGPT生成语(yǔ)段(duàn)和用户自如(rú)对话(huà)，到AI生成(chéng)图像，再到搭载(zài)GPT-4的微软(ruǎn)全家(jiā)桶(tǒng)连ppt都能一键生成(chéng)，好(hǎo)像没有什么东(dōng)西是生成式AI做不到的(de)了。

能是一方面，怎么加(jiā)以利(lì)用变现又是(shì)另(lìng)一码事(shì)了。

这不，国(guó)外几个不知天高地厚的大学生，竟(jìng)然用AI生成裸照在Reddit上卖。

甚(shèn)至(zhì)还大赚了一笔。

AI卖「黄」？

图片的这个(gè)姑娘叫(jiào)Claudia，她(tā)有着乌(wū)黑的长发，甜美的笑容。在社(shè)交媒体(tǐ)上(shàng)，她会update自(zì)己(jǐ)的心情(qíng)，觉得自(zì)己美美(měi)哒。

然(rán)而(ér)在Reddit上，只要你跟(gēn)她私聊，她就卖你裸照。不得不说(shuō)，在(zài)Reddit上(shàng)她还(hái)挺火。可惜，Claudia是个假的。社交媒体上的所有(yǒu)照片，包括上面这张(zhāng)，全都是用AI生成的。据两(liǎng)位合成媒体领域的研(yán)究人员说，这一组Claudia的照片都是冲(chōng)着(zhe)坑蒙(méng)拐骗去的。

总有人看不出这是AI，然后(hòu)为此买(mǎi)单。最近，像(xiàng)Midjourney和Stable Diffusion这种能(néng)生成图(tú)片(piàn)的AI发(fā)展非常快，他们所展现出的(de)创造性备受瞩(zhǔ)目。但在Claudia之前，绘图AI一般都是靠生成一些逼(bī)真(zhēn)的艺(yì)术作品或(huò)者美(měi)丽的画作夺(duó)人眼球。在Claudia之后，人们认识到用AI生(shēng)成假人的图片的功能辍耕之垄上的意思，垄上的意思是什么，还有这个让人意(yì)想不(bù)到的(de)变现手段。

其(qí)实很(hěn)多(duō)年以来，一部分新(xīn)技(jì)术的发展都跟色(sè)情行(xíng)业(yè)有(yǒu)那么一点关系，AI图像生成(chéng)看来(lái)也没能免俗。目前，Reddit上有(yǒu)好几千个(gè)账户都在搞AI图像(xiàng)生(shēng)成——而且(qiě)大部分生成(chéng)的都是女性。带来的影响就是(shì)，改变了(le)人们对于(yú)模(mó)特，和一部分演员的需求，同时加深了人们(men)对(duì)于(yú)物化(huà)女(nǚ)性这(zhè)个(gè)议(yì)题的担忧。

有人匿名表示，「反正也遇不到(dào)真人，就算不是AI生成(chéng)的也遇不到真人，那她究竟是(shì)真(zhēn)是假又怎么样呢？」Claudia的(de)账(zhàng)户(hù)并(bìng)没有做出回应。但是(shì)有两位大学(xué)生表示，自己(jǐ)是该(gāi)账户的(de)管理者。在接(jiē)受「滚石」杂志采访时表示，他们从Claudia这个账户挣(zhēng)了100美元。研(yán)究人(rén)员继续出(chū)发(fā)，根据一些AI图(tú)像生成器留(liú)下(xià)的蛛丝马迹，确(què)定了几个女性(xìng)用户的在线资料。他们(men)判(pàn)断，这些头像(xiàng)是AI生(shēng)成的(de)。

就(jiù)像是Claudia的账户一样(yàng)，这些账户也在Instagram、Reddit、推特和OnlyFans等论坛上(shàng)分享女性的(de)裸照，并标明付(fù)费以解锁(suǒ)更多(duō)图片。研究人员(yuán)联系了(le)这(zhè)些账(zhàng)户后这些账户没有对该(gāi)问题做出任何相关回应(yīng)。由于大(dà)部分AI图(tú)像生成(chéng)的时候并没有任(rèn)何(hé)水印，所以普通用户无法进行辨别。所以，有大量的用户被这些免费图片吸引(yǐn)，给这些账户留言。因为，他们相信这些照片是真的（也(yě)许是因为不在(zài)乎）。

为(wèi)啥这么逼真？

AI生成图(tú)像的原理(lǐ)其实(shí)并不复杂。

在整(zhěng)个(gè)过程中，AI会先生(shēng)成一(yī)个较低分(fēn)辨率的(de)图(tú)像(xiàng)，然后(hòu)慢慢增(zēng)加(jiā)细节和复(fù)杂度(dù)。神经网络(luò)有很多层(céng)，每一层神经网络负(fù)责处理不(bù)同(tóng)级别的(de)特(tè)征。从简单(dān)的边缘和纹理，再到复(fù)杂的场景等辍辍耕之垄上的意思，垄上的意思是什么耕之垄上的意思，垄上的意思是什么(děng)等。各层神经网络之间互相连(lián)接，这样AI就可(kě)以将不同层次(cì)上(shàng)的(de)特征(zhēng)进行组(zǔ)合。比(bǐ)如，AI可能会先(xiān)确(què)定一个场景的大致布局(jú)的框(kuāng)架，然后在这个基(jī)础(chǔ)上慢慢添加其它物体(tǐ)或者细节。在这个过(guò)程中，AI根据prompt调(diào)整该(gāi)部分的(de)组合(hé)，以生成相关图像。目前(qián)很多(duō)AI生成器靠的是(shì)所(suǒ)谓的扩(kuò)散模型。任何人都可以输入简短(duǎn)的prompt，然后免(miǎn)费得到一张足以(yǐ)以假乱真的图(tú)片。初(chū)次(cì)创建完(wán)还能(néng)进一步调教，让照片变(biàn)得更有说服力。底线在(zài)哪里(lǐ)？

技(jì)术(shù)说完了，事儿本身说完了，就(jiù)该考虑一些技术之外的东西了。

从大(dà)往小(xiǎo)说，技术应该被这么应用(yòng)吗？人人都可以免(miǎn)费生(shēng)成图片拿(ná)来变现，今天是(shì)裸照，明天又会(huì)是什么？毕竟，无所不能的AI真(zhēn)的无(wú)所不能，人们的想象(xiàng)力和(hé)鬼点子可是越来越多。而(ér)缺少(shǎo)相关(guān)法律法规约(yuē)束的话，这种(zhǒng)行为只会越来越多(duō)，并且难以控(kòng)制。Claudia的管理(lǐ)者面(miàn)对媒体的诘问(wèn)，只要轻(qīng)飘飘的(de)说上一句，我这是假的呀！就能逃脱任何指控了(le)。再进一步，Claudia这个账户折射出了女性(xìng)所面临的一部(bù)分社会问题。物化女性等词汇本身(shēn)就屡次出现在人们的讨论之(zhī)中。小编认(rèn)为，这(zhè)种生(shēng)成的裸照显然是(shì)对女性的(de)冒犯，更不用说拿来传播(bō)得(dé)利了。相(xiāng)信AI的未来一定(dìng)是利大于弊的，只(zhǐ)不过在充满荆棘的道(dào)路上还(hái)是(shì)要谨慎前(qián)行。

未经允许不得转载：橘子百科-橘子都知道 辍耕之垄上的意思，垄上的意思是什么