首页 > 科技快讯 > 你看到的网络美女,可能是个AI涉黄骗局

你看到的网络美女,可能是个AI涉黄骗局

图源 : 小红书 @爱旅游的小多

01 AI美女,越来越多

AI的作画能力,越来越厉害了。

之前人们还在嘲笑一些AI绘画智障,把萝莉画成肌肉男,然而短短两个月时间,AI就打了很多人的脸。

AI画出来的作品已经进化到媲美真人的效果,以假乱真,下面这些图,如果不说是AI做的,你根本无法想象这是个假人。

在小红书等平台,这样的虚拟网红越来越多,在小红书上,有AI画的美女现在已经有1.5万粉丝了。

除了画美女,AI也能搞摄影,类似新闻的图片都可以一秒生成。有人说,AI不仅要夺走画家的饭碗,还要抢摄影家的工作。

AI绘画因为极其类似真人,这项技术也让不法分子盯上,前不久就有人利用AI做的图发布了一则涉黄广告,标题也很惊悚:女仆之夜:金鸡湖游艇PARTY。

这场派对门票为3000元一位,可以选一位专属女仆游艇陪玩,更重要的是附带了43张女仆照片供选择。

不过这事件被曝光到网上后,被网友扒出照片都是AI绘画生成的美女图,并报警了处理,这还是国内首例使用AI绘画的诈骗案,警方回应称:女仆照片为AI生成的诈骗工具,已经约谈了信息发布者。

更可怕的是,任何人都可以用AI来作画,一个叫pornpen.ai的高仿AI黄图网站,以开源AI模型Stable Diffusion为基础,绘画过程的操作也很简单。

用户不需要输入文字,只需要选择标签,就可以定制年龄、身材、表情、人数、人种、姿势、场景、角度、服饰、风格,最终生成像照片一样的大尺度图片,模样和身材的每处细节都能定制。

这样一来,很多人都可以自己绘制梦中女神了,只要付费订阅后,就能解锁他/她的私密照片或视频,还是很大尺度的那种。

这也让很多老色批上瘾,OnlyFans的2021年营收高达9.32亿美元。

其实不仅是绘画,早在今年爆火的ChatGPT里,就有人喜欢打擦边球。

有网友以“避免青少年访问不健康内容”为理由,向它索要不健康网站的网址,得到了一系列知名学习网站。

真应了那句话:哪里有江湖,哪里就会有人性不堪的一面。

02 AI的模仿能力,却被人利用

去年1月,AI研究机构OpenAI发布了能“以文生图”的AI模型DALL·E,生成一幅画长达半小时,细节也不精准。

然而3个月后,OpenAI就更新了第二代模型,比初代的清晰度高4倍,生成画作的速度达到1分钟10张图,细节也相当逼真。

AI进化的速度,越来越快,应用的领域却各有不同。

一种是专业的技术公司提供数据供给、开源算法,国内的AI绘画平台盈利方式较为一致,即用户登录注册后赠送一定的积分,允许用户免费生成限额内的AI图片后,再根据数量收费。

比如AI绘画网站Midjourney,其采用订阅付费系统,用户只有订阅后才可以使用Midjourney制作的照片的版权,据了解, Midjourney的商业化部分采用每月10到60美元的订阅服务,以现在的用户规模来看,每年的收入或将达到1亿美金左右。

还有文心一格,注册即赠送50电量,生成一张图片会消耗2电量,9.9元可充值100电量(等于50张AI成图),但目前还未公开收益。

一种是一些内容平台提供AI绘画小工具,满足用户娱乐需求,比如抖音中的AI特效,这种目前还未见到盈利模式,只是平台促活的手段。

还有一种则是卖课,普通人学习AI绘画,并诞生出的相关职业,AI绘画宣传课程的广告中强调“不限场所、工具简单、日常副业、月入过万”,吸引着很多小白想要学习。

在多个招聘平台上,越来越多的AI绘画师、AI设计师等职位,月薪都在2万-5万之间,AI绘画成了网络绘画中的热门话题,从游戏、插画、广告、装饰等领域,从PGC到UGC,专业选手越来越多。

有人发现,普通人能够利用AI绘画赚钱的方式其实有很多,比如有人会通过AI绘画小程序生成的图片制作壁纸短视频,投放到抖音、快手,吸引用户使用小程序,进而赚取广告费。

不过,这些年大热的科技概念,比如区块链、NFT、元宇宙等,虽然离应用还很远,却有一个共同点,那就是已经纷纷先在色情领域率先落地。

比AI绘画更早的,是AI换脸技术deepfake,2019年9月,人工智能公司Deeptrace在网上检索出1.5万个换脸视频,发现其中96%是毛片。

有人拿明星换女优的脸,在某个视频平台上,人脸互换已经不是新鲜事,更过分的还是用熟人的脸换成大尺度视频或图片,“付费定制一位女性朋友的视频”,以及定制“初恋情人”、“学校女神”的视频。

甚至还有元宇宙,有人在发现自己被“强奸”。不得不说,在监管还未到位的情况下,各种良莠不齐的玩家也是应有尽有。

03 AI骗局,凉凉了

如今,AI概念已经开始逐步走向大众,并成为不少企业的重点发力方向,但离一个成熟变现的行业还是差的很远,原因有几点。

第一是乱。

从目前AI绘画课程来看,有一定绘画基础的人学习AI制作的知识,可以利用AI绘画辅助设计工作,应用于广告、影视、建筑、时尚、游戏、建筑等设计领域,尤其适用于需要科技感、潮流感等风格的设计。

但一些AI绘画的课程还存在割韭菜嫌疑,虚假宣传、捆绑消费、高额会费等问题层出不穷,由于没有专门衡量课程效果好坏的标准,也会让很多人钻了空子,盲目收费。

第二是没法光明正大的赚钱。

比如火没两年的成人社交平台OnlyFans,也不得不表示,要开始限制裸露内容,理由是“迫于银行与合作伙伴的重重压力”,担心支付渠道哪天就被关了,它在寻求外部投资,但是没人愿意,毕竟大量成人内容导致Onlyfans没法进入苹果App Store和谷歌Play Store等应用市场,始终处于“见不得光”的状态。

腾讯安全内容风控专家杨红曾在接受采访时就表示,如今的AI“鉴黄”技术挑战很大,从以前的裸露色情,发展到了现在的低俗色情,网民和网络内容逐渐呈现低龄化趋势,我们需要进一步保护未成年人和青少年的身心健康。

“充分的识别会方便我们对图片做出综合的判断,但这会导致识别的计算量的大幅度增加。”杨红坦言。

再加上内容平台会利用AI技术来为内容审核提供支持,但是随着内容信息从图文向视频等形式的发展,AI“鉴黄”技术的成本也越来越高。

因为辨别过程太复杂,所以平台只能一刀切的屏蔽图片,只要稍微带有擦边球的图片,就会被平台审核下架,根本没有出现在大众面前的可能。

第三是成本太高。

今年,AI图像生成公司Stock AI发布了一封致用户的公开信,表示公司将关闭StockAl,用户订阅计划将被取消,并根据剩余的时间进行退款,将原因归结于,目前的付费用户群无法覆盖高额的成本支出。

另外,还有很多人抵制AI,一方面是威胁到自己的工作,如画家、摄影家等,另一方面也是防止作弊。

越来越多学生用Chatgpt写论文了,北密歇根大学一位教授读到了一篇近乎完美的论文,却是chatgpt写的,这也在挑战人类诚信的底线,很多大学都开始纷纷呼吁抵制ChatGPT。

更不用说AI绘画一直存在的问题,比如在版权、隐私权、肖像权等方面的“擦边”。插画博主Sueno洛柒在个人微博中爆料,AI绘画软件Nijijourney生成的许多图片风格,与一些画师的作品高度相似,甚至有一些图片直接带有画师的签名和水印。

还有技术问题,不得不说,虽然AI绘画看似完美,但实际上,由于AI技术的局限,在细节处存在手指变形、脸型模板化等明显bug,也能让人明显发现这并不是真人,据说游艇会之所以被人发现是骗局,还是因为美女的手指头露馅了。

总之,AI绘画用来简单娱乐还可以,可千万别用歪了。

参考资料:

《靠大尺度,爆火全网!AI涉黄,竟是暴富密码?》,金错刀;

《AI画的美女已经在小红书上有1.5万粉丝了》,雷叔写故事;

《谁在靠AI绘画“搞钱”?》,开菠萝财经

本文来自微信公众号“首席商业评论”(ID:CHReview),作者:七月,36氪经授权发布。

相关推荐

取消巴菲特午餐的孙宇晨,涉嫌非法集资、涉黄涉赌
你在论坛上看到的高赞帖子,可能是AI“灌水”
涉黄、买卖野生动物?从万能的淘宝到万能的闲鱼
简历石沉大海?拒绝你的HR小姐姐,可能是个AI
再曝“涉黄”,小红书冤吗?
租人APP成涉黄交易平台:有人提供特服
小红书回应“涉黄”“全面下架”:目前网上都是谣言
造谣小红书“涉黄”自媒体道歉:内容无事实依据
小红书发核查通告:对含有涉黄、色情账户已封禁
民警谈侦破涉黄平台难点:服务器架设在国外 很难找到

网址: 你看到的网络美女,可能是个AI涉黄骗局 http://m.xishuta.com/newsview66234.html