时间倒回前几年,如果小雷和小伙伴们聊聊AI,你们可能觉得我在天方夜谭?

彼时AI留给人们的印象,还停留在科幻电影的智能机器人、智能生活助手等等。

真要说起来,离我们最近的应该就是手机里头,那个脑袋不太聪明的语音助手。

语音助手句句有回应,但是回得对不对就是另一回事了,你说对吧,Siri?

但放到现在可就不一样,这几年AI发展有多快大伙看在眼里,AI元年早就来喽。

在图片、视频、音频以及文字等领域,AI已经玩出了花,甚至可以说是「颠覆」。

就拿应用最广泛的图片AI来说,其实在我们平时的生活里,现在已经随处可见了。

户外的广告牌、电梯里的海报、商场里的促销图……大伙琢磨下是不是这么回事?

不仅如此,很多APP还加入图片AI方面的功能,然而随之而来的却是争议的声音。

苹果和谷歌先后下架相关APP,国内手机厂商也禁止操作,这到底是怎么回事儿?

苹果谷歌下架脱衣AI APP

目前AI在图片上的应用,大概有这几类:AI生图、扩图、消除以及修复画质等。

这些都是很正常的内容,但有些别有用心的人,却以此开发出了一些恶意APP。

就在上周五,外媒404 Media报道:苹果和谷歌分别在应用商店下架多款自称能够实现「一键换衣」的APP。

「一键换衣」听起来很离谱,但其实这玩意可以看作是「一键换脸」的升级版。

图源:404 Media

早在2019年,就有程序员开发出一款名为「DeepNude」的「一键脱衣」APP。

开发者声称,给DeepNude一张女性图片,它就能靠神经网络技术,脱掉人物衣服生成未穿衣服的图片。

好家伙,这个APP要是落到歪脑筋的人手里,那可不就是妥妥的不雅照生成器吗?

结局是为了防止DeepNude被滥用,最终开发者选择关闭DeepNude的网站和APP。

图源:IT之家

如果说DeepNude只是独立开发者的小打小闹,那如今在苹果和谷歌应用商店上架的「一键脱衣」APP,是怎么通过审核的呢?

据报道,这些APP很多都来自Meta平台的广告库,这些恶意APP的广告一般在Meta旗下的平台投放。

用户一点击广告就会跳转到苹果或谷歌的应用商店,也就是说,用户压根不用自己搜索「脱衣」等关键词就能找到类似APP。

而且这类AI APP通常被包装成其他AI生成类APP,开发者大概率就是通过这种方式,躲开苹果和谷歌应用商店的审查机制。

费了这么多功夫,APP开发者肯定不是用爱发电,而是通过「一键脱衣」功能赚取不义之财。

好在经过外媒报道后,苹果和谷歌也作出了实际行动,下架了多款「一键脱衣」APP。

Meta平台也在积极收集恶意广告链接下架删除,还表示接下来将加大审查力度,针对违反规定的政策采取措施。

图源:indianexpress网

AI消除敏感图片被禁

除了上面这事儿,小雷发现国内手机厂商,也针对「AI消除」作出了一些限制。

我没记错的话,手机拥有「AI消除」这功能,应该是从去年开始才流行起来的。

AI消除能通过AI技术,较完美地去掉照片中多余的人和物,让照片看起来更简洁。

左 AI消除前 右 AI消除后 图源:小雷手机截图

只是不知道哪个神人突发奇想,竟然把AI消除用在了消除女性照片胸部的位置。

咳咳,结果一些手机的AI消除功能,就把衣服给消除,甚至还把人体给补齐了。

AI本来是根据边缘背景进行计算,修补后的效果看着的确和谐,不能怪它不行。

还是那句话,有人不怀好意的话,这个功能确实能生成一些本不存在的不雅照。

图源:网络

这事当时挺多人关注,不过经过媒体报道后,主流品牌手机的AI消除都作出了限制。

现在对照片中的人体敏感部位使用AI消除,会出现「图片可能包含敏感信息,无法使用此功能」类似的提示。

如果涂抹的是其他地方,则AI消除可以正常使用,小伙伴们可以试试自己的手机,应该都有这种限制了。

图源:小雷手机截图

AI图片是把双刃剑

苹果谷歌下架「一键脱衣」APP,手机厂商禁止AI消除敏感照片,AI图片已经发展到了这个程度。

其实从AI在图片上的实际应用来看,它更像一把双刃剑,在带来方便的同时也带来了一些麻烦。

AI图片的好处很多:在摄影行业,可以帮助摄影师后期美颜和降噪;在设计行业,可以让设计师少些繁琐的画图工作;而在自媒体行业,小雷发现已经有一些同行使用AI为文章配图,AI生成图既符合文章大意,又不会有侵权的风险。

AI图片的麻烦也不少:一键换脸、一键脱衣、一键无中生有增加人体细节……,AI在关于人的隐私安全方面,依然还有不少漏洞会被不法分子钻。

虽然每次曝出类似新闻的时候,相关企业或者平台都能及时行动,作出或下架或禁止的举措,但总是要等事情发生后再亡羊补牢,往往就容易出岔子。

AI图片应用之路才刚刚开始,小雷觉得前面这些案例,已经足够让AI开发者们得到警示喽。

在开发AI更多新功能时,AI开发者们应该提前考虑新功能落地后,可能会出现的负面操作和影响。

能在落地前解决自然最好,如果不能推迟落地或者采用更合理的方式实现原先方式80%的效果,也不是不行。

总之,小伙伴们还是要以合理眼光看待「AI图片」,小雷也相信AI未来的发展会越来越好。

封面图源:苹果App Store&网络

4月25日-5月4日,北京国际汽车展览会(北京车展)正在火热进行。本届车展以“新时代新汽车”为主题,是“汽车从电动化走向智能化”的风向标。

雷科技旗下“关注电动车,更懂智能化”的账号电车通已派出豪华报道团,正在北京车展现场,进行一线专业报道,欢迎关注“电车通”获取一手专业现场报道。

友情提示

本站部分转载文章,皆来自互联网,仅供参考及分享,并不用于任何商业用途;版权归原作者所有,如涉及作品内容、版权和其他问题,请与本网联系,我们将在第一时间删除内容!

联系邮箱:1042463605@qq.com