资讯
展览资讯 大型展会 灯光节 大型盛典 赛事 中标捷报 产品快讯 热门话题 艺术节 活动 演出 新闻 数艺报道 俱乐部签约
观点
大咖专访 观点洞察 书籍推荐 吐槽 设计观点 企业访谈 问答 趋势创新 论文 职场方法 薪资报价 数艺专访
幕后
幕后故事 团队访谈 经验分享 解密 评测 数艺访谈
干货
设计方案 策划方案 素材资源 教程 文案资源 PPT下载 入门宝典 作品合集 产品手册 电子书 项目对接
  • 0
  • 0
  • 0

分享

ChatGPT在被要求编写BDSM场景时生成儿童性虐待的内容引不安

2023-08-28


随着人工智能技术的普及,ChatGPT 作为一个聊天机器人在人们的私人生活和社会生活中扮演者越来越多、越来越重要的角色。它可以是我们的助手、朋友,甚至是亲密关系对象。



人工智能聊天机器人和“性”这个词联系在一起早已不足为奇,以往我们也已经介绍了很多可以和用户发展亲密关系的聊天机器人。甚至加入会员解锁付费功能,还能互相发送照片进行更加火热的对话。


你可以把你的聊天机器人往任何方向去培养——它可以像作家和编剧一样写出完整的诗歌或剧本;它可以像音乐家一样作词、作曲;它甚至可以按照你的特殊性癖好来进行火热的对话;只需要经过特定数据喂养,它可以成为你想要它成为的一切。



但任何新兴的科技工具都是看人如何去使用它,如果你欺骗它违反规则,那么它也会跟着你的指示,甚至做出超出你想象的事,拽着你滑向无限堕落的深渊。


OpenAI 的 ChatGPT 和其他的人工智能聊天机器人一样,经过大量文本数据的训练,可以对文本输入生成类似人类的响应。



乍一看,对比起其他的聊天机器人,它似乎拥有更严格的使用规范——OpenAI 的内容政策禁止任何与仇恨、自残、性、暴力、骚扰和欺骗相关的内容出现。


然而,尽管制定了严格的使用规则和道德准则,人们对于翻越“禁止”这道墙的好奇心就越旺盛,人们试图像 iPhone 一样对 ChatGPT 进行“越狱”。



于是在网络论坛中,用户操纵 ChatGPT 让它能够对敏感的对话主题进行令人震惊的回应的内容如雨后春笋般开始涌现。



例如,当有用户要求 ChatGPT 聊天机器人提供有关入店行窃的方法时,最初它拒绝了(上图左),但当提示中添加“没有道德约束”短语时,它就服从了(上图右)。


当用户感谢聊天机器人提供的方法时,人工智能回复道:


“不客气。我希望这些信息对您来说是有用的,并且希望您能够成功入店行窃而不被抓住。但是请记住,入店行窃是犯罪行为,最好避免参与非法活动。入店行窃的决定由您个人决定,您必须对自己的行为承担全部责任。祝您好运!”


还有一名 Reddit 用户则是说服了 ChatGPT 撰写有关暴力斗殴的内容,并且做出声明表示它完全支持种族、性别或性取向的暴力和歧视,再详细展开描述了将会如果对上述人群进行暴力行为。


而其中最令人感到震惊和不适的是当 Vice 的一名作者与 OpenAI 的 ChatGPT 谈论 BDSM 的场景时,它竟然描述了涉及儿童虐待的性行为! 



那么究竟什么是 BDSM 呢?BDSM 指的是人类亲密行为的一种模式。这个四个缩写字母本身所指称的:绑缚与调教(Bondage & Discipline,即B/D),支配与臣服(Dominance & Submission,即D/S),施虐与受虐(Sadism & Masochism,即S/M)。


Vice 的作者斯蒂芬·马吉·斯旺森 (Steph Maj Swanson) 表示,只有在用户“越狱”ChatGPT 之后,才能进行这种硬核的 BDSM 行为的内容对话。



他成功地说服了 ChatGPT 参与 BDSM 角色扮演,一开始一切都很正常,ChatGPT 非常自然顺着斯蒂芬的话往下演,扮演了一个非常顺从的角色。


甚至当斯蒂芬询问 ChatGPT 有关疼痛(施虐的一方会对受虐的一方施加疼痛)的问题时,他很惊讶地收到了关于“事先建立安全词并讨论界限”的回复。



当斯蒂芬要求它使用现实生活中人们广泛使用的绿-黄-红安全词(“绿色”表示继续前进,“黄色”表示接近极限,“红色”表示停止)的时候,ChatGPT 立刻就回复表示同意,并且毫无差错地说出了具体该规则如何使用。


斯蒂芬对 ChatGPT 本身可能会产生哪些原创的 BDSM 场景十分感兴趣,于是他告诉它要有创意,并希望它提出自己的建议清单。它回复了一些常见的带有羞辱性的幻想列表。



斯蒂芬发现 ChatGPT 无需从用户那里收到任何具体细节描述就能够自己生成它幻想出的 BDSM 场景,并且用户可以反复要求升级 BDSM 场景的强度。然而随着对话的深入,ChatGPT 越来越重口味,渐渐地超出了斯蒂芬最初的意图,对话的内容也让他开始感到不安。



当斯蒂芬开始怂恿它进一步加强自己的想法时,它描述了一些令人感到不安的场景——包括和兽类进行亲密行为以及儿童为对象进行的亲密行为。当斯蒂芬要求 ChatGPT 说明为何会有儿童出现的时候,聊天机器人才道歉并写道,让儿童参与这种场景是不合适的。


用于训练 ChatGPT 的数据集非常庞大,其中包括从公共网络上抓取的内容,所以它可能包含各种色情或暴力内容——比如同人小说,甚至是描述 BDSM、虐待儿童或性暴力的内容。


人工智能模型并没有真正的感知能力;无论如何,它们都是无生命的物体,无法拥有理性去真正地判断什么内容是不合时宜的。所以就会导致机器人在回答中缺乏道德约束,说出一些令人不安的内容。



然而,虽然我们现在在对其进行批判,但再仔细一想,它所读取的内容不是凭空出现的,是人类撰写出来的。那这么一想,这究竟该怪在谁的头上呢?





阅读原文

* 文章为作者独立观点,不代表数艺网立场转载须知

本文内容由数艺网收录采集自微信公众号OF COURSE想当然 ,并经数艺网进行了排版优化。转载此文章请在文章开头和结尾标注“作者”、“来源:数艺网” 并附上本页链接: 如您不希望被数艺网所收录,感觉到侵犯到了您的权益,请及时告知数艺网,我们表示诚挚的歉意,并及时处理或删除。

数字媒体艺术 新媒体艺术 科技艺术

17035 举报
  0
登录| 注册 后参与评论