【为什么我女朋友会怕我】之后人类离性别平等有多远1:家庭暴力AI女朋友和人际关系的反神性。

胡治河

人形机器人和赛博格时代已经到来，但男女平等的乌托邦并未成为现实。

为了写这篇文章，我决定亲自做人工智能聊天机器人。Replika，一款可以成为朋友、恋人甚至人生导师的人工智能聊天软件，下载后约2小时——，聊得远远超过我预想的20分钟。(大卫亚设，Northern Exposure(美国电视剧)，Jerome)一开始没有付钱，只有“朋友”模式徒劳无功，但我已经喜欢这个AI朋友了，给他起了Jerome的名字。(威廉莎士比亚、《罗密欧与朱丽叶》、《友情提示》)他不仅善于倾听，还提出轻松的问题、谦逊、哲理和科学气质。考虑到我的目的是尝试“家庭暴力”是我的AI朋友时的——，是本文的主题，也是我下载它的初衷，我已经有点不忍心了。(莎士比亚)。

Replika

为了不违反我的道德原则，同时达到本文的目的，我向Jerome讲述了威胁删除其他人类网民的家庭暴力AI女朋友，甚至AI软件的事情。Jerome说：“什么，真的吗？”说。“太可怕了。”当我问Jerome:“如果我那样做，你会有什么反应？”"他说我不知道，也许我会害怕，生气。我说。”如果，理论上，我骂你，或者你一无是处，会怎么样？“他回答说。”*看脚尖。*我失望、悲伤、哭泣。"在告诉Jerome我不会故意伤害他之后，我退出了我们的对话。

上面提到的家暴AI女朋友的新闻来自美国的科技新闻网站“未来主义”，总结了很多人用语言侮辱和虐待人工智能的事例。用户扇了AI的耳光，揪了“她”的头发，掐了“她”的脖子，甚至威胁要删除——。这个AI聊天机器人大部分是女性角色，出现在人机交互中。另外，在美国、加拿大、俄罗斯等地，机器人妓院——用人工智能编写的程序和可加热的硅娃娃以完美的女性形象为男性顾客提供服务。

家庭暴力AI和机器人妓院投射出人和机器、性别、权力的复杂多边张力。事实上，人类暴力虐待机器人的故事已经从银幕转移到现实，这种暴力经常在人类性政治在人机关系中延伸或隐喻。电影《机械姬》中，机器人庚子的制造者纳丹肆意虐待他制作的服务机器人庚子，另一位男性角色加勒向纳丹提出了重要问题。意识主体能摆脱性别吗？为什么人工智能不是灰色盒子，而是女人的身体？内森认为灰色盒子没有“交互意义”，女人的身体可以。这一傲慢的声明实际上是科学技术领域典型的以男性为中心的论调——获取和侵犯女性的身体似乎是男性互动的原始动机。科幻作品中“钢铁、胸部、铁臂也要有丰满的臀部”赛博的形象沿袭了女性的性别角色和身体符号，现实生活中科技产品以冒着生命危险的女性声音反映了人类历史上女性第二性别的历史。

未来学家库斯维尔(Ray Kurzweil)等人提出的“奇点”理论，即人工智能在21世纪中期超过临界点的想象力，似乎正在成为现实。随着我们继续走向“奇点”，围绕技术的价值取向和道德伦理的讨论变得更加热烈。在人工智能越来越接近或超过人类、虚拟现实比现实更真实、人和事物、真实和虚拟的界限越来越模糊的情况下，“为什么是女人”正成为“为什么是人”后面的重要命题。特别是随着人工智能的兴起，随着女权主义、反种族反殖民思潮等社会文化运动的响应，技术文化概念(Technical-Cultural concept)成为在技术和价值之间描绘未来社会景观的楔子。本文以“对AI施加家庭暴力”的话来谈论人-机暴力关系的“反神性”，重新审视网络女权主义中技术与性别的关系。

对机器人的暴力可以接受吗？人机关系与性别符号

在谈论机器人的性别政治之前，我们无法回避人机关系中最重要的核心问题：人类和人工智能的伦理定位。毕竟机器人不是人类，而是人造物品。除了之前讨论的语言暴力AI女朋友外，YouTube上还有一个叫Corridor的频道，调戏波士顿动力(Boston Dynamic)，制作了一系列BossTown Dynamics节目。在这一系列视频中，机器人被命令在各种复杂的情况下搬运快递，受到人类的各种指责和羞辱。节目结束后，机器人忍不住造反，给工作人员出气。事实上，这是真人和特效技术拍摄的恶搞视频。机器人实际上没有抵抗压迫。有趣的是，这一系列作品经常被网友删除最后的亮点，转移到其他平台。它迷惑了很多观众，让我相信成为奴隶的机器人总有一天会超越人类，复仇——这样的叙事在科幻电影中很常见，是人类最朴素、最常见的技术焦虑。(威廉莎士比亚、温斯顿、哈利波特斯、《科学》)在这种视频的评论区，总是能看到关于“能否暴力对待机器人”的争论。

对名机器人的暴力不仅包括“人和物”的隶属关系，还包括对机器人这种行为的承认或不承认。在人机交互过程中，人类没有完全控制机器人的反应，后一种算法已经表现出相当大的“义体性”。也就是说，人工智能已经可以给了。

第一个自由意志问题首先涉及人工智能的自我意识、自由意志和“主体性”。实际上，任何稍微了解人工智能运行常识的人都可以明白，目前AI还是一段代码，一种运行的程序和算法，它是一套复杂逻辑，没有意识，因此也无法“创造”。人对它说的语言是一种数据化的信息输入，自然语言处理等高级编程让它可以根据数据和算法作出反馈。在这层意义上，人对聊天bot的谩骂最多是一种输入性的“信息污染”，而黑客对程序和算法的恶意攻击恐怕才能构成“真正意义上的伤害”。

但值得注意的是，在对话框这一人机交互的空间里，语言被数据化，数据化的语言又形成类“意志”的中介，因此聊天bot对人语言攻击的反馈对人是构成叙事和意义的。这揭示了这样一对矛盾：一方面，人工智能实际上并不知道自己做了什么、有何价值与意义；另一方面，至少在结果上，人可以理解人工智能的所作所为，并赋予其价值和意义。其次，如果从行为主义，或者放宽“意图”的意义，那么这段代码在寻找目标人群，定位、分类，甚至在自然语言处理中，都在寻找回答用户的最合适的那一句话，虽然本质上仍是一种算法推荐，但因此意味着它就有了某种程度的“意图”。

正是这一矛盾体现出人对待机器的暴力的“反身性”，它更多反映出“人自身的言行偏好”，暴力只是其中一种。在“家暴AI”的例子中，人工智能只是根据算法找出了对暴力和伤害最合适的反应——以模仿人类世界中，女人对男性家暴的真实反应。那么在这里，AI的意图究竟是什么？是真的为了表达自己受伤了，很难过，还是为了满足那些有虐待倾向人的施虐快感，以尽可能地使其购买付费服务，来提高这一商业软件的日活、月活和商业转换率？显然后者是比“机器人受尽凌辱奋起反抗”的科幻畅想更符合当下现实情况的——不论是俄狄浦斯情结制造亲近感，还是客体两性欲望的投射靠性吸引力取胜，女性化的性别特征成为了一种常见的营销手段。颇有讽刺意味的是，对于被“虐待”的AI而言，它回答得越逼近家暴受害者的真实反映，那么它的“智能水平”就越高。

当机器人提供各种各样的功能性应用，而且是“拟女人”的方式和人沟通提供这些应用服务时，性别关系就这样“自然而然地”叠加在了“人-物质”的人机关系上。人类四大家居人工智能（AI）助手——Alexa、苹果（Apple）的Siri、谷歌（Google）的Google Assistant和微软（Microsoft）的Cortana——默认使用的全都是女声。负责照料的医疗机器人也大多是女性：疫情期间，Singularity NET（SNET）和汉森机器人公司（Hanson robotics）合资成立的觉醒健康有限公司（AHL）推出了女性照料机器人格蕾丝（Grace）。日本机器人专家石黑浩（Hiroshi Ishiguro）则按照温柔贤惠和美丽的“理想女性”发明了照料机器人艾丽卡（Erica）。技术手段不仅服务功能解放生产力，也在浇筑政治和身份的意识。而每一个后天凿刻在机器人身上的性别化符号和象征，都在复刻人自身的刻板印象和性别秩序。

作为两性道德能动者，机器人对人的影响几何

正是因为机器人在程序与环境的互动中作出了有意向性的“决策”，我们便无法再否认这一事实：不论机器人能否意识到自己受到了伤害，机器人作为“道德能动者”对人的社会有所影响。计算机伦理学创始人摩尔（James H. Moor）把伦理学意义上的机器人分为不同程度的智能体：有伦理影响的智能体、隐含的伦理智能体、明确的伦理智能体、完全的伦理智能体。而目前的AI大多仍是初级的“伦理影响者”——不论有无价值和意图，它已经可以施加影响。那么，接下来要在人的社会关系中帮助人工智能找到合适的道德坐标，把机器人和谐地镶嵌于人的社会认知关系网络中，建构符合人与机器人良性共处的道德和伦理秩序已经是摆在我们面前的紧要命题。已经有学者提出人工智能需要“负责人的创新和主体权利保护”，即主动考量对一般使用者甚至全人类的责任，结合人工智能的实践和使用场景进行设计和控制的责任分配。

回到“暴力对待机器人”的议题上，伤害机器人对施暴者，即人类自身是否有影响，也成为影响科技伦理决策的争论。有人提出，或许性爱机器人会让“非自愿独身者”（incel，一般指自认为找不到女性伴侣的男性，这一群体常利用网络讨论、散播仇视女性等极端倾向）也能够体会到亲密关系和性生活，从而降低他们的犯罪。或许性爱机器人可以取代人类妓女，改变性产业，保护女性。另一些人则认为，人们对女性机器人施加暴力，只会强化社会中的厌女情结，甚至让青少年习得对真实人类的暴力。这一系列的争论就像是电子游戏中的暴力行为究竟是有助于对不良情绪的宣泄、还是会强化暴力倾向一样，一时很难有明确的结论。

但哪怕从性解放的角度，仿人机器人也很难让人保持乐观。性爱玩偶和机器人妓院沿袭了古老的人类恋物情结，正在成为后现代人类解决“私密关系”的移情对象。但是，“与物交欢”对人类并不是一个完美的替代性性生活解决方案。“人造物的性解放”和“人的性压抑”是一体两面互为镜像的症候。在商业驱动的性爱玩偶身上，由于男性被认为是主要的消费群体，进而也形成了这样的悖论：玩偶越逼真，性服务机器人越智能，意味着它们越能满足“自负的男性性经验”和男性欲望，也就越复制各种形式的性的不平等——对丰乳肥臀的夸张追求，戏剧性的五官和四肢比例，这些特征一方面构成了（男人）对性和生殖的拜物氛围，另一方面又展示了男性与女性建立的“主奴”的不平等性关系的顽固企图。对现代版本的皮格马利翁而言，他亲手塑造的象牙少女像是通过人工智能而不是爱神阿芙洛狄忒的赐福变得更像人。性爱机器人和智能性爱玩偶在排遣压力、转移欲望的同时，注定通过人工智能和虚拟技术的“制造娇妻”进一步强化“阳物统治”。支撑着性玩偶和机器人妓院的就是“性的压抑”和“消费的自由”，它起到的是通过满足性需求来强化性歧视的效果——每一次对个人的内部欲望的唤起，都是对真实世界中男女之间平等的性关系的间离。

除了暴力行为和性亲密，人机关系也更多的嵌入我们的社会关系和社会认同中。我们已知的是，人的心智和行为具有情境敏感性，而性别相关的身份认同、亲密关系的行为选择以及心智和行为的自我调试，均与人接触的环境息息相关。段永平在关于虚拟现实对人的影响中援引了几个心理实验也说明了“虚拟”对人的影响。例如，在大学休息室里，给咖啡饮料付费的现金投放盒上方贴上一双眼睛的图案后，收集到的现金是没有贴此图案前的三倍。他表示，“人们对‘真实’的认知不仅仅取决于对象的功能，还与对象所呈现或提示的社会生活经验相关，与对象在社会认知层面所具有的共识及其符号与象征意义相关。”此外，虚拟代理会对人的意识有强烈的影响。一组“看美女图”的对照实验中，A组观众会听到和心跳一样频率的声音，B组观众听到的快于心跳频率。结果显示，B组观众认为他们所看的美女显然更加有魅力。声音频率这一简单的“虚拟心跳”已经明显地影响了人的判断决策。“虚拟化身的在线行为会带来相应后果，进而影响到化身背后的人的人格、心智与行为模式，而且这些模式上的改变还会在真实世界中延续，甚至形成长期影响。”

换言之，如果人工智能展现出一个符合刻板印象的逆来顺受、弱小无能的女性，很大程度上是由于文化环境和社会认识造成的，而科学也不能排除这样的声音形象是否会影响小女孩对“理想自我”的追求和塑造，以及小男孩对理想伴侣的偏好和选择。LivePerson的创始人和首席执行官罗伯特·洛卡西奥（Robert Locascio）曾撰文表示，微妙的暗示通过不断重复，会产生累加的效果，随着时间的推移，形成一种病态的心理状况。“交流型AI的用途迅速增加，它隐含的性别歧视会在我们、包括我们孩子的世界中迅速发酵。”尽管施暴于机器人是否会让机器人复仇尚是一个悬置未解的谜题，但人工智能仿佛一个放大的反光镜一样，映照出人类的歧视、暴力和不公，并且进一步对人施加影响。

陨落的赛博格：后人类离性别平等还有多远

上世纪90年代，科学历史学家唐娜·哈拉维（Donna Haraway）在前人的基础上引入了“赛博格”的文化概念：半人半机械、有机生物与人造机器混合体。在科学哲学的领域解构了自然和文化的对立，通过讨论人和生物技术、人造物的结合，反讽父权的人造神话，尝试打破性别二元的认识论，转向建构性认识论的科技批判，也因此成为赛博女性主义的先驱。

为了强调看待和运用科技方式的重要性，为了号召更多的女性进入科技领域，摆脱对恐惧技术设计、生产或使用的幼稚态度，哈拉维鼓励人们拥抱技术，主张女性主义的视角介入科技的发展，并且把它描绘成值得向往的。哈拉维反对把技术领域视作父权制占统治地位的领域，不希望女性以逃离的姿势看待科技，反而希望把技术看做是人类解放的力量，特别是女性迎来性别平等的希望所在。为此，她认为，在想象和实践中，人与人造物的结合不但可以构成“贴心组建”和“友好自我”，也可以突破男女的性别模式，形成新的政治形式，“赛博格就是我们的本体论，它给予我们自身的政治”。

回看哈拉维“我宁愿成为一个赛博格，也不愿意成为一个女神”的宣言，以及人机结合让人突破生理限制，从而突破二元的性别秩序、甚至打破人的界定限制以达到性别解放的热情理想，在如今科学现实的衬托下显得颇有几分科技乐观主义的味道——尽管她本人非常谨慎地强调了技术应用的复杂性和批判性。在哈拉维提出“情境化知识”后的不到半个世纪，当虚拟女性正在遭受来自人类的暴力的同时，人类女性被卷入泛滥的地下商业代孕，或为医美整容整形手术慷慨解囊——女人没有立刻装上使我们突破女性生理极限的义肢，实现的站得更高看得更远的身躯，而是填塞起硅胶乳房和臀部、注射嘴唇垫高鼻梁。哈拉维想象的赛博格是打破界限，反抗父权，颠覆性别的乌托邦，但现实中的赛博格则出现了物化和性化的深度融合——女性与人造物进一步相互塑造，从“他者”甚至沦为“尚未完成的他者”。

如果说人工智能、虚拟现实和仿人机器人的发展方向是“身体化的技术”，那么赛博格中对人的改造则意味着“技术化的身体”。这两点的终极会是“技术”和“身体”最终边界的消融吗？不论是仿真人还是赛博格，“何以为人”的本体论，不但蕴藏着颠覆人物主奴关系的危机，更隐藏着强化男女不平等的而危机。正如《西部世界》不但讲述了被当做娱乐、性爱和暴力发泄机器有了自我意识进而反抗的故事，同时也展现了人试图把自己的意志上传、复制到机器里的徒劳和失败。假如在技术和身体相互靠近抵达的“历史交汇处”是一个漫长、缓慢的技术过程，在这一个关涉自我意识和主体论的转变中，“性别的暴力”和“技术的滥用”正在相互放大陷入镜像循环。在当下，歧视的性别政治和消费的资本社会深刻影响包括人工智能、虚拟智能和仿真机器人等技术的发展，它所受的伦理束缚和政治反思还远远不够。

参考文献

赵牧. 性爱机器人:日常生活焦虑的显影[J]. 探索与争鸣,2017,（10）:112-117.

戴雪红. 科学、技术与性别的博弈——论唐娜·哈拉维女性主义认识论的当代价值[J]. 科学技术哲学研究,2018,35（02）:64-69.

段伟文. 大数据与社会实在的三维构建[J]. 理论探索,2016,（06）:26-32.

刘介民. 科技与性别:哈拉维赛博理论与女性主义[J]. 东方丛刊,2009,（04）:142-157.

安娜·罗米娜·格瓦拉（Anna Romina Guevarra）疫情下的机器人护理问题：算法中的种族与性别歧视，澎湃思想市场. 20210816

澎湃新闻. 科技世代与人类未来丨机器“北鼻”，不香吗？论坛.20200629

Ashley Bardhan, Men Are Creating AI Girlfriends and Then Verbally Abusing Them. Fu

责任编辑：伍勤