内容摘要

科学技术的发展深刻影响了设计客体的属性变化，智能产品能够获取和处理海量的用户信息，给用户提供个性化的服务，同时也在重塑用户的实践经验和思维模式，这可能会导致诸多伦理风险和社会责任困境。本文以人机交互领域中的价值敏感设计(Value Sensitive Design)为主要基础理论，探讨智能产品的社会责任问题。首先，通过技术和设计两个视角明晰了智能产品不同发展阶段中，与伦理、价值相关的研究思潮。其次，根据“智能”程度将产品分为三个类别的代理身份，即收集者、行动者和创造者，并分别讨论其社会责任及挑战。最后，用不同的设计案例具体阐述对价值敏感设计概念的拓展和方法之应用，以适应社会技术系统中的动态互动关系，为未来负责任的智能产品设计提供更多的理论和实践支持。

关键词：智能产品、设计伦理、社会责任、价值敏感设计、智能代理

引言

二、智能产品设计的转向

人工制品或技术工件是社会伦理和价值的重要载体。随着过去几十年的技术发展，以及产品对人类生活和生产活动的深入干预，设计师的主要任务已经从设计“物品”（Objects）转向了设计“社会物质组合”（Socio-Material Assemblies）[3]。某种意义上说，物品作为一种可诠释的物理对象（Annoted Physical Object），其特定的属性、历史和关系（比如所有权、交互模式和意义创造），可以用来反映物理对象对人类社会关系的重要性。物品通过其出现、存续、关联和消亡这些事实而拥有不同于人类知觉的、自己的社会生活。此外，物品通过物联网彼此连接，其也是作为技术的“用户”，在整个价值链条中发挥作用。[4]

在虚实边界逐步消隐的数字化时代，人类和物品达成了一种互相塑造的紧密关系。承认并关注人与物之间的这种持续互动，需要赋予物品更加平等的角色，涉及设计学和人类学等多学科的理论与方法。然而，在当前人机交互和设计研究中，人类占据了中心位置。[5]近年来对于“非人类中心主义”方法的探讨，能够将设计师从人类的形式和能力中解放出来，考虑如何将非人类形象转化为经验和知识，不再将物品作为离散实体或者“工具”“商品”等概念来对待，而是探索它们参与社会活动的方式，以全新的眼光看待新技术中的全新问题，同时也可能发现传统的以用户为中心的设计方法无法看到的潜在设计机会。

在设计伦理的早期研究中，设计的社会责任主要满足人们对美的追求、为特殊群体设计寻求公平公正和彰显人文价值[6]，包括对概念的界定和对设计作品的批判性反思。思辨的主题从哲学伦理思辨到社会公共价值，极大地丰富了设计伦理的理论基础和指导方针，有助于研究人员在共识下探索如何在设计过程中融入社会责任。

参与式设计（Participatory Design）早在20世纪70年代就已经被提出，体现了设计对它所创造的世界和居住在其中的人们的生活负责的态度。[7]但是在90年代之后才和包容性设计（Inclusive Design）、可达性设计（Accessible Design）一同，逐渐被人机交互学者应用到研究实践中。随着智能技术的成熟化和普及化，智能产品可能导致的伦理和责任风险可能将会超出以往任何传统的非智能产品。信息网络安全和与之相关的数据伦理问题引发了更为广泛的讨论，设计所要承担的广泛而深刻的社会责任这一事实变得愈发严峻。可以看出，在设计伦理从“思辨”到被“实践”的过程中，更多的设计师开始思考将社会和个人价值纳入整个设计研究和实践的过程中的具体操作手段。[8]

面向智能产品的社会责任思潮和理论框架

1.人机交互领域的设计伦理发展

自20世纪80年代以来，人机交互社群内来自技术、社会科学和设计等多个背景的学者针对价值、伦理和责任问题展开了积极的讨论，且逐年呈增长趋势。在诸多学者2019年共同撰写的“人机交互七大挑战”之中，所有的挑战都与社会责任直接相关[9]，即：

（1）人类-技术的共生（Human technology symbiosis）；

（2）人类-环境的互动（Human-environment interactions）；

（3）伦理、隐私与安全（Ethics, privacy and security）；

（4）幸福、健康和福祉（Well-being, health and eudaimonia）；

（5）无障碍和普遍可达性（Accessibility and universal access）；

（6）学习和创新（Learning and creativity）；

（7）社会组织与民主（Social organization and democracy）。

这些挑战囊括了智能系统如何支持和尊重个体和社会生活，提供可信的、对人类有益的服务，以及如何改善更广泛人群（障碍人群、老龄用户等）的生活质量等。

计算机伦理和设计伦理皆可被追溯至20世纪50—60年代，其中前者直到20世纪80年代才随着计算设备的进步开始得到广泛讨论。如图1所示，根据智能产品自动化、数字化、智能化到生态化不同阶段的技术发展，人机交互领域的学者分别从技术和设计视角提出了多种伦理、价值和责任框架。其中，2000—2010年为重要的分水岭。起源于2003年的“负责任的研究与创新”（Responsible Research and Innovation，以下简称RRI）代表了学界对科学和技术应该扮演的社会角色的长期关注，它是预测和评估研究和创新的潜在影响和社会期望的一种价值观和程序方法，目的是促进包容性和可持续的进程和成果。[10]“负责任”意味着对不断变化的环境做出反应，关注所研发的技术在社会中的公共价值，应该产生何种社会影响以及如何促进这种影响，并通过改变创新的形式或方向来进行调节。RRI的发展对人机交互领域的伦理思辨产生了重要的促进作用，影响了“价值敏感设计”（VSD）的提出。后者在长达20年的发展中，演化成人机交互社群的核心共识之一，体现了工程设计中的价值转向和价值思考中的设计转向。[11]

图1.HCI领域的技术和设计伦理思潮

2010年之后，VSD的发展衍生出诸多理论和方法。比如“价值杠杆”关注价值观和伦理的讨论在人机交互研究中何时以及如何发生。“实时技术评估”和“社会技术整合研究”是在技术研发过程中纳入伦理和责任评估、并实时进行调节的方法。受安全性设计工程的启发，“伦理体系发展生命周期”将安全性和隐私风险分析的方法应用于其他人类价值。“说服性技术”旨在用潜移默化的手段鼓励用户进行对其有益的、产生良好价值的操作。与之对应的“暗黑模式”则探讨对用户进行不负责任的诱导、隐形设计所导致的恶果。从设计视角，负责任设计、反思设计、思辨设计、对抗设计等理论在产品所关联的社会责任的构建意向和承载方式上给予了多样的指导方法。

VSD比RRI更进一步，将伦理价值和社会责任置于新技术设计和开发的中心地位，要求设计师尽早就技术做出基于价值的基本决策，定位和解释直接和间接利益相关者，从概念开始识别潜在的伦理问题，包括了解所涉及的价值并进行设计，以及反思在多大程度上可以同时容纳不同的价值以及需要进行哪些权衡。[12]VSD具有全面发展的框架和历史，并通过在整个设计过程中以有原则的、全面的方式考虑人类价值，来解决设计实践中的价值问题。其在整合计算机伦理和设计方法的外层空间方面具有重要的影响，并为设计中的价值生成方法开辟了新的思路。

VSD的研究方法主要包括以下三个步骤：

• （1）概念调查阶段：识别受技术影响的直接和间接利益相关者，识别和概念化可能涉及的价值，并处理相互冲突的价值观之间的权衡，比如道德价值观（例如社会正义）是否应该比非道德价值观（例如美学）具有更大的权重；

• （2）实证调查阶段：利用参与式的定性和定量方法，识别受技术影响的利益相关者的价值观、经验和理解；

• （3）技术调查阶段：旨在了解技术本身的现有属性如何支持或损害价值，并且在技术规划中支持概念调查阶段中所确定的价值。[13]

VSD的局限性包括：其主要目标是创建设计指南，强调让未来的用户参与设计的过程中，重要利益相关者的价值占据主导地位，少有针对伦理责任基础框架的系统阐述。此外，也有学者指出VSD过于关注离散的技术事实，而不是整个社会技术系统。[14]在针对智能产品的技术开发和设计研究中，设计客体的复杂化、系统化和生态化等转变带来了对其所涉及的伦理价值和社会责任的新变化与新思考。原有的VSD研究方法，尤其是技术调查具有一定的局限性，需要新的视角来展开更加动态的分析。[15]不同智能程度的产品在人类生活中扮演的角色也不同，因此需要考虑的社会责任也不能按照同样的标准对待。本文综合了HCI领域的设计伦理相关研究后，基于VSD的基本理念，根据与产品智能程度相对应的社会代理角色来进行分层讨论，对VSD进行实践方法的扩充。

设计负责任的智能代理

1.产品作为社会中的代理：新的视角

随着智能产品的自主感知和行动能力的不断提升，它们也可以被看作是交互的主体之一。一个产品是通过与网络环境中的其他参与者（其他产品、人类）建立关系而实现情境化并获得能动性。因此，有必要基于智能和互联产品的本体论角度及其对用户生活的影响，来思考这些物品在我们生活中扮演的角色，进而构建人与物之间互动的意义。针对智能产品改变用户行为的潜力及其对社会产生可见影响的能力，Cila等人提出，“代理”（Agency）作为一种生成式隐喻（Generative Metaphor），可以为这些问题提供一种新的思维方式。因为它从一种社会建构的视角，解释了人类与交互对象生态系统沟通和工作的方式。[16]

产品的“智能”程度直接影响了其可能促生的关系。徐志磊提出，智能产品根据其能够完成的任务的复杂程度可被分为三个等级：（1）自动化产品：替代人的重复性工作，可以提高生产率、降低人工成本、可定制等；（2）智能化产品：具备一些拟人交互功能，包括自反应、自适应、自操作等；（3）人工智能产品：能够像人一样认知、思考和学习的智能体。[17]而Cila等人也遵循类似的规则，来区分三种不同的智能代理：（1）收集者（Collector）；（2）行动者（Actor）；（3）创造者（Creator）。

“收集者”也称为数据读取器，将传感器收集的数据聚合呈现给用户。收集者产品已经大量进入人类的日常生活，它们不仅能够感知环境因素、挖掘人类依靠自身能力无法获得的数据，还能够揭示人们的行为模式。从这个意义上说，它们也是一种“共同民族志者”（Co Ethnographers）[18]。

对于人类用户的隐私和尊严保护是收集者面临的最严峻的社会责任挑战。能够提供关于人类活动和生物特征的丰富信息的传感器可能会引发严重的隐私问题。居家摄像机提供视野内所有住户活动的详细时序和图像信息，但鉴于其对用户隐私边界的侵犯，一般只能在客厅等公共空间使用。相比之下，信息丰富性更低的智能传感器虽然不能提供有关每个人类活动的完整信息，却可以部署在房屋内的每个地方。隐私保护应成为收集者信息系统中的核心价值和第一道防线，而不是事后价值观。

此外，数据获取、存储、传送和加工等一系列处理手段的安全性和知情同意权，也是阻碍收集者与人类对象建立良好关系的重要因素，且知情同意权受到知情同意能力的限制。例如，智能辅助技术（IAT：Intelligent Assistive Technology）是为身体虚弱和认知障碍的弱势老年人设计的，然而技术的复杂性使得患者或其护理者难以充分理解他们所要同意的内容，缺乏同意使用的能力，使得他们对于技术和系统的接受度和信任度进一步降低。

智能摄像头是一种普及率很高的智能产品，从部署在门外保障门户安全，逐渐进入家中用于看护儿童和老人，然而在户内隐私保障的问题上令很多用户望而却步。清华大学未来实验室老龄化研究中心的研究人员基于VSD设计方法，举办了一场协同设计的参与式工作坊，邀请了6名老年人针对户内摄像头的隐私困境提出设计建议。参与者希望摄像头能像人的眼睛一样理解“什么时候可以看”，比如在听到异常响动、呼救等声音时自动开启并向预设关联的手机等网络设备发出呼救信号。同时，希望能简单清楚地控制和查看摄像头的状态，即摄像头的设计形态上须明确地体现出开和关的不同状态，避免自己和家人的隐私在不经意间被泄漏。最后他们还希望摄像头以不起眼的状态融入自己的居家环境，不给来访亲友造成心理负担。如图2所示，基于以上这些价值关键点，我们把摄像头的主色调和材质定为常见的白色塑料，以满足和谐融入家庭环境的诉求。同时，设计摄像头可以反转并产生物理遮罩的效果，底座保留声音检测，确保呼救可以及时被听到。最后在连接摄像头的手机上设置自动开关和休眠时间，最大程度上满足用户的个性化需求。

图2.保护隐私的智能摄像头设计

3.负责任的行动者

“行动者”也称为干涉主义者，在感知和解释数据的同时创建对话，对用户做出反馈和响应。用户在这个环境空间中能够感知到产品的行为，而产品也会自主地对用户的行为进行解释和理解。在这一过程中，用户和产品在日常互动中会产生泛灵化的情感体验，潜移默化地促进或者抑制用户的日常行为，可能以某种未知的方式对用户产生长远的影响。为了想象和批判性地思考这些可能的未来，思辨设计结合情感化设计的工作方法可以发挥较好的作用。

如图3所示，来自日本的情感陪伴机器人“LOVOT”一经上市就备受关注，它搭配了超过10个中央处理器和50多个传感器，可以感知周围的环境，通过扫描整个房间可以自主寻找主人。除了吸引人的外表设计和令人感到温暖的材质，可以和人们进行互动是它吸引人的最大亮点之一。通过机器学习来处理身体上的“收集者”检测到的刺激，以便实时采取行动。它全身部署的触摸传感器还可以用于识别自己受到刺激的位置。它们的角色会根据主人与它们的互动而进行可爱又温暖的改变，没有固定的回复。比如，当它们被触摸时会感到惊讶或转向触摸者以获得更多互动。不同于其他类型的机器人，LOVOT灵活的身体和不被预设的反馈满足了不同用户群体对陪伴的情感诉求，为心理亚健康人群和独居人群提供疗愈。同时，外观和材质的设计也为用户提供了视觉和触觉的多重审美体验。

“创造者”即人工智能，拥有高级的人类认知智能，包括学习能力和主动决策能力，通常集成了“收集者”和“行动者”模块。

创造者是数据驱动设计和人机共生未来的重要组成部分，但是由于目前创造者还无法真正拥有自主意识，虽然由它造成的价值侵害可能呈现显著的拟人性和复杂性，创造者当前仍无法成为责任主体。人工智能既是伦理的影响者，又是行动者，与其相关的社会责任挑战已得到了充分的讨论，包括：①面向应用场景中伦理冲突和决策的描述性研究；②强调人类主体，特别是设计者和控制者在人工智能研究和创新中的责任伦理；③制约社会智能化过程中的算法权力滥用，旨在保护人在智能化生活中的基本数据权利等。在这些讨论中，呼唤更加透明、可理解、可审核和可追责的智能系统，追问智能化的合理性及其与人的存在价值的冲突，从人机协作和共生而不是人机对立的角度探寻发展负责任的、可接受的人工智能的可能。[19]

此外，与收集者和行动者不同的是，创造者还可以促进数据驱动的文化与设计创新实践，将数据及其解释语境化，以支持人类的创造力。这使得设计师可以从全新的角度来改善和提高所有用户，特别是障碍人群的生活质量和生命体验，更好地保障他们对世界、社会及文化生态的理解、赏析、创造的能力和权利；同时更有效地将包容性设计融入全球化文化生态的叙事当中，比如社会责任主题的新媒体艺术创作以及非物质文化遗产的数字化保护工程等。[20]

清华大学未来实验室组织的“无障碍音乐装置设计工作坊”鼓励成员通过智能设备的集成，探索障碍人士在音乐感知、表演、创作中的创造性方法。其中Cosmic-R针对视障音乐爱好者在探索和创作音乐中使用复杂视觉界面的不便，将抽象的声音调制活动与日常生活中的具身活动做类比，转化为一种符合身体直觉的、对于物理实物的操作。界面中的触摸式电容传感器有近50个点位，还包含两枚压力传感器、十多枚压电陶瓷振动传感器，以及一个Joystick摇杆，能够综合获取体验者的动作信息。传感器数据经过解析处理之后，在软件中进一步进行音乐的调制加工。Cosmic-R的交互方式体现了一种“生成性”，即音乐的表演成为一种实时的意义生成过程，为视障人群提供一种认知负担较低、基于触觉感知的探索音乐方式。而OrchestraX是一款帮助视障乐手感知指挥，融入乐团的无障碍穿戴装置。系统首先识别特定的指挥手势，通过振动脚环上不同的振动模式向视障乐手传达指挥信息，帮助乐手在融合乐团的合奏中，以触觉感知适时地接收指挥传递的各类重要信息。小组探究了视障乐手在乐团合奏中需求更频繁、优先级更高的信息，聚焦乐曲段落起始、收束、乐手谢场等流程性节点和力度变化等动态信息的传达，通过机器视觉识别指挥手势，驱动乐手的脚环，提供适时适量、干扰小的振动图标提示。

结论

未来智能产品会趋于帮助人类完成更多的任务，它们不可避免地参与甚至渗透到人们生活的各个方面。来自不同学科的研究人员都在关注人工智能相关的技术和设计的伦理价值问题，其中价值敏感设计作为一种具备较高实操性的理论研究，可以帮助研究者密切关注构成我们社会技术世界的设计师、技术系统、用户和间接利益相关者组成的络合物网络中的伦理和价值风险。本文回顾了与智能产品设计相关的价值和社会责任的研究思潮，以及基于人机交互中的价值敏感设计理论和方法，提出了产品根据“智能”程度的不同，可被分为收集者、行动者和创造者这三个代理角色，并通过具体的设计案例阐述了如何在这个新的视角下将社会责任纳入智能产品设计。

人机交互的第三波浪潮强调情境化的设计，希望从狭隘的任务导向转向受关注更广泛的对日常体验的改善。智能产品已经影响了人类生活的常规，可能在不久的将来进而改变人类的文化和哲学。基于人工智能的数据驱动的产品挑战了当前以价值为导向的设计实践，然而有关技术应用的社会责任讨论通常滞后于技术的发展。为了更好地应对未来智能产品给人类带来的变革，有必要采取新的视角、拓展现有的理论框架和方法，讨论未来可能发生的设计形态和社会价值的改变。

《装饰》杂志欢迎您的来稿

E-mail：zhuangshi689@263.net

地址：北京市海淀区清华园清华大学美术学院A431   中国装饰杂志社编辑部

电话：010-62798189  010-62798878

邮编：100084

官网：http://www.izhsh.com.cn

建议邮件 书信亦可

在微信中回复“投稿”即可获得投稿须知

投稿1.5月后可致电（010-62798878）查询初审结果