数字经济中情感计算应用的消费者权益保护.docx

《数字经济中情感计算应用的消费者权益保护.docx》由会员分享，可在线阅读，更多相关《数字经济中情感计算应用的消费者权益保护.docx（27页珍藏版）》请在优知文库上搜索。

1、数字经济中情感计算应用的消费者权益保护关键词：消费者权益保护具体交易范式数字经济情感计算算法规制20世纪末，美国计算机科学家罗莎琳德皮卡德提出了将情感引入计算机运算的设想，意图研发一种“能够对人的外在表现进行测量和分析并能对情感施加影响的计算”，也即情感计算。2021年我国发布的人工智能情感计算用户界面模型(GB/T40691-2021)国家标准，将情感计算定义为：“在人机情感交互过程中，信息系统对用户情感的采集、识别、决策和表达J近年来，随着图像识别、语音识别、人脸识别乃至体态识别等技术的奇点式发展，以感知型人工智能为技术基底的情感计算开始逐渐渗透到数字时代人们社会生活的方方面面，在教育、医

2、疗、传媒、就业乃至执法司法等领域被广泛部署使用。其中，由算法定义的数字经济自然是情感算技术应用的重要场景。研究表明,数字经济中情感计算的应用具有吸引用户加入、增强用户粘性、促进商品营销、提高交易效率与成交比率等多重功能。在实践中，如阿里巴巴、亚马逊等域内外大型互联网企业也纷纷将情感计算嵌入商业平台，促进商业目标的实现。由此可见，情感计算在数字经济中的普及已然是大势所趋。数字经济数字性与经济性的结合，决定了情感计算等前沿数字技术必然参与到数字经济生产、分配、交换与消费的各个环节。而在数字经济已经创造出新的消费场景、消费模式、消费动能的情况下，消费作为市场经济的最终需求和最根本动力，也就理所当然地

3、是情感计算应用的主要场景，消费者也就成为数字经济中情感计算应用的主要对象。但是，正如欧盟人工智能法（草案）认为的“情绪识别系统”在特定场景中具有不可接受的风险，因此应禁止其在部分领域的应用，我国2023年10月发布的科技伦理审查办法（试行）也将“对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发”明确为“需要开展伦理审查复核的科技活动”。数字经济中情感计算的应用在使消费者充分享受到具身性数字红利的同时，也可能与消费者的法定权利存在内生冲突，带来侵害消费者权益的多维风险。因此在情感计算被面向消费者广泛部署的当下，有必要立足于这一场景中的消费者弱势地位，结合情感计算自身的技术逻辑

4、和技术特征，构建一套强化情感计算应用中消费者权益保护的具体方案，以确保商业创新与伦理道德、技术发展与权利保障之间的价值平衡。一、场景考察：数字经济中面向消费者的情感计算应用样态现阶段，情感计算的实施总体可以分为两类：一是计算的结果仅用于被计算者本人，即通过情感计算帮助被识别者自身改变情感状态、优化情感体验，如医疗场景中通过情感计算改善患者情绪，治疗抑郁症、精神分裂症等；二是计算的结果由被计算者之外的主体应用，辅助其进行相关决策、实现相应目的，如招聘、执法等场景中的应用。当前的数字经济中，经营者对于消费者的情感计算应用显然就多属于后者。平台、商户在以下场景通过情感计算对消费者情绪、情感的收集与分

5、析，形成颗粒度极细的用户情感画像，以此促进消费者的消费与再消费。1.差异化广告营销区别于实体经济中广告牌、宣传单等传统低效的广告营销模式，数字经济中经营者通过情感计算可以识别消费者的客群属性与消费意愿，对消费者进行差异化的商品推荐，使特定商品、广告的投放更有针对性地覆盖特定需求群体，继而最终提升广告引流效果、提高商品成交比率。如平安银行的“广告推荐方法、装置、设备和存储介质”发明专利就是通过获取目标用户的网络评论，对评论内容进行情感倾向识别得到相对应的情绪关键词，然后“根据情绪关键词和类别关键词对初始广告进行匹配，得到待推荐的目标广告，向目标用户推送目标广告:如果说这种基于自然语言理解技术(N

6、LP)的文本型情感计算仍是当前数字经济中情感计算应用的初级模式，那么能够对各模态信息进行融合的多模态情感计算则因识别内容更加全面准确而被视为情感计算商业化应用的未来。例如，支付宝公司“虚拟世界的广告投放处理方法及装置”发明专利就表明，该专利可以通过对用户脑电信号和眼部图像的情绪检测模型分析，获得多模态情绪特征和情绪等级，并基于此计算候选广告的广告数据与所述虚拟世界的虚拟环境数据的匹配度，进行虚拟世界的广告投放。实际上在域外,这种商业业态已经十分成熟。BBC早在2014年就与科技公司CrowdEmotion合作，通过捕捉与分析用户访问网站、节目时面对不同内容的面部表情，将用户情绪分为快乐、惊讶、

7、悲伤等六类，为优化差异化在线营销提供支持。总部位于伦敦的初创公司Realeyes则在整合超过380万个视频会话中的6.2亿个情感标签的基础上，分析视频内容对观众情感的影响来增强广告效果。2 .定制化消费服务根据峰终定律(Peak-EndRule),数字经济中消费者的消费体验并不取决于消费过程中良好与欠佳体验的比重以及两者时间的长短，而是由“峰时”体验和“终时”体验决定。因此通过情感计算的情感识别，结合峰终定律在加购、结算等峰终节点为消费者提供更优质的定制化服务，进而事半功倍地提升消费者消费体验就是数字经济领域部署情感计算的重要原因。而基于情感计算提供定制化消费服务的最典型场景就是网络交易中经营

8、者依托NLP技术进行情感分析的客服服务，当前大量互联网平台均部署了人工智能客服体系，如京东的JIMI、百度的UNrT、阿里巴巴的AliMe等。平台、商户通过对消费者与客服沟通用语、商品购买评价等UGC(UserGeneratedContent)内容的分析，发现情绪化.不友好等处于情感图谱之中具有情感极性的表述，并借助用户情感安抚、情感生产式语聊等手段针对特定消费者的个人特征和特定问题进行专门解决。此外，语音情感计算、视觉情感计算乃至生理信号情感计算也已经开始被用于为消费者提供定制化服务。如哥伦比亚研究人员研发的ANEMA分析工具可以通过对广告歌曲声学特征与消费者各种情绪之间关联的情感分析,在特

9、定服务场景下为消费者提供适当的歌曲，刺激消费者特定情绪的发展。亚马逊研发的Rekognition软件依托机器学习与计算机视觉(CV)功能，可以通过图像或视频的情感分析为消费者在身份验证、智能辅助等方面提供服务。在欧洲，Moodrise.Fika等健康类、医疗类平台还尝试通过设备连接消费者收集心电图、脑电波等生理信号，对消费者不同情绪下的身体或心理状态进行分析，进而为其提供专门的健康或诊疗方案。3 .其他个性化商业决策除上述两种场景外，情感计算还可以通过更深度的应用，实质性、直接性地影响甚至决定经营者面向消费者的其他个性化商业决策。以当前互联网经营者普遍应用的算法个性化定价为例,作为被广为诟病的

10、大数据杀熟背后的技术机理，算法个性化定价就是通过对用户数据碎屑.隐私信息的全方位收集形成“千人千面”的用户画像并判断消费者的差异化支付意愿，最终做出“千人千价”的个性化价格决策。而在其中，情感类信息作为消费者主观意图的直接体现，显然就是经营者价格决策的重要参考因素。例如在算法个性化定价常用的RFE用户活跃度定价算法模型中，经营者根据用户最近一次访问时间R(ReCency)、访问频率F(Frequency)和页面互动度E(Engagements)三个方面的指标对用户进行个性化定价。其中对于消费者页面互动度的评价，就会来源于对消费者在人机交互中发布评论、神态表情甚至浏览速度等方面的情感识别与分析。

11、英国公平交易局（OFT）在2013年发布的一份关于算法个性化定价的专项报告中指出，知名在线约会交友软件Tinder根据对用户特征的分析在全球范围内进行了大规模的个性化定价，不同消费者开通软件会员的价格最多可以相差六倍之多。而作为“情感资本主义”的产物，通过对用户在平台上右滑“喜欢”、左滑“跳过”、亲密表述、上传图片等行为的情绪识别与情感分析，判断用户对于线上交友的“焦虑”“紧迫”程度，进而预测其支付意愿的高低，就是Tinder之所以能够进行普遍性个性化价格决策的重要原因。二、风险检视：数字经济中情感计算应用与消费者权益的内生冲突在数字时代智能技术已经成为现代社会主要风险来源的情况下，基于情感计

12、算在数字经济中部署与应用的广泛性及其本身构成与使用的复杂性，数字经济中情感计算应用所带来的法律风险将更加立体、弥散。具有侵入性、使能性、隐蔽性、化约性的情感计算，可能产生系统的消费者权益损害风险。1.情感计算侵入性与消费者隐私权、个人信息权的零和博弈第一，从技术逻辑来看情感计算天然地具有较强侵人性。情感计算的技术基础是各种算法、传感器对自然人数字痕迹、生物信息的感知与识别，其具有显著的数据前置特征。现阶段这种感知与识别一是基于设备内置功能的非接触式方式实现，如通过话筒对用户声音的录制、摄像头对用户面部表情的采集等；二是借助外设设备的接触式传感实现，如血压仪、心率监测器等。而如休谟所言，情感是“

13、不经先前的思想或知觉而原始发生于灵魂中或身体中的“。显然无论通过何种方式感知与识别消费者的情感，情感计算的应用都将侵入人灵魂的最深邃、最隐秘之处。这种侵入也以消费者的个人信息与个人隐私为燃料。第二，数字经济中情感计算的商业应用将进一步强化其侵入性。在数据已经成为基础生产要素的当下，数字经济中经营者拥有越多的用户数据就越具有市场竞争优势。数字经济中经营者对于情感信息的收集，一方面会尽可能地与消费者特定个人身份相关联，以增强推销、服务、决策的“个性化”，而这也将与个人信息的诸多权能形成冲突；另一方面还会最大限度地向消费者自身的敏感、私密领域深入，以增强推销、服务、决策的“精准化”，而这也可能对消费

14、者的隐私权造成直接侵犯。进言之，经营者采集到的用户情绪信息越多，对消费者的用户画像就越清晰明确，进而其获客（差异化广告营销）、粘客（定制化消费服务）、转化（个性化商业决策）的效果也就越佳，因而，经营者在情感计算的应用中也就不可避免地会产生不断窥探、收集消费者个人隐私与个人信息的商业欲望。情感计算自身的侵人性特征以及数字经济中商业化应用对此的固化与强化，将使其与消费者隐私权、个人信息权陷入此消彼长的零和博弈之中。在最大化利润的诱惑下，经营者不仅有着难以遏制的不断爬取、挖掘消费者个人信息与个人隐私的冲动，还会通过监控用户聊天记录、擅自开启语音相机权限等非法手段获取大量用户情绪碎屑，对情感计算进行数

15、据喂养。同时相较于传统技术，多模态情绪识别情感计算在采集数据的“量”和情感分析的“质”两方面的提升在使其具有更广泛、深刻的侵入性之时，也会产生更直接、现实的消费者隐私权与个人信息权损害风险。2 .情感计算使能性与消费者公平交易权的紧张关系情感计算作为一种“通用目的技术”(generalpurposetechnology),其存在的价值并非是为某一特定问题提供最终的完美解决方案，赋能具体场域、为具体场域的实践提供“改进开放机会的使能作用(enabling)”才是其最重要的意义。通用目的技术由于具有较强的改进延展性、广泛适用性以及与其他技术的互补性，其在具体场域与专有技术的叠加将进一步释放自身的使

16、能作用，为技术主体带来巨大的应用价值。然而，正如创新扩散理论所认为的，技术的创新与扩散将会加剧社会的不公：一是技术的早期采用者通常拥有更多资源也更有能力接受高成本的创新；二是技术的早期采用者会获得大量的额外利润，使其与后来者经济社会地位的差距进一步拉大。数字经济中，情感计算强大使能作用对经营者的单方面赋能也将会潜在冲击消费者的公平交易权利。公平交易权作为我国消费者的基本权利，实际上是近代以降平等权在商品经济领域的具体体现，其要求消费者与经营者之间交易过程与交易结果的双重公平。但是，数字经济中经营者情感计算的应用却可能对交易公平的实现带来现实障碍。具体而言，一是工具障碍。数字经济中，组织化的经营者本就拥有更多的技术工具对个体消费者进行支配。作为前沿智能技术的使能性情感计算在赋能经营者、进一步丰富经营者技术工具箱的同时，消费者却对此缺乏必要的反制工具与反制能力，两者的关系可能进一步失衡。二是信息障碍。市场经济中，理性经济人的实现要求其应具有所处环境的完备