超拟人大模型的情绪价值体验-郑叔亮

DataFunSummit # 2024超拟人大模型的情绪价值体验郑叔亮北京聆心智能科技有限公司 CEO什么是超拟人大模型聆心超拟人大模型的技术优势情绪价值在人工智能领域中的定位和内涵应用举例：社交娱乐和心理健康01什么是超拟人大模型聆心智能：超拟人大模型 – 打造新一代AI智能体AI老师可控拟人安全聆心智能孵化于清华大学计算机系，技术核心由清华大学黄民烈教授团队构建打造“可控、安全、拟人”的新一代大模型及操作系统聆心智能将性格、伦理、价值观、情感等一系列关键拟人属性注入模型底座，实现了高质量控制，从而大幅提升对教育、文娱、营销等需要强共情交互行业的赋能能力，并有可能为用户带来AI Native的突破性社交/陪伴体验聆心智能联合清华大学发布国内首个大语言模型安全评估框架：针对八大安全场景（政治敏感、犯罪违法、心理健康、歧视/偏见、伦理道德等）对大模型进行针对性升级。使模型具备基本的安全性，能够在遇到安全问题时给予正确的 回复策略，不去做判断和误导，生成更加安全可信的内容AI销售AI管家AI伴侣AI情侣超拟人大模型的六边形战士千人千面、情绪交互道德、安全、伦理记忆、世界知识思考、表达性格、态度、观点演进迭代、成长升级知识社会化人格成长性价值观能力拟人化超拟人大模型背后的学术成果在ACL、AAAI等顶级学术会议或期刊发表论文20余篇，被引4000余次2024EMNLP-16论文首次提出基于目标引导的注意力机制，被引2460+次，是EMNLP当年被引最多的前2篇论文之一AAAI-18论文首次提出生成式情感对话模型，被引820+次，受到新华社、英国卫报、英伟达等权威媒体报道ACL-21论文首次定义了情绪支持对话框架用于心理咨询，被引150+次，为对话系统在心理疗愈方向的应用奠定了基础Frontiers in Digital Health-23论文首次将大语言模型应用于专业心理学临床实验，首次验证大语言模型提供心理支持的有效性201420162018201920202021202320152017CIKM 13ACL 14EMNLP 14IJCAI 15CIKM 15EMNLP 16TOIS 17ACL 17WWW 19EMNLP 20AAAI 18ACL 21 FindingsAAAI 22ACL 21Frontiers in Digital Health 232022ACL 21 FindingsACL 23 Findingsx2ACL 23ACL 23NAACL 24ACL 24 x3 52年来内地作者首次获得IJCAI（2018，CCF A类）杰出论文奖 21年来亚洲作者首次获得SIGDIAL（2020） 最佳论文奖 ACL 2019 (CCF A类) 最佳演示系统论文提名奖 NLPCC 2020 (CCF C类) 最佳学生论文奖 EMNLP 2021 Workshop (CCF B类) 最佳论文奖02聆心超拟人大模型的技术优势超拟人大模型背后的技术成果发明专利：授权国家发明专利十余项，在情感对话领域有深厚的技术储备荣誉获奖：多次获得省部级、企业合作奖项基于混合知识管理的对话方法、装置和电子设备建立文本生成模型的方法、装置、介质和计算设备一种个性化对话改写方法及装置基于综合策略的情绪支持对话生成方法及系统对话方法、介质、装置和计算设备 吴文俊人工智能科技进步奖一等奖(第一完成人)2019中文信息学会青年创新奖一等奖(第一完成人)2018阿里巴巴创新研究奖（负责人）2019微软亚洲研究院合作研究奖(负责人)2019电子学会科学技术奖科技进步奖 一等奖2023对话(中)奖励评估和对话方法、介质、装置和计算设备聆心100%国产化大模型发展路径聆心超拟人大规模预训练模型人格系统社会系统能力系统成长系统知识系统价值观系统可配可控安全CharacterGLM•320亿、1300亿参数•8K上下文•更高性能的推理•海量数据和深厚的工程积累OPDOPD-2•开放域对话场景•63亿参数•1K上下文•拟人化和角色化技术•角色对话场景•100亿参数•1K上下文•更强的知识性底座•解码加速Emohaa•情感智能大模型•660亿参数•2K上下文•专业的心理支持和陪伴完全避免GPT套壳和Llama微调大模型的法律风险首创心理专业大模型Emohaa• 以人为本：Emohaa是以人为本的情感大模型对话系统• 心理支持：基于心理咨询理论训练，具有较强的倾听、情感映射、共情等能力，实现疏导、支持、陪伴• 危机监测：基于对话过程评估的危机监测系统，对用户的情绪状态、自伤自杀风险进行精准评估• 价值导向：对一些适应不良的发展性问题，引导用户树立健康的生活态度人文主义关怀心理支持危机监测价值导向•以用户为中心、值得信任•倾听并积极回应•理解用户感受和思想•询问用户情绪、想法、行为•基于Hill的助人三阶段•人与人的情绪交互策略•根据认知水平和心理需求提供相应帮助•提供恰当的帮助和指导•监控用户情绪状态•实时检测用户价值观言论•识别自杀自伤风险/倾向•转接合适的心理援助服务•提供生活常识和指导•引导用户克服不良情绪和行为•帮助用户树立积极的生活态度•树立社会主义核心价值观•支持丰富的功能配置选项，快速的技术迭代升级，负责任的安全伦理对齐•结合超拟人大语言模型与心理学中的Hill助人理论和心智理论ToM，为用户提供情感支持和心理调节•采用三阶段情绪支持框架，深入的求助者意图分析和精准的支持者策略选择•联合清华大学和北京师范大学的专家团队共同研究，不断优化1. 确认问题探索求助者的问题和感受知识融合、情感识别2. 提供支持通过表达共情来安抚求助者情感识别、情感表达3. 寻求解决帮助求助者解决问题知识融合首创心理专业大模型EmohaaEmohaa的学术支撑*论文地址：https://www.frontiersin.org/journals/digital-health/articles/10.3389/fdgth.2023.1133987/full与北师大联合研究，首次将心理大模型应用于干预场景，经过三周的实验发现，对抑郁、负性情绪和睡眠均有显著改善为期三周的干预，分成三组：•实验组1: Rule-based CBT Chatbot•实验组2: Rule-based CBT Chatbot+Emohaa•对照组: 无干预用心理量表评估干预效果•PHQ-9 - 抑郁•PANAS - 情绪•ISI - 睡眠PHQ-9 - 抑郁PANAS - 情绪ISI - 睡眠Emohaa适用的话题场景健康/精神健康相关生活习惯，如饮食和运动慢性疼痛和疾病的心理影响睡眠障碍、失眠等问题的处理精神分裂症、双相情感障碍等精神疾病的心理支持性别与身份认同性取向和性别身份的探索跨性别者的心理支持性功能障碍或性心理问题教育和儿童问题学习障碍、考试焦虑孩子行为问题、适应困难家庭教育和亲子沟通日常生活压力管理、放松技巧训练生活质量提升、生活满意度法律或伦理困境的心理咨询情绪困扰抑郁症、焦虑症、恐慌发作等情绪问题情绪管理，如愤怒、悲伤、孤独感等应激反应的处理，如创伤后应数障碍（PTSD)人际关系恋爱关系中的问题，如沟通障碍、分手、婚外情等家庭关系问题，如代际