百度智能云+用+AI+重构——大模型与低代码的“合体变身”

用 AI 重构——低代码与大模型的“合体变身” 百度智能云爱速搭团队 / 资深研发工程师 / 潘征分享大纲• 关于低代码平台的一些关键词• 大模型，你了解多少？• 大模型 + 低代码 = ？• 一些实战例子• 大模型私有部署的探索什么是一般意义上的低代码平台？低代码平台能做什么？关于低代码平台的一些关键词低代码平台的“成分”• 应用创建 / 管理• 拖拽式页面编辑器• API Proxy / 服务编排• 数据建模能力• 流程引擎• 数据集 / 报表引擎• 自定义组件开发 / 接入能力你有刻板印象吗？如何更好地和大模型“对话”？大模型，你了解多少？对大模型的一些刻板印象• 研发要失业 / 原画师要失业 / 网文作者要失业• 来个原型稿，大模型就能百分百帮我转成网页直接上线• 很好很强大赶紧部署上，降本增效• 输入一句话就能给我一个完整的应用• 研发没空写组件，让大模型写• 大模型是这么说的，你们怎么说不行呢，我不管我就要• ……让大模型“更聪明”的常用技巧搜索增强/检索增强（RAG）向量化 / MIPS（Maxinum Inner Product Search）知识检索知识密集型确保事实一致性Langchain……微调 / 精调SFT（Supervised Fine-Tuning）P-tuningLoRARLHF……提示词（prompt）zero-shotfew-shotCoT自我一致性生成知识提示思维树……传说中的两大 “研发失业” 利器凑一起，能让研发真的失业吗？低代码 + 大模型 = ？低代码 + 大模型，文心的理解 基于对市面上已发布的低代码 + 大模型产品的调研通用辅助/集成应用开发过程协助统计分析• 生成图表• 生成 ECharts 配置• 根据数据模型字段，结合具体的统计要求生成表格 / 报表• 生成流程• 生成测试数据• 生成数据模型• 根据图片/pdf生成页面• 创建表单• 对页面做修改• 编写 HTML 代码嵌入页面• 添加页面• 添加过滤条件• 帮助写 sql• 翻译（出现频率高）• 生成邮件回复• 开发的应用可以调用封装好的大模型接口能力• 集成 AI 能力，分类等低代码 + 大模型，我们做了什么？一些实战例子实战提示词：低代码平台自定义组件生成（基于公有云文心千帆接口）在低代码平台页面中使用构建好的自定义组件关键：给用户输入“加点料”实际提交给大模型接口的传参 = 用户输入 + 提示词通过这个手段来控制输出的代码格式符合低代码平台自定义组件的代码格式要求用户感知到的输入实战提示词：自动分析自定义组件代码并生成右侧配置面板先让助手根据要求生成组件代码和 CSS，再让助手自动分析组件代码生成配置面板代码自动分析当前自定义组件的代码并生成配置面板代码自动分析当前组件代码，提取可配置字段，并根据可配置字段的名称生成配置面板的代码生成的配置面板在编辑器中的效果可以看到，大模型为“背景图”配置项选择了图片上传组件，为“标题”和“副标题”配置项选择了文本输入框组件原理：提示词 + 任务拆解通过合理设计的提示词，让大模型提取出React 代码中所有从 props 传入的字段根据上一步抽取的字段让大模型生成相应的表单，并将表单配置和右侧面板的框架代码整合生成面板代码实战提示词：基于用户输入 + 提示词生成应用的全部数据模型实战提示词：任务拆解 + few-shot 控制输出格式实战提示词：任务拆解 + few-shot 控制输出格式实战精调：生成低代码页面组件（千帆接口和私有部署均支持）原理：nl2amis（自然语言转成amis配置）“生成一个才艺大赛的报名表单”使用带标注数据集对大模型进行精调（SFT）部分精调数据示例实战增强搜索：文档检索场景在爱速搭官网上提问：服务端 API 返回的数据格式不是很符合我的预期，应该怎么做？基于关键词的文档检索，什么都搜不到基于向量数据库 + 大模型的客服机器人，能够根据文档内容组织出回答事实上，由于文档数据的不足，大模型给出的答案有部分是瞎编的，这就是常见的“幻觉”问题把大模型从公网搬到内网需要几步？大模型私有部署的探索选择合适的底座• 千帆文心 turbo• Llama2 7b/13b（这里7b 和 13b 分别指 7billion 和 13billion 参数）• Qwen7b• chatglm2-6b• bloomz-7b• ……哪个“更好”，其实没有固定结论，对于不同类型的任务，不同的模型有不同的表现，正确的做法是全都跑一遍，挑分最高的你有卡吗？你的任务卡吗？• 类似 “生成低代码平台schema” 这种上下文比较短的文字任务，在 CPU 上性能也是可以接受的• 文生图类的任务，在 CPU 上可能要跑几十分钟，需要有显卡，可以购买实体，也可以租赁云上资源设计合适的提示词 / 增强搜索 / 精调• 根据业务场景设计合适的提示词，注意任务拆分• 向量化 —— 常见的万金油• 发动群众准备训练数据，数K条到数十K不等