大模型：从单词接龙到行业落地

？大模型：从单词接龙到行业落地杨洋，浙江大学数推公析及office教学用途声明：本PPT包含部分来源于网络的素材，仅供教学使用，非商业用途，版权归原作者所有人工智能前夜：图灵测试图灵测试会在测试人在与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问门 问过一些问题后，如果超过30%的答复不能使测试人认出哪个是人、哪个是机器的回答，那么这台机器就通过了测试，并被认为具有人类智能。Alan TuringBanknoteConceptIMITATON GAMEAlanMathisonTuring(1912-1954)公众号·史老师数据分析及office学习2围数学家，计机4学活理论计算机科学之父人工智能前夜：图灵测试MINDPSYCHOLOGYANDPHILOSOPHY在提出图灵测试的《计算机器与智能》一文里，图灵描述了想象中未来的智能计算机测试可能的样子（人提出问题，计算机回答）：文学Q：请给我写一首有关福思桥（ForthBridge）主题的十四行诗。A：这种事情别找我。我从来都不会写诗数Q：34957+70764等于多少？学A:（停顿了约30秒后再给出答案）105621Q：在国际象棋中，我在K1处有一个王，除此之外没有棋子了。逻辑你在K6处有一个王且在R1处有一个车。现在你会怎么走？A：（15秒停顿后）将车移动到R8，然后将死。公众号：史老师数据分析及office学习3大模型与图灵测试文学数学YouYou请给我写一首有关福思桥（ForthBridge）主题的十四行诗。34957+70764等于多少?ChatGPTChatGPT在福思桥上横跨天际，34957+70764等于105721钢铁雄伟贯穿云宵。逻辑巍哦身姿如梦幻，下，展翅飞翔，You你会下国际象棋吗？红色末穆如晚霞，寻常人间难得见。ChatGPT迎风飘扬铁索声，是的，我可以提供国际象棋方面的信息和建议。如果你有任何关于国际象棋的问题，或音律奏响过往年。者想要进行象棋对局的话，我会尽力帮助你。过去百年光阴深，桥上列车穿梭间。You时光在再如梦幻，我在K1处有一个王，除此之外没有棋子了。你在K6处有一个王且在R1处有一个车。福思桥，永垂不朽颜。现在由你走，你会怎样走？ChatGPT在这种情况下，我可以进行一次长移动，将手移动到L6处，这是合法的走法，因为在L这个位置，你的车无法直接提住我的至据分析及ofice字）4大语言模型：单词接龙吃讲旅0.1杨老师周一晚0.60.3公众号史老师数据分析及office学习5大语言模型：单词接龙话0.2杨老师周一晚讲课0.4天0.4公众号·史老师数据分析及office学习6大语言模型：单词接龙呀0.1杨老师周一晚讲大模型0.4EOS0.5公众号·史老师数据分析及office学习单词接龙：通过条件概率计算实现给定上下文（Context）计算下一个生成词（Token）的概率口根据所计算的条件概率进行采样获得生成词，拼接至上下文末尾，并预测下一个生成词，直至生成一个结束符（End-of-Sequence，EOS）利用Transformer计算条件概率P(tokencontext下一个单词上下文（用户提问+已生成的句子）AshishVaswani,NoamShazeer,NikiParmar,JakobUszkoreit,LlionJones,AidanN.Gomez,tukaszKaiser,andLiliaPolosukhin.AttentionisAllYouNeed."InNeurlPS.2017将各类下游任务转化为单词接龙输入：景点（（如断桥残雪）输出：该景点所在城市传统机器学习模型断桥残雪在哪？模型→杭州拆分成一连串的单词接龙断桥残雪在哪？LLM杭断桥残雪在哪？杭LLM州断桥残雪在哪？杭州一公众LLM老师 五数据分柜EOS]ce学习11为什么单词接龙？针对特定任务的端到端学习桥残雪在哪？模型→杭州训练数据：需要标注，成本高<断桥残雪，杭州>，<长城，北京>，<故宫，北京>…输入数据标注公众号·史老师数据分析及office学习12预训练-微调：机器学习新范式预训练杭州是中国浙江省的省会城市，是一座历杭州是中国一浙江省史悠久直富有文化的城市，被誉为”人间天它位于中国堂”。它位于中国东南沿海的长江三角洲经东南沿海济区，拥有丰富的自然景观和人文遗产。杭州以杭州以西湖著称，西湖是中国著名的风景西湖著称名胜，也被列入了世界文化遗产。除了西列入了世界一文化遗产湖，杭州还有其他许多著名的景点，如京杭大运河、钱塘江、灵隐寺、断桥等。采样很多句子做单词接龙杭州是中国LLM浙江省公众象·史老师数据分及office学习13如何培育小火龙，成为宝可梦世界冠军？03+0N2A2024宝梦卡广州大得系公开团冠解公众号·史老师数据分析及office学习如何培育小火龙，成为宝可梦世界冠军？1、只会打架2、打不过没见过的宝可梦端到端学习（应试教育》号·史老师数据分析及office学习15预训练的优势：从训练的角度顽训练数据：网页、书籍、新闻、对话等多种类型的无标注数据杭州是中国浙江省的省会城市，是一座历10月下旬，这则消息引发广泛关注。玛莎史悠久直富有文化的城市，被誉为”人间天拉蒂母公司斯泰兰蒂斯集团15亿欧元入股堂。它位于中国东南沿海的长江三角洲经浙江零跑科技股份有限公司，10月下旬，济区，拥有丰富的自然景观和人文遗产。这则消息引发广泛关注。拥有自研智能动杭州以西湖者称，西湖是中国著名的风景力、智能网联、智能驾驶三天核心技术，名胜，也被列入了世界文化遗产。除了西工厂预计年产可达70万辆...在零跑科技湖，杭州还有其他许多著名的景点，如京创始人朱江明看来，这次强强联合，将是杭大运河、钱塘江、灵隐寺、断桥等。企业欧洲布局的重要一步。传统NLP任务鲜有超过1GB的标注数据用于模型训练GPT3使用45TB数据进行预训练大模型从海量无标注数据中学习了物理世界的知识以及人类遣词造句的模式数据分析及office学习17预训练的优势：从应用的角度功能单一传统机器断桥残雪→杭州学习模型多种功能在哪座城市？杭州断桥残雪LLM冬季什么季节好看？公众号·史老师数据分析及office学习18大模型的训练预训练微调20%-30%监督微调（SFT）：通过经标注的[输入-输出]对数据调整模型部分参数，优化特定任务性能指令微调（InstructionTuning）：通过[指令-输出]对使模型泛化到未见过的指令<5%公众号·史老师数据分析及office学习19大模型的训练预训练微调监督微调（SFT）：通过经标注的[输入-输出】对数据调整模型部分参数，优化特定任务性能指令微调（InstructionTuning）：通过[指令-输出]对使模型泛化到未见过的指令强化学习（RLHF）：通过人类对回答的评分训练奖励模型，再用强化学习对齐人类偏好（如安全性、流畅性等）公众号·史老师数据分析及office学习20如何让大模型输出更好的结果？单词接龙RemnantSnow帮我翻译成英文：onthe Broken断桥残雪Bridge公众号史老师数据分析及office学习24大模型的三大问题幻觉偏见过时“在一个黑暗的夜性别偏见2024年欧洲杯西班晚，古堡