万字科普: GPT4 为何会颠覆现有工作流；为何你要关注微软 Copilot、文心一言等大模型
· 5 min read
Hi Here is xiaoka that likes to study efficiency tools and thinking patterns~
视频是关于 GPT 的底层原理和未来影响。将抛开技术细节，少用专业名词，在整体功能上讲解 ChatGPT 的「工作原理」「制造过程」「涌现的能力」「未来的影响」以及「如何应对」：
- ChatGPT 是如何回答问题的
- 它是怎么被制造的，为什么它不是搜索引擎
- 它有哪些惊人能力，为什么它不只是聊天机器人
- 它将给社会带来什么样的冲击
- 我们该如何维持未来的竞争力
来源: 渐构社群
GPT 基础原理: 自回归文字生成模型
鹦鹉学舌 大量丰富的材料 → 会让模型得到回答的规律 → 举一反三
ChatGPT 三个训练阶段阶段：
阶段一 开卷有益
- 掌握语言规律
阶段二 模版规范
- 超过自己的资料库，不知道的时候，说不知道
- 如果用户有错时，指出错误
- 如果是 封闭式问题是，需要 提供 是/不是 的同时，提供原因
- 补全和续写“有害内容” → 什么该说，什么不该说
我们可以先提供优质的对话 先教 ChatGPT，让 ChatGPT 学习回答。
此阶段获得意外能力
- “理解”指令要求的能力
- “理解”例子要求的能力：不知道怎么描述问题，我们可以通过例子引导回答
# 理解例子的能力
...
---
上文中，"#d"标记知识的描述，"#e"标记知识的例子，先学习上文的标记模式，并计入「建构模式」。
分治效应 → “思维链”能力 当 ChatGPT 无法答对一个综合问题时，若要求它分布思考，它就可以一步步连续推理且最终答对的可能性会大幅提升。
问题：过于模版规范化，缺乏创造性，如何让 ChatGPT 自由发挥？
阶段三 创意引导
人类对 ChatGPT 面对一个问题回答做评分，引导 ChatGPT 给出更好的回答。
大语言模型能为人类做什么？
- 翻译，语言规则 → 语法检测器
- 在精通语言的基础上 + 存储从古至今积累的「世界知识」→ 「世界书」 - 处理繁重的信息分类、会议总结、格式排版、进程报告等工作，内容数量和复杂度超出人们的处理能力，应用场景：企业、医院、学校、法院、银行、出版社、研究所 - 面对客户的反馈 - 查询患者 病史，正确录入资料 大语言模型(LLM)改善的是：群体协作过程中「创造、继承、应用知识」时的语言处理效率。
社会影响
类似互联网，未来会是每个人都需会”被迫”进入和学会的 工具。 教育界、学术界、新闻界、内容产生行业的影响最大。
商业案例
BuzzFeed
教育模式影响
旧教育模式无法适应与产出具有超过 ChatGPT”创造力”的创造力人才。 非常现实的问题：5 年后，如果学校传授的既有知识，任何人靠大语言模型就能实现，那该怎么办？
网络安全
不良内容 通过 ChatGPT 上传播，创造，chatGPT 提问被泄漏。 为了信息安全，公司，国家 需要部署自己的大语言模型。
如何应对
- 克服抵触心理
- 克服过去长期养成的“错误习惯”，重塑终身学习的能力：认识论、符号学、数学建模、批判性思维
tip
大语言模型(LLM)影响的是「知识的创造、继承、应用」，这三个环节所构成的学习系统是任何生命系统得以延续的根本，决定着一个「细胞/个体/文明」认识世界和改造世界的能力。
资源
- 渐构社区: https://www.modevol.com/