V
主页
【MIT讲座+费曼笔记】GPT-4达到AGI了吗? | 微软首席研究员Sebastien Bubeck座,介绍基于内部版本GPT-4模型的实验发现
发布人
下面是我的笔记;超过字数限制了,完整版单独在我的GPT学习宝典网站上。 ## WHAT - sparks of AGI | AGI的先兆,基于GPT-4的实验发现 - Sebastien Bubeck,微软深度学习首席研究员的MIT讲座, - 介绍基于内部版本GPT-4模型的实验发现 ## WHY - 破除迷思,给【不过如此派】普及了不少知识 ## HOW - 内部模型 vs 公开模型: - 本研究是针对GPT-4模型(早期内部版本)的实验发现; - 为了安全理由,公开模型被限制了大量能力; - 万亿参数:OpenAI官方没有公布,但是这次演讲中说出来了; - 不要小瞧GPT,常见反驳的理由: - GPT没有世界知识,没有world model - GPT只是基于大数据的统计规律展现 just statistics on big data - 只是高级版的复制粘贴(只是鹦鹉学舌,没有创造)copy & paste on steriod - GPT没有建立内部表征 internal representation - 基于实验而提出的理论假设 - 因为极端的数据规模,GPT在数据的基础上建立了内部表征 - 大力出奇迹,涌现了 - 你可以认为它在**学习算法**,来模仿数据中蕴含的模式 - 不是单纯的统计规律 - 和人类学习并无二致 - 它被训练去执行的任务是:预测下一个单词;但是,不代表它只能预测下一个单词; - 举例:你和人类宝宝共读绘本,大量阅读绘本,同时给出人类反馈,然后,慢慢的,宝宝学会自己读绘本了。 - 你会说这个宝宝「没有智能」,ta不能「理解」,ta只是「基于统计规律来预测下一个单词」吗 - 是的,宝宝的阅读绝对是基于规律来预测单词(人脑也是个生成式智能体 generative);如果你和儿童共读过,你会发现,不论是读中文书还是英文书,它都是在不断预测下一个单词,脑补; - GPT没有常识(common sense)吗? - 举例:1本书,9个鸡蛋,1台笔记本电脑,1枚钉子。如何把这些物品用稳定的状态堆叠起来? - GPT 有心智理论(theory of mind)吗? - 举例:john, mark和猫,篮子 vs 盒子;john把猫放在篮子里,然后出门上班了;mark把猫移动到盒子里,然后去上班了。两人下班,同时到家,两人各自怎么想? - GPT有智能(intelligence)吗? - 什么是智能?智能的定义? - reason:Y - plan: N - autoGPT已经开始展现计划能力; - solve problems:Y - think abstractly:Y - comprehend complex ideas:Y - learning quickly and learn from experience:50%, - GPT目前没有memory机制。目前有第三方项目为GPT增加了memory。 - 测试方法:大范围,多领域,创造性任务的互动 - vision - theory of mind - coding - math - affordances - privacy/harmfulness detection - 结论:GPT的智能,是general的 - 测试1:证明质数有无穷多,用押韵的方式,再输出为SVG格式的图形; - 测试2:画一只独角兽 - 公开版的GPT-4,很多能力都被「阉割」了。测试工程师一旦发现某个任务有危险,太过于强大,就会在公开版中限制这个能力; - 结论:GPT-4 有理解能力(understanding) - 让GPT把独角兽的角补上去,ta会画在正确的位置上 - GPT-4的画图能力,+ stable diffusion模型作为工具 =》近乎完美的结果; - 当GPT可以使用工具,ta的认知能力就会得到工具的增强; - OpenAI的官方plugin商店就是如此; - 第三方开发者给GPT增加了联网能力,也是如此; - 测试3:coding - 从codex模型到ChatGPT到GPT-4:编程能力飞跃; - 在测试中,GPT-4的coding超越了100%的人类用户; - GPT-4仍然有弱点 https://gpt.candobear.com/courses/%E8%B4%B9%E6%9B%BC%E7%AC%94%E8%AE%B0sparks-of-agi-early-experiments-with-gpt-4
打开封面
下载高清视频
观看高清视频
视频下载器
可汗学院创始人Khan最新TED演讲:GPT-4作为AI学习私教,可能带来教育史上最大变革(双语版本,人机共创)
🎙️ OpenAI联合创始人Greg Brockman最新TED演讲:GPT 插件能力demo、思考以及开发幕后
2024吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI),3天学完,让你少走99%弯路!
这可能是B站讲的最好的AI大模型教程,一周吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI) 让你少走99%弯路!(2024最新版)
【GPT口语教练 mark2】Speak App深度测评,每天10分钟,拥抱英语口语练习的革命
《ChatGPT学习宝典》
2024吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI)通俗易懂,学完即就业!拿走不谢,学不会我退出IT圈!!!
GPT主题研究训练营 第1课 厘清概念 | 什么是GPT?
目前,最满意的本地知识库 Copilot【总第 128 期】
GPT主题研究训练营 第2课(下) 使用案例 | ChatGPT的108种用法
OpenAI Whisper大法 | 用OpenAI开源模型搞定音频转写,免费且优雅,大概能省1万,还能学到不少东西
学习的终结?or 学习的革命?ChatGPT与人类学习
GPT主题研究训练营 第2课(上) 使用案例 | ChatGPT的108种用法
【Agent+RAG】10小时博士精讲AI Agent(人工智能体)系列—提示工程、文本大模型、GPT...
GraphRAG发布重大更新!增量更新索引终于来并新增DRIFT图推理搜索查询,带你手把手全流程实操新功能,源码分析,同时支持GPT、国产大模型、本地大模型等
斯坦福大学《强化学习|Stanford CS234 Reinforcement Learning 2024》deepseek翻译
2024年吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI) 全程通俗易懂,别再走弯路了,逼自己一周学完,少走99%弯路,学不会我退出IT界!
【zotero插件】Awesome GPT 更高效读文献,做科研
【全网最细】逼自己一周吃透AI大模型(LLM+RAG系统+GPT-4o+OpenAI)通俗易懂,2024最新版,学完即就业!!
一本笔记:达芬奇的自我创造 | mzsavage解读《达芬奇传》
MIT《组合数学中的概率方法|Probabilistic Methods in Combinatorics》中英字幕(deepseek翻译)
【附源码】2024最新53个大模型实战项目!练完即就业Ⅰ基础到框架Ⅰ适合小白入门_LLM_RAG_Agent_ChatGPT_Prompt
Dario Amodei_ Anthropic CEO on Claude, AGI & the Future of AI & Humanity 中英字幕
机器学习入门到精通!回归算法、聚类算法、决策树、随机森林、神经网络、贝叶斯算法、支持向量机等十大机器学习算法一口气学完!人工智能/机器学习/深度学习/AI
GPT口语教练 第3弹:英语口语的10分钟与1000小时,兼谈GPT原理
DecartAI:全球首款AI游戏诞生!无需游戏引擎,视频模型直出
【双语字幕】OpenAI官方prompting课程 第0讲 引言
国内可免费使用的chatgpt4o站点,免魔法免注册!进来领
这才是科研人该学的【Opencv+Pytorch】教程!一口气学完目标检测、图像分割、语义分割、图像生成,算法原理+实验分析,太通俗易懂了!机器学习|深度学习
港科大、微软亚研院发布,适用于任意长度的时序预测Transformer基础模型#人工智能 #深度学习 #微软 #大模型
液体神经网络:赶超Transformer!刷新SOTA!
2024.11.24组会-生成模型专题汇报
太厉害了 已跪!终于有人能把OpenCV图像处理讲的这么通俗易懂了,现在计算机视觉opencv全套分享给大家。
ChatGPT 一次或将载入科技史的访谈;萨姆·奥尔特曼 展望AGI愿景
大模型量化技术知识祛魅~附合作招揽!
【中英+笔记】2024.10.20 | OpenAI团队讨论模型的发展方向
【2024最新版】清华大佬终于把AI大模型(LLM+RAG系统+GPT-4o+OpenAI)讲清楚了!全程干货讲解,通俗易懂!学不会我退出IT圈!
MIT|并行计算和科学机器学习18.337J 6.338J Parallel Computing and Scientific Machine Learning
国内最新GPT免费白嫖教程!超简单超详细教程!
【知识视频】Elon Musk解析第一性原理 First principles thinking explained