V
主页
超级对齐:世界人工智能大会随感
发布人
这次世界人工智能大会,我听了GLM的论坛,感触颇深,特别是超级对齐的概念,个人觉得将会是今后大模型发展的一个重要的方向。 什么是超级对齐呢? 人们最为担心的问题之一,就是AI系统的价值观能否与人类保持一致。如果AI系统的目标与人类存在偏差,它们很可能作出与人类价值观相违背的决策,产生不可控的后果。为了避免这种“AI值观不对齐”的风险,研究界提出要实现AI系统与人类的“价值观对齐”。 更进一步,Google Brain 的研究员扬·雷克博士提出的“超级对齐”概念更是关键。超级对齐要求 AI 系统在各种复杂环境下,自己就能推出符合人类价值观的行动方案,可不像以前简单地把人类价值观硬编码进 AI 系统就行。 也就是说AI要揣测人的价值观,是不是特别像你每天揣测女朋友想啥。 那为啥超级对齐这么重要呢?因为人类社会和环境太复杂啦,一个固定的价值观模型根本没法描述清楚。 比如说大模型的目的是“提高用户的快乐” 如果将诉求硬编码进 AI 系统,它可能就会乱给大家派快乐药丸。 这个典型就是短视频平台推荐的各种三俗,快乐是快乐了,但这并不是真的想要的。 因此啊,一个真正智能的AI需要能够根据不同情形,自主推导出如何才能最符合人类的核心价值观,而不是机械式执行某些简单规则。 但是,时下流行的深度学习等技术,让AI在某些狭窄任务上取得巨大进展,但这些AI缺乏对环境和自身的广泛理解,难以对复杂事件进行价值判断。 超级对齐,整体来说,还属于概念阶段,并没有实际的落地,主要原因就是太难了。 要实现 AI 的超级对齐,让 AI 具备对抽象价值的理解能力是个重要方向。不过,要开发出这样的 AI 可不容易,新训练框架、新网络结构、对话接口等等都得研究,而且不同文化的价值观念分歧也是个大挑战。 目前,实现 AI 系统价值观的超级对齐有几个难点。首先,怎么用机器能理解的方式编码人类复杂的价值观就很难,不同文化背景下价值观差异大,统一描述框架难找。其次,价值判断有模糊性,同一事件不同人立场不同,很难用程序表达。还有,当前 AI 的推理和学习能力有限,擅长模式识别,但处理抽象概念弱,训练数据局限,增加了超级对齐难度。另外,超级智能 AI 系统的安全性和可控性也是问题,给太多自主权怕它失控,限制太多又没法实现超级对齐需要的学习推理。最后,实际应用环境复杂多变,AI 要根据具体情形调整规则很难。 虽然挑战多多,但我个人认为,只有实现了超级对齐,AI才能真正具备大规模放心使用,超级对齐是未来强人工智能发展的必然方向。
打开封面
下载高清视频
观看高清视频
视频下载器
大模型其实没有真正意义上的开源
苹果诠释真正的开源;小模型时代拉开帷幕
【B站独家教程】从零训练自己的大模型 仅使用Pytorch,从零手撸一个大模型。手把手教你用PyTorch从零训练自己的大模型(非常详细)零基础入门到精通
别看刷榜,大模型靠不靠谱,就看这一条
中国AI的短板,走一条自己的路
人类大脑VS大模型
最新大模型技术详解:深度解析GPT-4o 英伟达开源最强模型Nemotron-4 340B 通义千问2.0和GLM4.0详解-卢菁博士授课
大模型训练中的粪口循环
AI生成视频失败案例,胆小警告
让提示词变异 攻破大模型
自由定制,DIY专属聊天伙伴!-新-小丑
来自东南亚的邪术:一种攻击大模型的方法
大模型有可能带着人工智能走一条弯路
【多模态+大模型+知识图谱】2024完整版:这绝对是B站最全的教程,论文创新点终于解决了!——人工智能/深度学习/aigc/计算机视觉
【AI写作】炸裂!我把AI变成了爆文高手,内容点击量暴增 98.99 %
人工智能被卡脖子的不仅仅是显卡
吊炸天! 这个AI生成工具还能做这么炸裂的视频?
ChatGPT解读西游记,你觉得有道理吗?
解密抖音的推荐系统-北大博士后,腾讯人工智能专家-卢菁老师
详解:Agent到底是什么?会成为下一个热潮吗?-北大博士后人工智能专家卢菁博士授课 人工智能|大模型|多模态|AIGC
玩转小模型的三板斧
六大AI神器发布,AI技术越来越“离谱”:一键瞬移物体、一键去除马赛克、一键替换视频效果、一键把真实视频变成CG人物、一键生成流动性视频。
王者荣耀表演赛:人工智能历史上第一次打败人类战队,AI好厉害
人工智能有哪些有趣的应用?来看看这些AI神器!超炫酷!
大模型的训练门槛被复旦大学打下来了
支付宝直接充值并订阅ChatGPT和Midjourney的会员!免费白嫖海外多种订阅服务~
一觉醒来,程序员自己把自己干掉了。就在刚刚,世界上第一位AI程序员Devin诞生。直接引爆整个科技圈
AI的进化让我看到了郭德纲与赵本山全英文交流!
手机可以运行大语言模型了!!
龙之九子-AI视频
人工智能颠覆科研,牛津大学推出ai科学家!人工智能技术
一文读懂文心大模型ERNIE的技术-北京大学卢菁博士授课-NLP开发利器大模型ERNIE:超大规模预训练模型原理及应用精讲
奥数几何题能力逼近国际金牌选手! 谷歌DeepMind的Alpha Geometry模型登上了Nature杂志! #人工智能 #deepmind #alphag
AI绘画炸裂新技术!实时稳定生成视频,自由控制画面!#ChatGPT#AIGC #AI绘画 #实时渲染 #OpenAI
【大模型新技术】春招面试必看!基于百万语料的医疗RAG项目讲解 1.LLM的应用神器RAG 2.RAG如何解决LLM现有的问题
谷歌推出王炸AI图片生成算法styledrop
意念操控无人机编队 西工大又实现一大技术突破,领先全球#无人机 #科技 #人工智能 #机器人编程
人工智能实现自我改进 _AIGC一步之遥 _agentgpt
AI机器人进化论-适者生存-卷积神经网络
实操,用提示词微调AI大模型来写小说可以日更万字,效率起飞