宾夕法尼亚大学任之湄助理教授：共形对齐——为何时信任大模型提供理论保证

发布人

报告摘要
Before deploying outputs from foundation models in high-stakes tasks, it is imperative to ensure that they align with human values. For instance, in radiology report generation, reports generated by a vision-language model must align with human evaluations before their use in medical decision-making. We present Conformal Alignment, a general framework for identifying units whose outputs meet a user-specified alignment criterion. It is guaranteed that on average, a prescribed fraction of selected units indeed meet the alignment criterion, regardless of the foundation model or the data distribution. Given any pre-trained model and new units with model-generated outputs, Conformal Alignment leverages a set of reference data with ground-truth alignment status to train an alignment predictor. It then selects new units whose predicted alignment scores surpass a data-dependent threshold, certifying their corresponding outputs as trustworthy. Through applications to question answering and radiology report generation, we demonstrate that our method is able to accurately identify units with trustworthy outputs via lightweight training over a moderate amount of reference data. En route, we investigate the informativeness of various features in alignment prediction and combine them with standard models to construct the alignment predictor.

嘉宾简介
Zhimei Ren is an assistant professor in the Department of Statistics and Data Science at the Wharton School, University of Pennsylvania. From 2021-2023, she was a postdoctoral researcher in the Statistics Department at the University of Chicago, advised by Professor Rina Foygel Barber. She obtained her Ph.D. in Statistics from Stanford University, advised by Professor Emmanuel Candès. Her research interests lie broadly in multiple hypothesis testing, distribution-free inference, causal inference, and data-driven decision-making.


直播分享时间：2024年8月24日

打开封面下载高清视频观看高清视频视频下载器

宾夕法尼亚大学任之湄助理教授：共形对齐——为何时信任大模型提供理论保证

宾夕法尼亚大学苏炜杰副教授：统计学如何推进大型语言模型——水印技术与公平性对齐

上海财经大学伍书缘助理研究员：高维多类别逻辑回归的类别并行算法

多伦多大学孙强副教授：用统计学让AI变得可信

宾夕法尼亚大学杨雅翀在读博士生：用小样本处理大数据——适用缺失数据，迁移学习和因果推断的鲁棒预测方法

2024年开学第一课——香港理工大学黄坚教授：人工智能中的统计学及其相互作用

复旦大学在读博士任怡萌：大规模网络下空间自回归模型的分布式估计与推断方法

北京大学在读博士生师佳鑫：利用超高维文本数据进行混合条件回归从而估计法外因素的影响

厦门大学在读博士生高天辰：基于多层学术网络的统计文献引用量预测

斯坦福大学在读博士生金滢：无重叠的政策学习-悲观主义和广义经验伯恩斯坦不等式

哈佛大学陈侃博士：部分识别治疗效果的差异效应方法

2024年开学第一课——南开大学王兆军教授：统计-研究数据的科学

复旦大学杨莹研究员：流数据的在线非参数模型

浙江财经大学黄天元：面向机器学习的R语言生态前沿进展

北京大学在读博士生熊子瑜：基于电话销售语音数据的客户购车意向甄别模型

香港中文大学李根助理教授：扩散模型的收敛性分析与加速

香港理工大学袁雁城助理教授：LAMBDA——基于大模型的数据分析助手

浙江大学孙文光教授：复杂机器学习模型中的共形推断方法-不确定性量化、算法公平性和错误率控制

数据科学优秀学生案例作业 | 基于深度学习技术的失物招领系统

威斯康星大学麦迪逊分校钟逸峤助理教授：统计视角下大模型的几何结构

Isaac Newton数学科学研究所&Clay数学研究所：代数几何和微分几何中的新等变方法&Moduli stack与计数几何&K-稳定性&Kähler几何

2024年开学第一课——北卡罗莱纳大学教堂山分校朱宏图教授：统计学和人工智能在医疗数据分析中的颠覆性应用

杰出系友面对面|李沐讲座：大语言模型的实践经验和未来预测

2024年开学第一课——清华大学邓柯副教授：大数据时代的统计学-挑战、机遇与实践

北京师范大学张博宇教授：行为决策中的物质激励、个人信念和社会影响评估

【狗熊会知识小课堂】-每天都在用的数据分析

中山大学蒋智超教授：AI是否帮助人类做出更明智的决策？

北京大学王汉生教授：开学第一课 | 统计学研究什么？

复旦大学刘彬副教授：异方差高维分位数回归的多变化点检测与定位

复旦大学李颖洲研究员：SpecNet2——基于神经网络的无正交谱嵌入

第四届美团大赛冠军组分享：Walkmate——个性化 Citywalk 路线定制与优化向

清华大学毛小介副教授：基于数据组合的长期处理效应的识别和估计

约翰霍普金斯大学卢飞副教授：相互作用粒子系统的统计学习和逆问题

中国科学院数学与系统科学研究院李启寨研究员：一类Chatterjee相关系数及其性质

数据科学优秀学生案例作业汇报 | 一种基于大模型的可解释语言风格辨识框架及其在AI文本检测中的应用

厦门大学王中雷副教授：基于迁移学习的群稀疏归纳矩阵补全

华东师范大学汤银才教授：《应用概率统计》TeX模板(V5.04)的设计与使用

厦门大学李木易教授：基于多维谱方法的弱向量自回归模型的拟合优度检验

北京大学王汉生教授：统计学研究什么？

26岁，我在上海交通大学当助理教授【ME38】

中国人民大学黄丹阳副教授：基于K-S统计量的聚类算法及在银行卡交易数据上的应用