V
主页
GeoAI 2022第二期 | 基于遥感影像的预训练研究进展
发布人
报告人:张敬 悉尼大学 博士后研究员 基于“预训练-微调”的迁移学习范式,深度学习深刻地影响和促进了自然语言处理、计算机视觉、遥感影像智能处理和分析等领域的研究。在大模型时代,预训练的价值尤为突出。然而,大多数现有的面向遥感影像分析的深度神经网络模型,都是在自然图像数据集ImageNet上进行预训练得到的初始化参数。自然图像与航拍图像相比,不可避免地存在较大的域差距,例如视角差异、场景分布、物体类别等等。这种域差异可能会限制预训练模型在下游遥感场景任务上的微调性能。本次报告将着重介绍遥感预训练领域的最新进展。我们在目前最大的遥感图像分类数据集MillionAID上研究了不同神经网络架构的预训练性能,包括经典的CNN模型、原始的Vision Transformer模型,以及最新提出的Swin Transformer和ViTAE Transformer模型。进一步,我们比较分析了ImageNet预训练和遥感预训练的不同模型,在图像分类、物体检测、语义分割、变化检测等多个遥感影像分析任务上性能,证明了ViTAE Transformer及遥感预训练的价值,并指出目前仍然存在的问题和未来的研究方向。
打开封面
下载高清视频
观看高清视频
视频下载器
GeoAI 2023第一期第一讲 | ChatGPT大模型背景下地理空间人工智能基础模型的机遇与挑战
GeoAI 2022第四期第一讲 | 我们可以用GeoAI的大刀砍向哪里?
GeoAI 2022第三期第二讲 | 地理知识图谱构建理论与方法
GeoAI 2023第一期第二讲 | AIGC下的地图图形生成与理解
GeoAI2021第五期:《基于深度主题模型的高分辨率城市遥感理解:像素-目标-场景》朱祺琪、《GeoAI与地理信息资源在线检索——以网络地图服务为例》桂志鹏
GeoAI 2022第五期第一讲 | 城市众源数据的应用实例,算法,和发展方向
GeoAI 2024第三期第一讲 | 新一代智能体技术及时空领域赋能
2020 GeoAI回顾:第二期 地理人工智能进展及在地理文本处理和灾害救援中的应用
GeoAI 2024第四期第二讲 | 空间统计与因果推断
GeoAI 2024第三期第二讲 | “数据-知识-模型”协同的智能化地理建模
GeoAI 2023第四期第二讲 | 以人为中心的地理空间数据科学:以场所感知为例
GeoAI 2023第二期第一讲 | 自动化时间序列分析
GeoAI 2024第一期第二讲 | 耦合时空大数据和深度强化学习的地理空间优化研究进展
GeoAI 2023第三期第一讲 | 知识推理和数据学习双驱动的遥感智能解译
GeoAI2021 第一期:《智能空间理解_人工智能视角下的地理空间表达、建模与推测》朱递
2020 GeoAI回顾:第三期 多源遥感信息融合:从模型驱动到数据驱动
GeoAI 2023第二期第二讲 | 在海量遥感数据下的自学习技术研究
GeoAI 2022第一期第二讲 | AI和大数据驱动的新一代城市智能化管理
GeoAI 2022第三期第一讲 | 高光谱高空间分辨率(双高)遥感:从WHU-Hi标准数据集到智能信息处理
GeoAI2021第四期:《AI4STDB:基于人工智能的时空数据管理与应用》郑渤龙、《用AI和大数据打造智慧城市》鲍捷
2024年完整的人工智能入门指南
GeoAI 2023第四期第一讲 | 城市空间结构认知的非监督深度学习方法
GeoAI 2022第四期第二讲 | 基于GeoAI的土地利用时空动态模拟和优化
GeoAI2021第三期:《深度学习在众源地理信息知识挖掘中的应用与挑战》范红超、《移动行为认知与模拟》李勇
GeoAI 2022第六期第一讲 | 疫情下的个体移动行为变化
2020 GeoAI回顾:第五期 城市视觉智能:基于街景图片感知城市空间
GeoAI 2024第二期第二讲 | 遥感大模型:创新对地观测的新范式
GeoAI 2023第三期第二讲 | GeoAI中的空间多尺度
GeoAI2021 第二期:《视觉数据智能化解译技术与应用》杜博、《大数据时代GIS研究新范式》艾廷华
SpatialDI 2022 前沿讲习班:空间统计与分析(1)
2020 GeoAI回顾:第四期 数据不完备场景下的智能空间推测
2020 GeoAI回顾:第七期 城市计算模型及在城市规划、商业智能和公共卫生领域的应用
【122集付费!】CNN、RNN、GAN、GNN、DQN、Transformer、LSTM等八大深度学习神经网络一口气全部学完!
2020 GeoAI回顾:第八期 基于图深度学习的网络时空数据建模与预测
2020 GeoAI回顾:第一期 人工智能时代的地理信息科学近期研究概述
SpatialDI 2022 前沿讲习班:交通与轨迹分析(1)
GeoAI 2024第四期第一讲 | 时空因果模型:第一性原理的视角
OpenAI禁用的真相
SpatialDI 2022 前沿讲习班:交通与轨迹分析(2)
SpatialDI 2022 前沿讲习班:城市模拟与预测