1. DocLLM:一种面向布局的生成式语言模型,能理解多模态文
  

火狐狸 254

{{ttag.title}}
1. DocLLM:一种面向布局的生成式语言模型,能理解多模态文档
DocLLM:一种面向布局的生成式语言模型,能理解多模态文档
对于企业文档来说,不仅仅是文本类型,还有很多复杂的类型,例如表格、发票、收据、报告、合同等,其中都包含着丰富的文字和空间交互信息。这些文档复杂的布局提供了视觉线索,对于有效理解这些文档至关重要。
本论文以此建议了一种轻量级扩展的大语言模型(LLMs) - DocLLM,这款模型可在处理可视文档时,同时考虑到文本语义和空间布局。该模型与现有的多模态语言模型(LLMs)的最大不同在于,它没有使用计算成本高昂的图像编码器,而是通过边框信息来整合空间布局。
具体来说,DocLLM 通过将文本和空间模态之间的交叉对齐分解为一组独立矩阵来处理既定的 Transformer 的注意力机制。
此外,DocLLM 还设计了一个预训练目标,学习如何自动填充文本段落。这种方式使其能更好地处理常见的视觉文档中的不规则布局和混合内容。
DocLLM 使用大型指令数据集对预训练模型进行了微调,覆盖了四个主要的文档智能任务。
DocLLM 的解决方案在所有任务的16个数据集中的14个上优于现有的最先进语言模型,且在之前未曾接触过的5个数据集中的4个上有良好的应用表现。
论文:https://arxiv.org/abs/2401.00908

打赏鼓励作者,期待更多好文!

打赏
暂无人打赏

发表新帖
热门标签
全部标签>
每日一问
2024年技术争霸赛
干货满满
技术笔记
技术盲盒
新版本体验
GIF动图学习
信服课堂视频
通用技术
秒懂零信任
功能体验
产品连连看
2023技术争霸赛专题
安全攻防
标准化排查
自助服务平台操作指引
技术咨询
答题自测
网络基础知识
在线直播
玩转零信任
技术晨报
齐鲁TV
华北区交付直播
每周精选
畅聊IT
专家问答
技术圆桌
MVP
安装部署配置
升级
上网策略
测试报告
日志审计
问题分析处理
流量管理
每日一记
运维工具
云计算知识
用户认证
原创分享
解决方案
sangfor周刊
VPN 对接
项目案例
SANGFOR资讯
专家分享
技术顾问
信服故事
SDP百科
功能咨询
终端接入
授权
设备维护
资源访问
地址转换
虚拟机
存储
迁移
加速技术
排障笔记本
产品预警公告
信服圈儿
S豆商城资讯
技术争霸赛
「智能机器人」
追光者计划
深信服技术支持平台
社区帮助指南
答题榜单公布
纪元平台
卧龙计划
华北区拉练
天逸直播
以战代练
山东区技术晨报
文档捉虫活动
北京区每日一练

本版版主

461
245
13

发帖

粉丝

关注

本版达人

feeling

本周分享达人

新手29676...

本周提问达人