链载Ai

标题: Magic-PDF：端到端PDF文档解析神器构建高质量RAG必备！ [打印本页]

作者: 链载Ai 时间: 5 小时前
标题: Magic-PDF：端到端PDF文档解析神器构建高质量RAG必备！

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 1.2em;font-weight: bold;display: table;margin-right: auto;margin-bottom: 1em;margin-left: auto;padding-right: 1em;padding-left: 1em;border-bottom: 2px solid rgb(15, 76, 129);color: rgb(63, 63, 63);">项目结构

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 1.2em;font-weight: bold;display: table;margin: 2em auto 1em;padding-right: 1em;padding-left: 1em;border-bottom: 2px solid rgb(15, 76, 129);color: rgb(63, 63, 63);">流程解析

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">预处理的作用是判断文档内容是否需要进行OCR识别，如果是普通可编辑的PDF文档，则使用PyMuPDF库提取元信息。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">模型层除了常规的OCR、版面结构分析外，还有公式检测模型，可提取公式内容，用于后续把公式转化为Latex格式。但是目前暂无表格内容识别，官方预计1个月之内会放出。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">管线层主要是把上面模型的结果进行加工处理。比如把公式转化为Latex格式、图表保存起来成为图片、把文本框进行排序和合并以及过滤掉无用的信息（页眉、页脚等）。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">输出层其实就是结果文件夹中的内容。结果文件夹中有layout.pdf、span.pdf、xx_middle.json、xx_model.json、xx_content_list.json、xx.md、images文件夹。

•layout.pdf 可以看到版面结构的识别结果
•span.pdf 可以看到具体每个文本框的内容
• xx_middle.json 是用OCR或者PDF库解析出的文档元信息，包含文本块类型、内容和坐标。
• xx_model.json 是版面分析结果的内容，包含文本块的类型、坐标和置信度。
• xx_content_list.json 中是文档的类型和具体内容，图表则用img_path指定存放的图片的路径。

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;font-size: 1.2em;font-weight: bold;display: table;margin: 2em auto 1em;padding-right: 1em;padding-left: 1em;border-bottom: 2px solid rgb(15, 76, 129);color: rgb(63, 63, 63);">实践指南

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;margin: 1.5em 8px;letter-spacing: 0.1em;color: rgb(63, 63, 63);">创建一个python环境，建议python3.10以上

ingFang SC", "Hiragino Sans GB", "Microsoft YaHei UI", "Microsoft YaHei", Arial, sans-serif;overflow-x: auto;border-radius: 8px;margin: 10px 8px;">condacreate-nMinerUpython=3.10
condaactivateMinerU

接着安装magic-pdf和detectron2这个包

pipinstallmagic-pdf[full-cpu]
pipinstalldetectron2--extra-index-urlhttps://myhloli.github.io/wheels/

magic-pdf--version

注意查看版本是否在0.6.x以上，否则会有问题。英特尔芯片的Mac电脑由于某些库的依赖原因，只能到0.5.x的版本。对于M系列的芯片，经过实测发现不支持mps加速，还是只能使用CPU。

接着下载模型权重：https://huggingface.co/wanderkid/PDF-Extract-Kit

接着把该仓库中的magic-pdf.template.json文件拷贝到本地，修改models-dir为下载到本地的模型路径。

{
"models-dir":"/tmp/models"
}

需要注意的是这个路径是绝对路径

总结

优点

•比较准确。从上面的图可以看出，无论是可编辑的PDF还是扫描版的PDF，都能非常好的区分出版面中不同类型的部分，而且最终的结果是以Markdown的格式保存的，可以很容易把不同章节、不同自然段按需进行切分。

缺点

•硬件支持不够完善，目前存在很多不兼容的情况。M系列芯片暂时无法解决Bug，GPU未测过是否存在其他问题。而用CPU实在是太慢了，10几页的PDF就需要处理约5分钟。
•版面结构进行排序和组合貌似用的全是自定义的规则函数，不太方便开发者进行复用或者微调。
•表格内容暂时无法识别。目前只能把表格部分提取为图片保存起来。

欢迎光临链载Ai (https://www.lianzai.com/)