通用表格识别产线使用教程

1. 通用表格识别产线介绍

表格识别是一种自动从文档或图像中识别和提取表格内容及其结构的技术，广泛应用于数据录入、信息检索和文档分析等领域。通过使用计算机视觉和机器学习算法，表格识别能够将复杂的表格信息转换为可编辑的格式，方便用户进一步处理和分析数据。

通用表格识别产线用于解决表格识别任务，对图片中的表格进行识别，并以HTML格式输出。本产线集成了业界知名的 SLANet 和 SLANet_plus 表格识别模型。基于本产线，可实现对表格的精准预测，使用场景覆盖通用、制造、金融、交通等各个领域。本产线同时提供了灵活的服务化部署方式，支持在多种硬件上使用多种编程语言调用。不仅如此，本产线也提供了二次开发的能力，您可以基于本产线在您自己的数据集上训练调优，训练后的模型也可以无缝集成。

通用表格识别产线中包含必选的表格结构识别模块、文本检测模块和文本识别模块，以及可选的版面区域检测模块、文档图像方向分类模块和文本图像矫正模块。

如果您更注重模型的精度，请选择精度较高的模型；如果您更在意模型的推理速度，请选择推理速度较快的模型；如果您关注模型的存储大小，请选择存储体积较小的模型。

表格识别模块模型：

模型	模型下载链接	精度（%）	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小 (M)	介绍
SLANet	推理模型/训练模型	59.52	103.08 / 103.08	197.99 / 197.99	6.9 M	SLANet 是百度飞桨视觉团队自研的表格结构识别模型。该模型通过采用CPU 友好型轻量级骨干网络PP-LCNet、高低层特征融合模块CSP-PAN、结构与位置信息对齐的特征解码模块SLA Head，大幅提升了表格结构识别的精度和推理速度。
SLANet_plus	推理模型/训练模型	63.69	140.29 / 140.29	195.39 / 195.39	6.9 M

文本检测模块模型：

模型	模型下载链接	检测Hmean（%）	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M)	介绍
PP-OCRv4_server_det	推理模型/训练模型	82.69	83.34 / 80.91	442.58 / 442.58	109	PP-OCRv4 的服务端文本检测模型，精度更高，适合在性能较好的服务器上部署
PP-OCRv4_mobile_det	推理模型/训练模型	77.79	8.79 / 3.13	51.00 / 28.58	4.7	PP-OCRv4 的移动端文本检测模型，效率更高，适合在端侧设备部署

文本识别模块模型：

模型	模型下载链接	识别 Avg Accuracy(%)	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M）	介绍
PP-OCRv4_mobile_rec	推理模型/训练模型	78.20	4.82 / 4.82	16.74 / 4.64	10.6 M	PP-OCRv4是百度飞桨视觉团队自研的文本识别模型PP-OCRv3的下一个版本，通过引入数据增强方案、GTC-NRTR指导分支等策略，在模型推理速度不变的情况下，进一步提升了文本识别精度。该模型提供了服务端（server）和移动端（mobile）两个不同版本，来满足不同场景下的工业需求。
PP-OCRv4_server_rec	推理模型/训练模型	79.20	6.58 / 6.58	33.17 / 33.17	71.2 M

模型	模型下载链接	识别 Avg Accuracy(%)	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M）	介绍
ch_SVTRv2_rec	推理模型/训练模型	68.81	8.08 / 8.08	50.17 / 42.50	73.9 M	SVTRv2 是一种由复旦大学视觉与学习实验室（FVL）的OpenOCR团队研发的服务端文本识别模型，其在PaddleOCR算法模型挑战赛 - 赛题一：OCR端到端识别任务中荣获一等奖，A榜端到端识别精度相比PP-OCRv4提升6%。

模型	模型下载链接	识别 Avg Accuracy(%)	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M）	介绍
ch_RepSVTR_rec	推理模型/训练模型	65.07	5.93 / 5.93	20.73 / 7.32	22.1 M	RepSVTR 文本识别模型是一种基于SVTRv2 的移动端文本识别模型，其在PaddleOCR算法模型挑战赛 - 赛题一：OCR端到端识别任务中荣获一等奖，B榜端到端识别精度相比PP-OCRv4提升2.5%，推理速度持平。

版面区域检测模块模型（可选）：

模型	模型下载链接	mAP(0.5)（%）	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M）	介绍
PicoDet_layout_1x	推理模型/训练模型	86.8	9.03 / 3.10	25.82 / 20.70	7.4	基于PicoDet-1x在PubLayNet数据集训练的高效率版面区域定位模型，可定位包含文字、标题、表格、图片以及列表这5类区域
PicoDet_layout_1x_table	推理模型/训练模型	95.7	8.02 / 3.09	23.70 / 20.41	7.4 M	基于PicoDet-1x在自建数据集训练的高效率版面区域定位模型，可定位包含表格这1类区域
PicoDet-S_layout_3cls	推理模型/训练模型	87.1	8.99 / 2.22	16.11 / 8.73	4.8	基于PicoDet-S轻量模型在中英文论文、杂志和研报等场景上自建数据集训练的高效率版面区域定位模型，包含3个类别：表格，图像和印章
PicoDet-S_layout_17cls	推理模型/训练模型	70.3	9.11 / 2.12	15.42 / 9.12	4.8	基于PicoDet-S轻量模型在中英文论文、杂志和研报等场景上自建数据集训练的高效率版面区域定位模型，包含17个版面常见类别，分别是：段落标题、图片、文本、数字、摘要、内容、图表标题、公式、表格、表格标题、参考文献、文档标题、脚注、页眉、算法、页脚、印章
PicoDet-L_layout_3cls	推理模型/训练模型	89.3	13.05 / 4.50	41.30 / 41.30	22.6	基于PicoDet-L在中英文论文、杂志和研报等场景上自建数据集训练的高效率版面区域定位模型，包含3个类别：表格，图像和印章
PicoDet-L_layout_17cls	推理模型/训练模型	79.9	13.50 / 4.69	43.32 / 43.32	22.6	基于PicoDet-L在中英文论文、杂志和研报等场景上自建数据集训练的高效率版面区域定位模型，包含17个版面常见类别，分别是：段落标题、图片、文本、数字、摘要、内容、图表标题、公式、表格、表格标题、参考文献、文档标题、脚注、页眉、算法、页脚、印章
RT-DETR-H_layout_3cls	推理模型/训练模型	95.9	114.93 / 27.71	947.56 / 947.56	470.1	基于RT-DETR-H在中英文论文、杂志和研报等场景上自建数据集训练的高精度版面区域定位模型，包含3个类别：表格，图像和印章
RT-DETR-H_layout_17cls	推理模型/训练模型	92.6	115.29 / 104.09	995.27 / 995.27	470.2	基于RT-DETR-H在中英文论文、杂志和研报等场景上自建数据集训练的高精度版面区域定位模型，包含17个版面常见类别，分别是：段落标题、图片、文本、数字、摘要、内容、图表标题、公式、表格、表格标题、参考文献、文档标题、脚注、页眉、算法、页脚、印章

文本图像矫正模块模型（可选）：

模型	模型下载链接	MS-SSIM （%）	模型存储大小（M)	介绍
UVDoc	推理模型/训练模型	54.40	30.3 M	高精度文本图像矫正模型

文档图像方向分类模块模型（可选）：

模型	模型下载链接	Top-1 Acc（%）	GPU推理耗时（ms） [常规模式 / 高性能模式]	CPU推理耗时（ms） [常规模式 / 高性能模式]	模型存储大小（M)	介绍
PP-LCNet_x1_0_doc_ori	推理模型/训练模型	99.06	2.31 / 0.43	3.37 / 1.27	7	基于PP-LCNet_x1_0的文档图像分类模型，含有四个类别，即0度，90度，180度，270度

测试环境说明：

• 性能测试环境
• 测试数据集
  • 文档图像方向分类模型：PaddleX 自建的数据集，覆盖证件和文档等多个场景，包含 1000 张图片。
  • 文本图像矫正模型：DocUNet。
  • 版面区域检测模型：PaddleOCR 自建的版面区域分析数据集，包含中英文论文、杂志和研报等常见的 1w 张文档类型图片。
  • 表格结构识别模型：PaddleX 内部自建英文表格识别数据集。
  • 文本检测模型：PaddleOCR 自建的中文数据集，覆盖街景、网图、文档、手写多个场景，其中检测包含 500 张图片。
  • 中文识别模型： PaddleOCR 自建的中文数据集，覆盖街景、网图、文档、手写多个场景，其中文本识别包含 1.1w 张图片。
  • ch_SVTRv2_rec：PaddleOCR算法模型挑战赛 - 赛题一：OCR端到端识别任务A榜评估集。
  • ch_RepSVTR_rec：PaddleOCR算法模型挑战赛 - 赛题一：OCR端到端识别任务B榜评估集。
  • 英文识别模型：PaddleX 自建的英文数据集。
  • 多语言识别模型：PaddleX 自建的多语种数据集。

• 硬件配置：

  • GPU：NVIDIA Tesla T4
  • CPU：Intel Xeon Gold 6271C @ 2.60GHz
  • 其他环境：Ubuntu 20.04 / cuDNN 8.6 / TensorRT 8.5.2.2

• 推理模式说明

模式	GPU配置	CPU配置	加速技术组合
常规模式	FP32精度 / 无TRT加速	FP32精度 / 8线程	PaddleInference
高性能模式	选择先验精度类型和加速策略的最优组合	FP32精度 / 8线程	选择先验最优后端（Paddle/OpenVINO/TRT等）

2. 快速开始

PaddleX 所提供的预训练的模型产线均可以快速体验效果，你可以在星河社区在线体验通用表格识别产线的效果，也可以在本地使用命令行或 Python 体验通用表格识别产线的效果。

2.1 在线体验

您可以在线体验通用表格识别产线的效果，用官方提供的 demo 图片进行识别，例如：

如果您对产线运行的效果满意，可以直接进行集成部署。您可以选择从云端下载部署包，也可以参考2.2节本地体验中的方法进行本地部署。如果对效果不满意，您可以利用私有数据对产线中的模型进行微调训练。如果您具备本地训练的硬件资源，可以直接在本地开展训练；如果没有，星河零代码平台提供了一键式训练服务，无需编写代码，只需上传数据后，即可一键启动训练任务。

2.2 本地体验

在本地使用通用表格识别产线前，请确保您已经按照PaddleX本地安装教程完成了PaddleX的wheel包安装。

2.1 命令行方式体验

一行命令即可快速体验表格识别产线效果，使用 测试文件，并将 --input 替换为本地路径，进行预测

paddlex --pipeline table_recognition \
        --input table_recognition.jpg \
        --save_path ./output \
        --device gpu:0

相关的参数说明可以参考2.2 Python脚本方式中的参数说明。

运行后，会将结果打印到终端上，结果如下：

{'res': {'input_path': 'table_recognition.jpg', 'model_settings': {'use_doc_preprocessor': True, 'use_layout_detection': True, 'use_ocr_model': True}, 'doc_preprocessor_res': {'input_path': '0.jpg', 'model_settings': {'use_doc_orientation_classify': True, 'use_doc_unwarping': True}, 'angle': 0}, 'layout_det_res': {'input_path': None, 'boxes': [{'cls_id': 0, 'label': 'Table', 'score': 0.9196816086769104, 'coordinate': [0, 8.614925, 550.9877, 132]}]}, 'overall_ocr_res': {'input_path': '0.jpg', 'model_settings': {'use_doc_preprocessor': False, 'use_textline_orientation': False}, 'dt_polys': [array([[232,   0],
       [318,   1],
       [318,  24],
       [232,  21]], dtype=int16), array([[32, 38],
       [67, 38],
       [67, 55],
       [32, 55]], dtype=int16), array([[119,  34],
       [196,  34],
       [196,  57],
       [119,  57]], dtype=int16), array([[222,  29],
       [396,  31],
       [396,  60],
       [222,  58]], dtype=int16), array([[420,  30],
       [542,  32],
       [542,  61],
       [419,  59]], dtype=int16), array([[29, 71],
       [72, 71],
       [72, 92],
       [29, 92]], dtype=int16), array([[287,  72],
       [329,  72],
       [329,  93],
       [287,  93]], dtype=int16), array([[458,  68],
       [501,  71],
       [499,  94],
       [456,  91]], dtype=int16), array([[  9, 101],
       [ 89, 103],
       [ 89, 130],
       [  8, 128]], dtype=int16), array([[139, 105],
       [172, 105],
       [172, 126],
       [139, 126]], dtype=int16), array([[274, 103],
       [339, 101],
       [340, 128],
       [275, 130]], dtype=int16), array([[451, 103],
       [508, 103],
       [508, 126],
       [451, 126]], dtype=int16)], 'text_det_params': {'limit_side_len': 960, 'limit_type': 'max', 'thresh': 0.3, 'box_thresh': 0.6, 'unclip_ratio': 2.0}, 'text_type': 'general', 'textline_orientation_angles': [-1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1, -1], 'text_rec_score_thresh': 0, 'rec_texts': ['CRuncover', 'Dres', '连续工作3', '取出来放在网上，没想', '江、江等八大', 'Abstr', 'rSrivi', '$709.', 'cludingGiv', '2.72', 'Ingcubic', '$744.78'], 'rec_scores': [0.9943075180053711, 0.9951075315475464, 0.9907732009887695, 0.9975494146347046, 0.9974043369293213, 0.9983242750167847, 0.991967499256134, 0.9898287653923035, 0.9961177110671997, 0.9975040555000305, 0.9986456632614136, 0.9987970590591431], 'rec_polys': [array([[232,   0],
       [318,   1],
       [318,  24],
       [232,  21]], dtype=int16), array([[32, 38],
       [67, 38],
       [67, 55],
       [32, 55]], dtype=int16), array([[119,  34],
       [196,  34],
       [196,  57],
       [119,  57]], dtype=int16), array([[222,  29],
       [396,  31],
       [396,  60],
       [222,  58]], dtype=int16), array([[420,  30],
       [542,  32],
       [542,  61],
       [419,  59]], dtype=int16), array([[29, 71],
       [72, 71],
       [72, 92],
       [29, 92]], dtype=int16), array([[287,  72],
       [329,  72],
       [329,  93],
       [287,  93]], dtype=int16), array([[458,  68],
       [501,  71],
       [499,  94],
       [456,  91]], dtype=int16), array([[  9, 101],
       [ 89, 103],
       [ 89, 130],
       [  8, 128]], dtype=int16), array([[139, 105],
       [172, 105],
       [172, 126],
       [139, 126]], dtype=int16), array([[274, 103],
       [339, 101],
       [340, 128],
       [275, 130]], dtype=int16), array([[451, 103],
       [508, 103],
       [508, 126],
       [451, 126]], dtype=int16)], 'rec_boxes': array([[232,   0, 318,  24],
       [ 32,  38,  67,  55],
       [119,  34, 196,  57],
       [222,  29, 396,  60],
       [419,  30, 542,  61],
       [ 29,  71,  72,  92],
       [287,  72, 329,  93],
       [456,  68, 501,  94],
       [  8, 101,  89, 130],
       [139, 105, 172, 126],
       [274, 101, 340, 130],
       [451, 103, 508, 126]], dtype=int16)}, 'table_res_list': [{'cell_box_list': array([[  8.        ,   9.61492538, 532.        ,  26.61492538],
       [  3.        ,  27.61492538, 104.        ,  65.61492538],
       [109.        ,  28.61492538, 215.        ,  66.61492538],
       [219.        ,  28.61492538, 396.        ,  64.61492538],
       [396.        ,  29.61492538, 546.        ,  66.61492538],
       [  1.        ,  65.61492538, 110.        ,  93.61492538],
       [111.        ,  65.61492538, 215.        ,  94.61492538],
       [220.        ,  66.61492538, 397.        ,  94.61492538],
       [398.        ,  67.61492538, 544.        ,  94.61492538],
       [  2.        ,  98.61492538, 111.        , 131.61492538],
       [113.        ,  98.61492538, 216.        , 131.61492538],
       [219.        ,  98.61492538, 400.        , 131.61492538],
       [403.        ,  99.61492538, 545.        , 130.61492538]]), 'pred_html': '<html><body><table><tr><td colspan="4">CRuncover</td></tr><tr><td>Dres</td><td>连续工作3</td><td>取出来放在网上，没想</td><td>江、江等八大</td></tr><tr><td>Abstr</td><td></td><td>rSrivi</td><td>$709.</td></tr><tr><td>cludingGiv</td><td>2.72</td><td>Ingcubic</td><td>$744.78</td></tr></table></body></html>', 'table_ocr_pred': {'rec_polys': [array([[232,   0],
       [318,   1],
       [318,  24],
       [232,  21]], dtype=int16), array([[32, 38],
       [67, 38],
       [67, 55],
       [32, 55]], dtype=int16), array([[119,  34],
       [196,  34],
       [196,  57],
       [119,  57]], dtype=int16), array([[222,  29],
       [396,  31],
       [396,  60],
       [222,  58]], dtype=int16), array([[420,  30],
       [542,  32],
       [542,  61],
       [419,  59]], dtype=int16), array([[29, 71],
       [72, 71],
       [72, 92],
       [29, 92]], dtype=int16), array([[287,  72],
       [329,  72],
       [329,  93],
       [287,  93]], dtype=int16), array([[458,  68],
       [501,  71],
       [499,  94],
       [456,  91]], dtype=int16), array([[  9, 101],
       [ 89, 103],
       [ 89, 130],
       [  8, 128]], dtype=int16), array([[139, 105],
       [172, 105],
       [172, 126],
       [139, 126]], dtype=int16), array([[274, 103],
       [339, 101],
       [340, 128],
       [275, 130]], dtype=int16), array([[451, 103],
       [508, 103],
       [508, 126],
       [451, 126]], dtype=int16)], 'rec_texts': ['CRuncover', 'Dres', '连续工作3', '取出来放在网上，没想', '江、江等八大', 'Abstr', 'rSrivi', '$709.', 'cludingGiv', '2.72', 'Ingcubic', '$744.78'], 'rec_scores': [0.9943075180053711, 0.9951075315475464, 0.9907732009887695, 0.9975494146347046, 0.9974043369293213, 0.9983242750167847, 0.991967499256134, 0.9898287653923035, 0.9961177110671997, 0.9975040555000305, 0.9986456632614136, 0.9987970590591431], 'rec_boxes': [array([232,   0, 318,  24], dtype=int16), array([32, 38, 67, 55], dtype=int16), array([119,  34, 196,  57], dtype=int16), array([222,  29, 396,  60], dtype=int16), array([419,  30, 542,  61], dtype=int16), array([29, 71, 72, 92], dtype=int16), array([287,  72, 329,  93], dtype=int16), array([456,  68, 501,  94], dtype=int16), array([  8, 101,  89, 130], dtype=int16), array([139, 105, 172, 126], dtype=int16), array([274, 101, 340, 130], dtype=int16), array([451, 103, 508, 126], dtype=int16)]}}]}}

运行结果参数说明可以参考2.2 Python脚本方式中的结果解释。

可视化结果保存在save_path下，其中表格识别的可视化结果如下：

2.2 Python脚本方式集成

• 上述命令行是为了快速体验查看效果，一般来说，在项目中，往往需要通过代码集成，您可以通过几行代码即可完成产线的快速推理，推理代码如下：

from paddlex import create_pipeline

pipeline = create_pipeline(pipeline="table_recognition")

output = pipeline.predict(
    input="table_recognition.jpg",
    use_doc_orientation_classify=False,
    use_doc_unwarping=False,
)

for res in output:
    res.print()
    res.save_to_img("./output/")
    res.save_to_xlsx("./output/")
    res.save_to_html("./output/")
    res.save_to_json("./output/")

在上述 Python 脚本中，执行了如下几个步骤：

（1）通过 create_pipeline() 实例化通用表格识别产线对象，具体参数说明如下：

参数	参数说明	参数类型	默认值
pipeline	产线名称或是产线配置文件路径。如为产线名称，则必须为 PaddleX 所支持的产线。	str	None
config	产线具体的配置信息（如果和pipeline同时设置，优先级高于pipeline，且要求产线名和pipeline一致）。	dict[str, Any]	None
device	产线推理设备。支持指定GPU具体卡号，如“gpu:0”，其他硬件具体卡号，如“npu:0”，CPU如“cpu”。	str	gpu:0
use_hpip	是否启用高性能推理，仅当该产线支持高性能推理时可用。	bool	False

（2）调用通用表格识别产线对象的 predict() 方法进行推理预测。该方法将返回一个 generator。以下是 predict() 方法的参数及其说明：

参数	参数说明	参数类型	可选项	默认值
input	待预测数据，支持多种输入类型，必填	Python Var|str|list	Python Var：如 numpy.ndarray 表示的图像数据 str：如图像文件或者PDF文件的本地路径：/root/data/img.jpg；如URL链接，如图像文件或PDF文件的网络URL：示例；如本地目录，该目录下需包含待预测图像，如本地路径：/root/data/(当前不支持目录中包含PDF文件的预测，PDF文件需要指定到具体文件路径) List：列表元素需为上述类型数据，如[numpy.ndarray, numpy.ndarray]，[\"/root/data/img1.jpg\", \"/root/data/img2.jpg\"]，[\"/root/data1\", \"/root/data2\"]	None
device	产线推理设备	str|None	CPU：如 cpu 表示使用 CPU 进行推理； GPU：如 gpu:0 表示使用第 1 块 GPU 进行推理； NPU：如 npu:0 表示使用第 1 块 NPU 进行推理； XPU：如 xpu:0 表示使用第 1 块 XPU 进行推理； MLU：如 mlu:0 表示使用第 1 块 MLU 进行推理； DCU：如 dcu:0 表示使用第 1 块 DCU 进行推理； None：如果设置为 None, 将默认使用产线初始化的该参数值，初始化时，会优先使用本地的 GPU 0号设备，如果没有，则使用 CPU 设备；	None
use_doc_orientation_classify	是否使用文档方向分类模块	bool|None	bool：True 或者 False； None：如果设置为None, 将默认使用产线初始化的该参数值，初始化为True；	None
use_doc_unwarping	是否使用文档扭曲矫正模块	bool|None	bool：True 或者 False； None：如果设置为None, 将默认使用产线初始化的该参数值，初始化为True；	None
text_det_limit_side_len	文本检测的图像边长限制	int|None	int：大于 0 的任意整数； None：如果设置为 None, 将默认使用产线初始化的该参数值，初始化为 960；	None	text_det_limit_type	文本检测的图像边长限制类型	str|None	str：支持 min 和 max，min 表示保证图像最短边不小于 det_limit_side_len，max 表示保证图像最长边不大于 limit_side_len None：如果设置为 None, 将默认使用产线初始化的该参数值，初始化为 max；	None	text_det_thresh	检测像素阈值，输出的概率图中，得分大于该阈值的像素点才会被认为是文字像素点	float|None	float：大于 0 的任意浮点数 None：如果设置为 None, 将默认使用产线初始化的该参数值 0.3	None	text_det_box_thresh	检测框阈值，检测结果边框内，所有像素点的平均得分大于该阈值时，该结果会被认为是文字区域	float|None	float：大于 0 的任意浮点数 None：如果设置为 None, 将默认使用产线初始化的该参数值 0.6	None	text_det_unclip_ratio	文本检测扩张系数，使用该方法对文字区域进行扩张，该值越大，扩张的面积越大	float|None	float：大于 0 的任意浮点数 None：如果设置为 None, 将默认使用产线初始化的该参数值 2.0	None	text_rec_score_thresh	文本识别阈值，得分大于该阈值的文本结果会被保留	float|None	float：大于 0 的任意浮点数 None：如果设置为 None, 将默认使用产线初始化的该参数值 0.0。即不设阈值	None

（3）对预测结果进行处理，每个样本的预测结果均为对应的Result对象，且支持打印、保存为图片、保存为xlsx文件、保存为HTML文件、保存为json文件的操作:

方法	方法说明	参数	参数类型	参数说明	默认值
print()	打印结果到终端	format_json	bool	是否对输出内容进行使用 JSON 缩进格式化	True
		indent	int	指定缩进级别，以美化输出的 JSON 数据，使其更具可读性，仅当 format_json 为 True 时有效	4
		ensure_ascii	bool	控制是否将非 ASCII 字符转义为 Unicode。设置为 True 时，所有非 ASCII 字符将被转义；False 则保留原始字符，仅当format_json为True时有效	False
save_to_json()	将结果保存为json格式的文件	save_path	str	保存的文件路径，当为目录时，保存文件命名与输入文件类型命名一致	无
		indent	int	指定缩进级别，以美化输出的 JSON 数据，使其更具可读性，仅当 format_json 为 True 时有效	4
		ensure_ascii	bool	控制是否将非 ASCII 字符转义为 Unicode。设置为 True 时，所有非 ASCII 字符将被转义；False 则保留原始字符，仅当format_json为True时有效	False
save_to_img()	将结果保存为图像格式的文件	save_path	str	保存的文件路径，支持目录或文件路径	无
save_to_xlsx()	将结果保存为xlsx格式的文件	save_path	str	保存的文件路径，支持目录或文件路径	无
save_to_html()	将结果保存为html格式的文件	save_path	str	保存的文件路径，支持目录或文件路径	无

• 调用print() 方法会将结果打印到终端，打印到终端的内容解释如下：

  • input_path: (str) 待预测图像的输入路径

  • page_index: (Union[int, None]) 如果输入是PDF文件，则表示当前是PDF的第几页，否则为 None

  • model_settings: (Dict[str, bool]) 配置产线所需的模型参数

    • use_doc_preprocessor: (bool) 控制是否启用文档预处理子产线
      • doc_preprocessor_res: (Dict[str, Union[str, Dict[str, bool], int]]) 文档预处理子产线的输出结果。仅当use_doc_preprocessor=True时存在
    • input_path: (Union[str, None]) 图像预处理子产线接受的图像路径，当输入为numpy.ndarray时，保存为None
    • model_settings: (Dict) 预处理子产线的模型配置参数
      • use_doc_orientation_classify: (bool) 控制是否启用文档方向分类
      • use_doc_unwarping: (bool) 控制是否启用文档扭曲矫正
    • angle: (int) 文档方向分类的预测结果。启用时取值为[0,1,2,3]，分别对应[0°,90°,180°,270°]；未启用时为-1

  • dt_polys: (List[numpy.ndarray]) 文本检测的多边形框列表。每个检测框由4个顶点坐标构成的numpy数组表示，数组shape为(4, 2)，数据类型为int16

  • dt_scores: (List[float]) 文本检测框的置信度列表

  • text_det_params: (Dict[str, Dict[str, int, float]]) 文本检测模块的配置参数

    • limit_side_len: (int) 图像预处理时的边长限制值
    • limit_type: (str) 边长限制的处理方式
    • thresh: (float) 文本像素分类的置信度阈值
    • box_thresh: (float) 文本检测框的置信度阈值
    • unclip_ratio: (float) 文本检测框的膨胀系数
    • text_type: (str) 文本检测的类型，当前固定为"general"

  • text_rec_score_thresh: (float) 文本识别结果的过滤阈值

  • rec_texts: (List[str]) 文本识别结果列表，仅包含置信度超过text_rec_score_thresh的文本

  • rec_scores: (List[float]) 文本识别的置信度列表，已按text_rec_score_thresh过滤

  • rec_polys: (List[numpy.ndarray]) 经过置信度过滤的文本检测框列表，格式同dt_polys

  • rec_boxes: (numpy.ndarray) 检测框的矩形边界框数组，shape为(n, 4)，dtype为int16。每一行表示一个矩形框的[x_min, y_min, x_max, y_max]坐标 ，其中(x_min, y_min)为左上角坐标，(x_max, y_max)为右下角坐标

• 调用save_to_json() 方法会将上述内容保存到指定的save_path中，如果指定为目录，则保存的路径为save_path/{your_img_basename}.json，如果指定为文件，则直接保存到该文件中。由于json文件不支持保存numpy数组，因此会将其中的numpy.array类型转换为列表形式。

• 调用save_to_img() 方法会将可视化结果保存到指定的save_path中，如果指定为目录，则保存的路径为save_path/{your_img_basename}_ocr_res_img.{your_img_extension}，如果指定为文件，则直接保存到该文件中。(产线通常包含较多结果图片，不建议直接指定为具体的文件路径，否则多张图会被覆盖，仅保留最后一张图)
• 调用save_to_html() 方法会将上述内容保存到指定的save_path中，如果指定为目录，则保存的路径为save_path/{your_img_basename}.html，如果指定为文件，则直接保存到该文件中。在通用表格识别产线中，将会把图像中表格的HTML形式写入到指定的html文件中。

• 调用save_to_xlsx() 方法会将上述内容保存到指定的save_path中，如果指定为目录，则保存的路径为save_path/{your_img_basename}.xlsx，如果指定为文件，则直接保存到该文件中。在通用表格识别产线中，将会把图像中表格的Excel表格形式写入到指定的xlsx文件中。

• 此外，也支持通过属性获取带结果的可视化图像和预测结果，具体如下：

属性	属性说明
json	获取预测的 json 格式的结果
img	获取格式为 dict 的可视化图像

• json 属性获取的预测结果为dict类型的数据，相关内容与调用 save_to_json() 方法保存的内容一致。
• img 属性返回的预测结果是一个字典类型的数据。其中，键分别为 table_res_img、ocr_res_img 、layout_res_img 和 preprocessed_img，对应的值是四个 Image.Image 对象，按顺序分别为：表格识别结果的可视化图像、OCR 结果的可视化图像、版面区域检测结果的可视化图像、图像预处理的可视化图像。如果没有使用某个子模块，则字典中不包含对应的结果图像。

此外，您可以获取通用表格识别产线配置文件，并加载配置文件进行预测。可执行如下命令将结果保存在 my_path 中：

paddlex --get_pipeline_config table_recognition --save_path ./my_path

若您获取了配置文件，即可对通用表格识别产线各项配置进行自定义，只需要修改 create_pipeline 方法中的 pipeline 参数值为产线配置文件路径即可。示例如下：

from paddlex import create_pipeline

pipeline = create_pipeline(pipeline="./my_path/table_recognition.yaml")

output = pipeline.predict(
    input="table_recognition.jpg",
    use_doc_orientation_classify=False,
    use_doc_unwarping=False,
)

for res in output:
    res.print()
    res.save_to_img("./output/")
    res.save_to_xlsx("./output/")
    res.save_to_html("./output/")
    res.save_to_json("./output/")

注： 配置文件中的参数为产线初始化参数，如果希望更改通用通用表格识别产线初始化参数，可以直接修改配置文件中的参数，并加载配置文件进行预测。同时，CLI 预测也支持传入配置文件，--pipeline 指定配置文件的路径即可。

3. 开发集成/部署

如果产线可以达到您对产线推理速度和精度的要求，您可以直接进行开发集成/部署。

若您需要将产线直接应用在您的Python项目中，可以参考 2.2 Python脚本方式中的示例代码。

此外，PaddleX 也提供了其他三种部署方式，详细说明如下：

🚀 高性能推理：在实际生产环境中，许多应用对部署策略的性能指标（尤其是响应速度）有着较严苛的标准，以确保系统的高效运行与用户体验的流畅性。为此，PaddleX 提供高性能推理插件，旨在对模型推理及前后处理进行深度性能优化，实现端到端流程的显著提速，详细的高性能推理流程请参考PaddleX高性能推理指南。

☁️ 服务化部署：服务化部署是实际生产环境中常见的一种部署形式。通过将推理功能封装为服务，客户端可以通过网络请求来访问这些服务，以获取推理结果。PaddleX 支持多种产线服务化部署方案，详细的产线服务化部署流程请参考PaddleX服务化部署指南。

以下是基础服务化部署的API参考与多语言服务调用示例：

API参考

对于服务提供的主要操作：

• HTTP请求方法为POST。
• 请求体和响应体均为JSON数据（JSON对象）。
• 当请求处理成功时，响应状态码为200，响应体的属性如下：

名称	类型	含义
logId	string	请求的UUID。
errorCode	integer	错误码。固定为0。
errorMsg	string	错误说明。固定为"Success"。
result	object	操作结果。

• 当请求处理未成功时，响应体的属性如下：

名称	类型	含义
logId	string	请求的UUID。
errorCode	integer	错误码。与响应状态码相同。
errorMsg	string	错误说明。

服务提供的主要操作如下：

• infer

定位并识别图中的表格。

POST /table-recognition

• 请求体的属性如下：

名称	类型	含义	是否必填
file	string	服务器可访问的图像文件或PDF文件的URL，或上述类型文件内容的Base64编码结果。对于超过10页的PDF文件，只有前10页的内容会被使用。	是
fileType	integer | null	文件类型。0表示PDF文件，1表示图像文件。若请求体无此属性，则将根据URL推断文件类型。	否
useDocOrientationClassify	boolean | null	参见产线 predict 方法中的 use_doc_orientation_classify 参数说明。	否
useDocUnwarping	boolean | null	参见产线 predict 方法中的 use_doc_unwarping 参数说明。	否
useLayoutDetection	boolean | null	参见产线 predict 方法中的 use_layout_detection 参数说明。	否
useOcrModel	boolean | null	参见产线 predict 方法中的 use_ocr_model 参数说明。	否
layoutThreshold	number | null	参见产线 predict 方法中的 layout_threshold 参数说明。	否
layoutNms	boolean | null	参见产线 predict 方法中的 layout_nms 参数说明。	否
layoutUnclipRatio	number | array | null	参见产线 predict 方法中的 layout_unclip_ratio 参数说明。	否
layoutMergeBboxesMode	string | null	参见产线 predict 方法中的 layout_merge_bboxes_mode 参数说明。	否
textDetLimitSideLen	integer | null	参见产线 predict 方法中的 text_det_limit_side_len 参数说明。	否
textDetLimitType	string | null	参见产线 predict 方法中的 text_det_limit_type 参数说明。	否
textDetThresh	number | null	参见产线 predict 方法中的 text_det_thresh 参数说明。	否
textDetBoxThresh	number | null	参见产线 predict 方法中的 text_det_box_thresh 参数说明。	否
textDetUnclipRatio	number | null	参见产线 predict 方法中的 text_det_unclip_ratio 参数说明。	否
textRecScoreThresh	number | null	参见产线 predict 方法中的 text_rec_score_thresh 参数说明。	否

• 请求处理成功时，响应体的result具有如下属性：

名称	类型	含义
tableRecResults	object	表格识别结果。数组长度为1（对于图像输入）或文档页数与10中的较小者（对于PDF输入）。对于PDF输入，数组中的每个元素依次表示PDF文件中每一页的处理结果。
dataInfo	object	输入数据信息。

tableRecResults中的每个元素为一个object，具有如下属性：

名称	类型	含义
prunedResult	object	产线对象的 predict 方法生成结果的 JSON 表示中 res 字段的简化版本，其中去除了 input_path 字段
outputImages	object | null	参见产线预测结果中的 img 属性说明。图像为JPEG格式，使用Base64编码。
inputImage	string | null	输入图像。图像为JPEG格式，使用Base64编码。

多语言调用服务示例

Python

import base64
import requests

API_URL = "http://localhost:8080/table-recognition"
file_path = "./demo.jpg"

with open(file_path, "rb") as file:
    file_bytes = file.read()
    file_data = base64.b64encode(file_bytes).decode("ascii")

payload = {"file": file_data, "fileType": 1}

response = requests.post(API_URL, json=payload)

assert response.status_code == 200
result = response.json()["result"]
for i, res in enumerate(result["tableRecResults"]):
    print(res["prunedResult"])
    for img_name, img in res["outputImages"].items():
        img_path = f"{img_name}_{i}.jpg"
        with open(img_path, "wb") as f:
            f.write(base64.b64decode(img))
        print(f"Output image saved at {img_path}")

📱 端侧部署：端侧部署是一种将计算和数据处理功能放在用户设备本身上的方式，设备可以直接处理数据，而不需要依赖远程的服务器。PaddleX 支持将模型部署在 Android 等端侧设备上，详细的端侧部署流程请参考PaddleX端侧部署指南。 您可以根据需要选择合适的方式部署模型产线，进而进行后续的 AI 应用集成。

4. 二次开发

如果通用表格识别产线提供的默认模型权重在您的场景中，精度或速度不满意，您可以尝试利用您自己拥有的特定领域或应用场景的数据对现有模型进行进一步的微调，以提升通用表格识别产线的在您的场景中的识别效果。

4.1 模型微调

由于通用表格识别产线包含若干模块，模型产线的效果如果不及预期，可能来自于其中任何一个模块。您可以对识别效果差的图片进行分析，进而确定是哪个模块存在问题，并参考以下表格中对应的微调教程链接进行模型微调。

情形	微调模块	微调参考链接
表格结构识别错误或单元格定位错误	表格结构识别模块	链接
未能成功检测到表格所在区域	版面区域检测模块	链接
文本存在漏检	文本检测模块	链接
文本内容都不准	文本识别模块	链接
整图旋转矫正不准	文档图像方向分类模块	链接
图像扭曲矫正不准	文本图像矫正模块	暂不支持微调

4.2 模型应用

当您使用私有数据集完成微调训练后，可获得本地模型权重文件。

若您需要使用微调后的模型权重，只需对产线配置文件做修改，将微调后模型权重的本地路径替换至产线配置文件中的对应位置即可：

SubModules:
  LayoutDetection:
    module_name: layout_detection
    model_name: PicoDet_layout_1x_table
    model_dir: null # 替换为微调后的版面区域检测模型权重路径

  TableStructureRecognition:
    module_name: table_structure_recognition
    model_name: SLANet_plus
    model_dir: null # 替换为微调后的表格结构识别模型权重路径

SubPipelines:
  DocPreprocessor:
    pipeline_name: doc_preprocessor
    use_doc_orientation_classify: True
    use_doc_unwarping: True
    SubModules:
      DocOrientationClassify:
        module_name: doc_text_orientation
        model_name: PP-LCNet_x1_0_doc_ori
        model_dir: null # 替换为微调后的文档图像方向分类模型权重路径

      DocUnwarping:
        module_name: image_unwarping
        model_name: UVDoc
        model_dir: null

  GeneralOCR:
    pipeline_name: OCR
    text_type: general
    use_doc_preprocessor: False
    use_textline_orientation: False
    SubModules:
      TextDetection:
        module_name: text_detection
        model_name: PP-OCRv4_server_det
        model_dir: null # 替换为微调后的文本检测模型权重路径
        limit_side_len: 960
        limit_type: max
        thresh: 0.3
        box_thresh: 0.6
        unclip_ratio: 2.0
      TextRecognition:
        module_name: text_recognition
        model_name: PP-OCRv4_server_rec
        model_dir: null # 替换为微调后文本识别的模型权重路径
        batch_size: 1
        score_thresh: 0

随后， 参考2.2 本地体验中的命令行方式或Python脚本方式，加载修改后的产线配置文件即可。

5. 多硬件支持

PaddleX 支持英伟达 GPU、昆仑芯 XPU、昇腾 NPU和寒武纪 MLU 等多种主流硬件设备，仅需修改 --device 参数即可完成不同硬件之间的无缝切换。

例如，您使用昇腾 NPU 进行 OCR 产线的推理，使用的 CLI 命令为：

paddlex --pipeline table_recognition \
        --input table_recognition.jpg \
        --save_path ./output \
        --device npu:0

当然，您也可以在 Python 脚本中 create_pipeline() 时或者 predict() 时指定硬件设备。

若您想在更多种类的硬件上使用通用表格识别产线，请参考PaddleX多硬件使用指南。

评论