文檔解析技術破解大模型語料“饑荒”難題

　　近日，由中國圖象圖形學學會主辦的2024中國圖象圖形大會在西安開幕。大會通過20多場論壇、百余項成果，集中展示了生成式人工智能、大模型、機器學習、類腦計算等多個圖像圖形領域的進展。

　　大模型一路“高歌猛進”的背后，隱藏著一場關于模型訓練語料的“能源危機”。根據人工智能研究人員小組Epoch研究估計，機器學習數據集可能會在2026年前耗盡所有“高質量語言數據”。現階段，大量的高質量語料數據存在于書籍、論文、研報、企業文檔等文檔之中，復雜的版面結構制約了大模型的訓練語料處理及大模型文檔問答的應用能力。文檔解析技術的進步，讓機器能夠識別文檔中的多種元素，更好地處理文本、表格、圖像等多類型數據，還原文檔閱讀順序，加速大模型訓練與應用。

　　大會期間，由CSIG文檔圖像分析與識別專委會與上海合合信息科技股份有限公司（簡稱“合合信息”）聯合主辦了“大模型技術及其前沿應用”論壇。論壇上，合合信息智能創新事業部研發總監常揚表示，文檔解析的難點在于如何準確識別文檔中的各個元素，并理解其之間的邏輯關系，需要關注“物理版面分析”和“邏輯版面分析”。

　　據常揚介紹，物理版面分析側重于視覺特征、文檔布局，主要任務是把相關性高的文字聚合到一個區域，比如一個段落，一個表格等等，并選用目標檢測任務進行建模，使用基于回歸的單階段檢測模型進行擬合，從而獲得文檔中各種各樣的布局方式;邏輯版面分析側重于對語義特征的分析，主要任務是把不同的文字塊根據語義建模，例如通過語義的層次關系，形成一個目錄樹結構。

　　此外，文檔解析技術中文檔元素檢測、文字表格識別、文檔版面分析、閱讀順序還原等任務涉及對版面元素和版面整體布局的判斷，是文檔處理領域典型的技術難題。

　　“我們研究過程中發現，真實世界的文檔有著極為豐富的布局類型，沒法單純地用單欄，雙欄、三欄等類別去定義。”常揚表示，近年來的開放詞匯目標檢測，視覺語義對齊等工作，以及生成式模型等前沿進展，將給版面分析帶來新的研究思路。