本文是《LangChain实战课》系列的第十七篇，将专篇深入讲解如何构建能够与PDF和PPT文档进行智能对话的AI助手。通过学习本文，您将掌握复杂格式文档的解析技巧、文本与表格处理技术，以及实现精准问答的系统方法。
前言
在日常工作和学习中，PDF和PPT文档是我们最常接触的文档格式之一。这些文档包含了大量有价值的信息，但手动提取和分析这些信息往往耗时耗力。通过结合LangChain和先进的文档解析技术，我们可以构建一个智能的文档问答助手，让用户能够像与人交谈一样与文档进行交互，快速获取所需信息。
面临的挑战与技术方案
PDF/PPT文档解析的挑战
-
格式复杂性：PDF和PPT具有复杂的布局和格式
-
文本提取困难：特别是扫描版PDF的OCR识别
-
表格处理：保持表格结构和数据的完整性
-
多模态内容：处理文本、图像、图表混合的内容
-
布局保持：保留文档的原始布局和语义结构
技术解决方案
我们将使用以下技术栈来解决这些挑战：
-
PyMuPDF：高效的PDF文本和表格提取
-
python-pptx：PPT文档解析
-
Unstructured：处理复杂文档结构
-
LangChain：构建问答流水线
-
Chroma/FAISS：向量存储和检索
-
OpenAI Embeddings：文本向量化
环境准备与安装
首先安装必要的依赖包：
# 安装核心库
pip install langchain openai python-dotenv# 安装文档处理库
pip install pymupdf python-pptx unstructured# 安装额外的文档处理依赖
pip install pdf2image pillow# 安装表格处理库
pip install tabula-py camelot-py# 安装向量数据库
pip install chromadb# 安装其他工具
pip install tiktoken sentence-transformers
构建PDF/PPT文档处理流水线
1. 文档加载与解析
让我们首先创建专门处理PDF和PPT文档的加载器：
import fitz # PyMuPDF
from pptx import Presentation
import pandas as pd
from langchain.schema import Document
from typing import List, Dict, Any
import io
import osclass AdvancedDocumentLoader:def __init__(self):self.text_parser = TextParser()self.table_parser = TableParser()def load_pdf_document(self, file_path: str) -> List[Document]:"""加载并解析PDF文档"""documents = []try:with fitz.open(file_path) as pdf_document:for page_num in range(len(pdf_document)):page = pdf_document.load_page(page_num)# 提取文本内容text_content = page.get_text()if text_content.strip():documents.append(Document(page_content=text_content,metadata={"source": file_path,"page": page_num + 1,"type": "text","content_type": "text"}))# 提取表格tables = self._extract_pdf_tables(page)for i, table in enumerate(tables):documents.append(Document(page_content=table,metadata={"source": file_path,"page": page_num + 1,"table_index": i + 1,"type": "table","content_type": "table"}))return documentsexcept Exception as e:print(f"PDF解析错误: {e}")return []def load_ppt_document(self, file_path: str) -> List[Document]:"""加载并解析PPT文档"""documents = []try:presentation = Presentation(file_path)for slide_num, slide in enumerate(presentation.slides, 1):slide_text = []# 提取幻灯片文本for shape in slide.shapes:if hasattr(shape, "text") and shape.text.strip():slide_text.append(shape.text)if slide_text:content = "\n".join(slide_text)documents.append(Document(page_content=content,metadata={"source": file_path,"slide": slide_num,"type": "text","content_type": "slide_text"}))return documentsexcept Exception as e:print(f"PPT解析错误: {e}")return []def _extract_pdf_tables(self, page) -> List[str]:"""提取PDF页面中的表格"""tables = []try:# 使用PyMuPDF提取表格tabs = page.find_tables()if tabs.tables:for table in tabs.tables:table_data = table.extract()if table_data:# 将表格数据转换为字符串表示df = pd.DataFrame(table_data[1:], columns=table_data[0])tables.append(df.to_markdown(index=False))except Exception as e:print(f"表格提取错误: {e}")return tablesclass TextParser:"""文本内容解析器"""def preprocess_text(self, text: str) -> str:"""预处理文本内容"""# 移除多余的空格和换行text = ' '.join(text.split())# 其他清理操作...return textdef extract_key_phrases(self, text: str) -> List[str]:"""提取关键短语"""# 实现关键短语提取逻辑return []class TableParser:"""表格内容解析器"""def parse_table_structure(self, table_content: str) -> Dict[str, Any]:"""解析表格结构"""# 实现表格结构解析return {}
2. 高级表格处理与结构化
对于复杂的表格数据，我们需要更精细的处理：
import camelot
import tabula
from langchain.schema import Documentclass AdvancedTableProcessor:def __init__(self):passdef extract_tables_with_camelot(self, pdf_path: str) -> List[Document]:"""使用Camelot提取PDF表格"""documents = []try:tables = camelot.read_pdf(pdf_path, pages='all', flavor='stream')for i, table in enumerate(tables):if table.parsing_report['accuracy'] > 80: # 准确率阈值df = table.dftable_content = self._format_table_content(df)documents.append(Document(page_content=table_content,metadata={"source": pdf_path,"table_index": i 
