网站首页 > 技术文章 正文
话说Excel数据表,分久必合、合久必分。Excel数据表的“分”与“合”是日常办公中常见的操作。手动操作并不困难,但数据量大了之后,重复性操作往往会令人崩溃。利用Python的Pandas库,便可以自动实现Excel数据表的“分分合合”。下面结合实例来分享一些整理的实用代码片段。
分:纵向“分”
从数据平台(如问卷平台)中导出的数据往往是清单型的,每一行都是一条记录,数据量大的时候,表格往往是很“长”的。有时需要按照某列的不同数值,将一个总表“分”成单独的一些Excel文件。
一个工作表“分”为多个Excel文件
def to_excelByColName(sourceDf,colName,outPath,excelName):
'''
纵向“分”:一个工作表“分”为多个Excel文件
根据指定的列名中的不同值,分解Excel,并存储成多个Excel文件。
sourceDf:原始的DataFrame
colName:指定列名
outPath:输出路径
excelName:文件名,加.xlsx后缀
'''
colNameList = sourceDf[colName].drop_duplicates().tolist()
for eachColName in colNameList:
sourceDf[sourceDf[colName]==eachColName].to_excel('/'.join([outPath,eachColName+excelName]),index=False)
例如:将20个班级1000名学生的总表,按班级分成20个Excel文件。
调用 to_excelByColName 函数,效果如下:
to_excelByColName(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表",excelName="生成数据表.xlsx")
一个工作表“分”为一个文件的多个sheet
def to_excelByColNameWithSheets(sourceDf,colName,outPath):
'''
纵向“分”:一个工作表“分”为一个文件的多个sheet
根据指定的列名中的不同值,分解Excel,并存储成单个Excel文件的多个Sheet。
sourceDf:原始的DataFrame
colName:指定列名
outPath:输出路径,加.xlsx后缀
'''
writer = pd.ExcelWriter(outPath)
colNameList = sourceDf[colName].drop_duplicates().tolist()
for eachColName in colNameList:
sourceDf[sourceDf[colName]==eachColName].to_excel(writer,sheet_name=eachColName)
writer.save()
例如:将20个班级1000名学生的总表,按班级分成1个Excel文件的20个sheet表。
调用
to_excelByColNameWithSheets 函数,效果如下:
to_excelByColNameWithSheets(sourceDf = sourceDf,colName="班级",outPath=".\分班数据表\生成数据表.xlsx")
分:横向“分”
在处理数据的时候,有时需要添加多个辅助列,这样也会让数据表越来越“宽”。而最终我们只需要某些关键列即可,那么这就涉及到横向数据分割,或者说提取某些列保持成一个单独的数据表。横向的分割只需要给DataFrame传入列名列表即可。
例如:只需要数据表中的姓名和班级字段,可以这样写。
df1 = sourceDf[["姓名","班级"]]
df1.to_excel("只含有姓名和班级的数据表.xlsx")
合:纵向“合”
对于结构相同的数据,在数据处理时可以将其在纵向上拼接,方便一起处理。
多个Excel文件合并成一个工作表
def readExcelFilesByNames(fpath,fileNameList=[],header=0):
'''
纵向“合”:多个Excel文件合并成一个工作表
读取路径下指定的Excel文件,并合并成一个总的DataFrame。
每个Excel文件的数据表格式上要一致。
1.fpath:必填,是Excel文件所在路径,不加文件名
2.fileNameList:需要读取的Excel文件名列表
3.header:指定读取的行数
'''
outdf = pd.DataFrame()
for fileName in fileNameList:
tempdf =pd.read_excel('/'.join([fpath,fileName]),header = header)
outdf = pd.concat([outdf,tempdf])
return outdf
例如:将20个班级的Excel文件,合并成一个数据表
调用 readExcelFilesByNames 函数,效果如下:
fileNameList = [
"六1班数据表.xlsx", "六2班数据表.xlsx", "六3班数据表.xlsx", "六4班数据表.xlsx",
"六5班数据表.xlsx", "六6班数据表.xlsx", "六7班数据表.xlsx", "六8班数据表.xlsx",
"六9班数据表.xlsx", "六10班数据表.xlsx", "六11班数据表.xlsx", "六12班数据表.xlsx",
"六13班数据表.xlsx", "六14班数据表.xlsx", "六15班数据表.xlsx", "六16班数据表.xlsx",
"六17班数据表.xlsx", "六18班数据表.xlsx", "六19班数据表.xlsx", "六20班数据表.xlsx",
]
readExcelFilesByNames(fpath = ".\分班数据表",fileNameList=fileNameList)
多个Sheet合并成一个工作表
def readExcelBySheetsNames(fpath,header = 0,prefixStr = "",sheetNameStr ="sheetName",prefixNumStr = "prefixNum"):
'''
纵向“合”:多个Sheet合并成一个工作表
读取所有的Excel文件的sheet,并合并返回一个总的DataFrame。
每个sheet的数据表格式上要一致。
1.fpath:必填,是Excel文件的路径,加文件名
2.会生成两个新列:sheetName和prefixNum,方便数据处理
sheetName列是所有sheet的名称列
prefixNum列是计数列
3.header:指定读取的行数
'''
xl = pd.ExcelFile(fpath)
# 获取Excel文件内的所有的sheet名称
sheetNameList = xl.sheet_names
outfd = pd.DataFrame()
num = 0
for sheetName in sheetNameList:
num += 1
data = xl.parse(sheetName,header=header)
# 产生sheet名称列和计数列
data[sheetNameStr] = sheetName
data[prefixNumStr] = prefixStr +str(num)
# 数据表拼接
outfd = pd.concat([outfd,data.dropna()])
xl.close()
return outfd
如下调用 readExcelBySheetsNames ,运行效果如下:
readExcelBySheetsNames(fpath = ".\分班数据表\总数据表.xlsx",sheetNameStr ="sheet名",prefixNumStr = "sheet序号")
合:横向“合”
对于不同Excel工作表之间的横向合并,主要是用根据某些列(如:姓名、身份证号等)进行合并。在pandas库中可以用 merge 方法来实现,这是个十分好用的方式,展开讲篇幅较长,后续详细整理。
DataFrame.merge(right, how='inner', on=None, left_on=None, right_on=None, left_index=False, right_index=False, sort=False, suffixes=('_x', '_y'), copy=True, indicator=False, validate=None)
结语
本文所谈的Python处理Excel文件方式主要是基于 pandas 库的,主要针对的是 清单型的数据表。
数据表的 分 主要涉及的是文件保存(写入),对程序员来说属于 输出 环节;
数据表的 合 主要针对的是文件打开(读取),对程序而言属于 输入 环节。
以上代码在针对大量重复性的表格分与合时,优势巨大;但对于偶尔、少量的分与合,也许用鼠标点击更快。
原文链接:
https://www.cnblogs.com/wansq/p/15923443.html
猜你喜欢
- 2025-06-12 新手学Python避坑,学习效率狂飙! 二、Python 代码缩进
- 2025-06-12 告别Ctrl+C/V!这个Python神器让Excel自动化效率提升500倍
- 2025-06-12 提升 Python 效率,尽在 Pydash —— 高效数据处理的终极工具包
- 2025-06-12 新手学Python避坑,学习效率狂飙! 六、Python 默认可变参数
- 2025-06-12 【团队效率提升】Python-PyWebIO介绍
- 2025-06-12 新手学Python避坑,学习效率狂飙! 三、Python 数据类型
- 2025-06-12 如何用Python处理大数据?3个小技巧助你提升效率(建议收藏)
- 2025-06-12 纯Python构建精美UI!MonsterUI让前端开发效率飙升
- 2025-06-12 用好这几个Python高阶函数!效率翻倍
- 2025-06-12 每天一个 Python 库:pandas 办公利器,数据处理效率翻倍!
- 06-15python 打地鼠小游戏(打地鼠小游戏代码)
- 06-15浅析 Python 中的队列类(python队列函数)
- 06-15python委托定制超类getattr和getattribute管理属性
- 06-15python 内置函数 getattr(python内置函数的用法)
- 06-15一文掌握Python 的 getattr函数(python中getattribute)
- 06-15Python 字典 get() 方法:操作指南
- 06-15python入门到脱坑函数—语法详解(python函数教程)
- 06-15python中的流程控制语句:continue、break 和 return使用方法
- 266℃Python短文,Python中的嵌套条件语句(六)
- 265℃python笔记:for循环嵌套。end=""的作用,图形打印
- 264℃PythonNet:实现Python与.Net代码相互调用!
- 259℃Python实现字符串小写转大写并写入文件
- 258℃Python操作Sqlserver数据库(多库同时异步执行:增删改查)
- 118℃原来2025是完美的平方年,一起探索六种平方的算吧
- 99℃Python 和 JavaScript 终于联姻了!PythonMonkey 要火?
- 92℃Ollama v0.4.5-v0.4.7 更新集合:Ollama Python 库改进、新模型支持
- 最近发表
-
- python 打地鼠小游戏(打地鼠小游戏代码)
- 浅析 Python 中的队列类(python队列函数)
- python委托定制超类getattr和getattribute管理属性
- python 内置函数 getattr(python内置函数的用法)
- 一文掌握Python 的 getattr函数(python中getattribute)
- Python 字典 get() 方法:操作指南
- python入门到脱坑函数—语法详解(python函数教程)
- python中的流程控制语句:continue、break 和 return使用方法
- 在Python中将函数作为参数传入另一个函数中
- Python:读取文本返回关键词及其权重
- 标签列表
-
- python中类 (31)
- python 迭代 (34)
- python 小写 (35)
- python怎么输出 (33)
- python 日志 (35)
- python语音 (31)
- python 工程师 (34)
- python3 安装 (31)
- python音乐 (31)
- 安卓 python (32)
- python 小游戏 (32)
- python 安卓 (31)
- python聚类 (34)
- python向量 (31)
- python大全 (31)
- python次方 (33)
- python桌面 (32)
- python总结 (34)
- python浏览器 (32)
- python 请求 (32)
- python 前端 (32)
- python验证码 (33)
- python 题目 (32)
- python 文件写 (33)
- python中的用法 (32)