1. 为什么需要掌握Python数据文件读写技能
在日常数据处理工作中,Excel等表格文件是最常见的数据载体。作为Python开发者,我经常需要处理来自业务部门的各种报表数据。记得有一次市场部门发来30多个Excel文件,要求合并分析用户行为数据。如果手动操作,不仅效率低下,还容易出错。正是这次经历让我系统整理了Python处理数据文件的各种方法。
Python生态中有多个成熟的库可以处理Excel、CSV等格式,每个库都有其适用场景。掌握这些工具能让你在面对数据搬运任务时游刃有余,将更多精力放在核心的数据分析逻辑上。下面我将分享这些年积累的实战经验,从基础操作到高级技巧,帮你构建完整的数据文件处理知识体系。
需要模型API调用? 免费领10W Token,多模型网关一键接入 Claude、DeepSeek 等主流模型。
2. 基础文件格式处理方案
2.1 CSV文件的读写之道
CSV作为最简单的表格格式,是数据交换的通用语言。Python内置的csv模块就能完美处理:
python复制import csv
# 写入CSV文件
with open('data.csv', 'w', newline='') as f:
writer = csv.writer(f)
writer.writerow(['姓名', '年龄', '城市']) # 写入表头
writer.writerow(['张三', 28, '北京'])
# 读取CSV文件
with open('data.csv', 'r') as f:
reader = csv.reader(f)
for row in reader:
print(row)
注意:newline=''参数在Windows下必须指定,否则会出现空行问题
对于包含中文的CSV文件,建议指定编码格式:
python复制with open('data.csv', 'w', newline='', encoding='utf-8-sig') as f:
# utf-8-sig会添加BOM头,确保Excel正确识别编码
实际应用技巧:
- 处理大型CSV文件时,建议使用csv.DictReader/DictWriter,通过字段名而非位置索引访问数据
- 遇到特殊分隔符的文件(如TSV),可通过delimiter参数指定:
csv.reader(f, delimiter='\t') - 需要处理含换行符的字段时,设置quoting=csv.QUOTE_ALL
2.2 JSON文件的灵活应用
虽然JSON不是表格格式,但在数据存储和传输中非常常见:
python复制import json
data = {
"employees": [
{"name": "张三", "age": 28},
{"name": "李四", "age": 32}
]
}
# 写入JSON文件
with open('data.json', 'w', encoding='utf-8') as f:
json.dump(data, f, ensure_ascii=False, indent=2)
# 读取JSON
