7人参与 • 2025-06-11 • 正则表达式
pandas构建了完整的时间数据处理生态,核心由四个基础类构成:
智能字符串解析
# 自动识别格式转换 df['event_time'] = pd.to_datetime(df['raw_time'], format='%y/%m/%d %h:%m', errors='coerce') # 处理非常规格式(欧洲日期) euro_dates = pd.to_datetime(['11-10-2025', '12-11-2025'], dayfirst=true)
规则时间序列生成
# 生成工作日序列(排除周末) business_days = pd.date_range(start='2025-01-01', end='2025-01-31', freq='b') # 创建自定义频率(每两周周一) biweekly_mondays = pd.date_range(start='2025-01-01', periods=6, freq='2w-mon')
# 方式1:直接转换后设置索引 df.index = pd.to_datetime(df.pop('timestamp_column')) # 方式2:链式操作(推荐) df = df.set_index(pd.to_datetime(df['raw_time'])).drop(columns=['raw_time'])
# 部分字符串匹配(自动解析) jan_data = df['2025-01'] # 提取2025年1月所有数据 # 跨频率切片(日->月) q1_data = df['2025-01':'2025-03'] # 自动识别季度边界 # 精确时间点定位 specific_time = df.loc[pd.timestamp('2025-06-11 09:30:00')]
# 月末对齐操作 df['eom_value'] = df['value'].shift(1, freq=pd.offsets.monthend()) # 复杂重采样(工作日对齐) weekly_avg = df.resample('w-fri', closed='right').mean() # 每周五收盘价
# 滚动窗口(自适应边界) rolling_mean = df.rolling('7d', min_periods=3).mean() # 7天窗口,最少3个有效值 # 指数加权移动平均 ewma = df.ewm(span=30).mean() # 30天指数衰减权重
# 本地化utc时间 df['utc_time'] = pd.to_datetime(df['utc_time']).dt.tz_localize('utc') # 转换为目标时区 ny_time = df['utc_time'].dt.tz_convert('america/new_york')
# 创建带时区的时间索引 tz_aware_idx = pd.date_range('2025-06-01', periods=3, tz='asia/shanghai') # 跨时区数据对齐 merged_df = df_ny.tz_convert('utc').combine_first(df_london.tz_convert('utc'))
# 创建季度周期 quarterly = pd.periodindex(start='2025q1', end='2025q4', freq='q') # 周期转换 df['monthly'] = df['daily'].resample('m').sum() df['quarterly'] = df['monthly'].asfreq('q', method='ffill')
# 自定义财政年度(如每年4月开始) fy_index = pd.period_range(start='2024-04', end='2025-03', freq='q-apr')
# 读取并转换时间数据 meter_data = pd.read_csv('smart_meter.csv', parse_dates=['record_time'], index_col='record_time') # 缺失值处理(前向填充) meter_data = meter_data.resample('15t').asfreq().fillna(method='ffill')
# 创建时间特征 meter_data['hour'] = meter_data.index.hour meter_data['weekday'] = meter_data.index.weekday # 滚动统计特征 meter_data['7d_avg'] = meter_data['usage'].rolling('7d').mean()
# 季节性分解 from statsmodels.tsa.seasonal import seasonal_decompose result = seasonal_decompose(meter_data['usage'], model='additive', period=24*4) # 残差分析 anomalies = result.resid.abs() > 3 * result.resid.std()
# 替代循环的向量化操作 df['time_diff'] = (df.index - df.index[0]).total_seconds() / 3600 # 计算距首条记录小时数
# 降低时间精度(从纳秒到秒) df.index = df.index.astype('datetime64[s]') # 使用periodindex替代timestamp(适合低频数据) df.index = pd.periodindex(df.index, freq='d')
pandas时间处理模块通过timestamp、datetimeindex等核心组件构建了完整的时间数据处理体系。从基础的时间转换、索引操作,到高级的时区处理、周期分析,再到结合统计模型的异常检测,形成了完整的方法 论闭环。
未来随着pandas 2.0的演进,可以期待:
掌握这些技巧不仅能提升日常数据处理效率,更能为构建智能监控、预测分析等高级应用奠定基础。建议通过实际项目不断强化时间处理直觉,将理论转化为实战能力。
到此这篇关于从基础到进阶详解pandas时间数据处理指南的文章就介绍到这了,更多相关pandas时间数据处理内容请搜索代码网以前的文章或继续浏览下面的相关文章希望大家以后多多支持代码网!
您想发表意见!!点此发布评论
版权声明:本文内容由互联网用户贡献,该文观点仅代表作者本人。本站仅提供信息存储服务,不拥有所有权,不承担相关法律责任。 如发现本站有涉嫌抄袭侵权/违法违规的内容, 请发送邮件至 2386932994@qq.com 举报,一经查实将立刻删除。
发表评论