python用pandas读取csv表格,pandas csv读取
方法1:
1.我列了清单在列表中构造嵌套词典字典是样本,类似于我们爬行动物爬上去的数据的结构
2.使用pdDataFrame方法,先把数据转换成二维结构数据,cloumns指定一个列表,必须是列表,如下图打印内容所示
3.to_csv方法可以直接保存csv文件,index=False表示csv文件没有行号
保存csv结果
应用于我们的爬虫代码时,输入的con_list是一个类似于[{},{},{},{} * * *],encoding=utf_8_sig ,encoding= GB 1888的量数据结构
是方便,还是可以用两行代码存储,比我上次说的方法简单多了?其实很多方法,还有python优秀的库,在数据分析领域给python带来了很大的好处
方法二:
流程:获取伪登录Html页面-常规分析所有符合条件的行-将所有符合条件的行的所有列写入CSV文件,存储在CSVData[]临时变量中
核心代码:
Withopen(selfASCS VFILE: spamwriter=CSVWriter (CSV文件,dial= Excel ))写在CSV文件中的)))游戏名称、渠道、充值类型、充值金额、退款金额、订单号、日期的CSV数据
# coding=UTF-8 importurlibimportlib 2 importcookielibimportimportcsimportsysclasspyw(3360 #初始化数据def__init__) Url地址self . log in Url= http://v.pyw.cn/log in/check # Url地址self.pageurl=xxxxx
x ,密码: a123456 ,记住: 1}其中记录self . page index=0;#循环获得总共4页的内容self。PageTotal=1#常规as trself。TrExp=re.compile ?tr[^]*(.*?(/tr))正则化就是tdself。TdExp=re.compile))(?TD[^]*(.*?(/TD))cookie self . cookie=cookie lib . cookie jar))# opener self . opener=urlib 2 . build _ opener)urlib 2 . hh opener CSV文件self。CsvFileName=Pyw.csv# # # #存储csv数据本身。CsvData=[]# Analyze page content defgetpageittal page html]3360 # # Recycle检索表格中的所有行for rowin self . trexp . find all(page html):#检索当前行中的所有列column=self . TD exp . find all)row prill print 用户类型:% s % column[1]。strip) #print 游戏名称:%s print 根:% s % column[1]。strip())返回的打印量:% s % column[6]。剥离()。replace(),# print 奇数:% s % column[7]。条带(# print)日期:% s % column[8]。strip) #穿孔行数据d=[column column[8]。strip () self.csvdata.append)伪登录获取页面数据defgetpagehtml(self) :try:#伪登录request=urlib 2 data=self . postdata(result html=self . opener . open)request)#获取页面while self.pagetotal=setotal开始动态拼凑urlm _ pageurl=self。pageurl% self。pagetotal #计算自我。pagetotal=self。pagetotal1 #本期页面,获取当前分析页面的所有内容resulthtml=seelt解析网页内容成self . getpageitem(result html . read)# # CSV文件 WB )ASCS vfil 360 spamwriitemdialog= Excel )# Title spam writer . writerw([游戏账号,用户类型,游戏名,]写日期()CsvData循环成CSV文件名文件Export for items self . CsvData:spam writer . writerw(item)%s% e#实例化类p=pyw(#如何执行p.GetPageHtml))以导出结果。
http://www。Sina.com/http://www.Sina.com/
读取CSV
import pandas as pd
郑重声明:本文由网友发布,不代表盛行IT的观点,版权归原作者所有,仅为传播更多信息之目的,如有侵权请联系,我们将第一时间修改或删除,多谢。