京公网安备 11010802034615号
经营许可证编号:京B2-20210330
使用PHP写的,源码我就不贴上来了,写的比较简单,先是读取了csv的第一行,根据这个创建了表格,然后再利用sql自带的语句 “load data infile....”将剩下的数据读入到这个表格中。但是刚好服务器的后台command line 执行的php没有安装好,放在browser上的话处理数据又不太适合,于是我就自己写了一个简单的Python的脚本。
首先csv读入MySQL 可以使用sql语句直接读入 代码如下:
[sql] view plain copy
LOAD DATA INFILE 'csv_file'
IGNORE INTO TABLE table_name
CHARACTER SET UTF8
FIELDS TERMINATED BY ';'
OPTIONALLY ENCLOSED BY '"'
LINES TERMINATED BY '\n'
但是这样读入的前提是必须创建一个table之后才能导入到指定的table,下面就是用python先提取了首行(前提是首行就是table的fields),然后再利用上面的sql语句把剩下的导入:
[python] view plain copy
#coding=utf-8
import csv
import sys
import codecs
import MySQLdb
reload(sys)
sys.setdefaultencoding('utf-8')
csv_filename=sys.argv[1]
database=sys.argv[2]
table_name=sys.argv[3]
file=codecs.open(csv_filename,'r','utf-8')
reader=file.readline()
b=reader.split(',')
colum=''
for a in b:
colum=colum+a+' varchar(255),'
colum=colum[:-1]
create='create table if not exists '+table_name+' '+'('+colum+')'+' DEFAULT CHARSET=utf8'
data='LOAD DATA LOCAL INFILE \''+csv_filename+'\' INTO TABLE '+table_name +' character set utf8 FIELDS TERMINATED BY \',\' ENCLOSED BY \'\"\' LINES TERMINATED BY \''+r'\r\n'+'\' IGNORE 1 LINES;'
e=unicode(data,'utf8')
conn=MySQLdb.connect(
host='localhost',
port=3306,
user='root',
passwd='',
db=database)
conn.set_character_set('utf8')
cursor=conn.cursor()
cursor.execute('SET NAMES utf8;')
cursor.execute('SET character_set_connection=utf8;')
cursor.execute(create)
cursor.execute(e)
cursor.rowcount
conn.commit()
cursor.close()
print('OK')
用法在命令行中: python csv_to_sql.py csv_file database_name table_name
第一个参数csv文件(可以不和python脚本放在一个位置,路径写对就可以,不过放在一起更方便)
第二个参数选择存放的数据库名
第三个需要存入的表格名字。(不需要再去单独建立表格)
直接在命令行运行,没有报error错误就可以(会报warnning没关系)
这里有一点要注意的是,从代码就可以看出,创建的table的字段都是定义好的了,都是varchar(255),如果需要修改的话,可以到数据库根据自己的需要修改相应的field的属性。
另外一点就是csv中文的问题了,我要导入就是至少几十M的中文数据,所以一开始也遇到了点麻烦(不过Python对中文的支持也不是很好)。这里要先明白一个问题就是csv的文件是什么编码的,我的 csv是utf8编码的,如果不是utf8最好先转成utf8的编码格式。上面的代码是在Linux服务器下测试成功的,如果是windows的话,有问题也因该是编码的问题。
还有就是创建数据库的时候也一定要记得统一用utf8的格式
1、建立数据库连接后

2、建立数据库游标后:

SET NAMES 'utf8';
它相当于下面的三句指令:
SET character_set_client = utf8;
SET character_set_results = utf8;
SET character_set_connection = utf8;
3、创建表格的时候在表格后面加上:
这样就没有问题,其实就是要保证在整个数据流动过程中的编码要一致就可以了
ps:python有 CSV模块可以而支持读写csv文件,不过由于我只是提取一行建立表格所以就这里就没有用,不过我也尝试了一下,csv模块,如果要读取csv内容的话可以用这个模块,但是这个模块只支持utf8格式的,其它的格式的需要转码一下,这个看官方文档就可以了。
数据分析咨询请扫描二维码
若不方便扫码,搜微信号:CDAshujufenxi
【专访摘要】本次CDA持证专访邀请到拥有丰富物流供应链数据分析经验的赖尧,他结合自身在京东、华莱士、兰格赛等企业的从业经历 ...
2026-05-15在数字化时代,企业的每一次业务优化、每一项技术迭代,都需要回答一个核心问题:这个动作到底能带来多少价值?是提升了用户转化 ...
2026-05-15在数据仓库建设中,事实表与维度表是两大核心组件,二者相互关联、缺一不可,共同构成数据仓库的基础架构。事实表聚焦“发生了什 ...
2026-05-15 很多数据分析师沉迷于复杂的机器学习算法,却忽略了数据分析最基础也最核心的能力——描述性统计。事实上,80%的商业分析问 ...
2026-05-15【核心关键词】互联网、机会、运营、关键词、账户、数字化、后台、客户、成本、网络、数据分析、底层逻辑、市场推广、数据反馈 ...
2026-05-14在Python数据分析中,Pandas作为核心工具库,凭借简洁高效的数据处理能力,成为数据分析从业者的必备技能。其中,基于两列(或多 ...
2026-05-14 很多人把统计学理解为“一堆公式和计算”,却忽略了它的本质——一门让数据“开口说话”的科学。真正的数据分析高手,不是会 ...
2026-05-14在零售行业存量竞争日趋激烈的当下,客户流失已成为侵蚀企业利润的“隐形杀手”——据行业数据显示,零售企业平均客户流失率高达 ...
2026-05-13当流量红利消退、用户需求日趋多元,“凭经验决策、广撒网投放”的传统营销模式早已难以为继。大数据的崛起,为企业营销提供了全 ...
2026-05-13 许多数据分析师精通Excel函数和SQL查询,但当面对一张上万行的销售明细表,要快速回答“哪个地区销量最高”“哪款产品增长最 ...
2026-05-13在手游行业存量竞争日趋激烈、流量成本持续高企的当下,“拉新”早已不是行业核心痛点,“留存”尤其是“付费留存”,成为决定手 ...
2026-05-12 很多数据分析师掌握了Excel函数、会写SQL查询,但当被问到“数据从哪里来”“数据加工有哪些步骤”“如何使用分析工具连接数 ...
2026-05-12用户调研是企业洞察客户需求、优化产品服务、制定运营策略的核心前提,而调研数据的可靠性,直接决定了决策的科学性与有效性。在 ...
2026-05-11在市场竞争日趋激烈、流量成本持续攀升的今天,企业的核心竞争力已从“获取流量”转向“挖掘客户价值”。客户作为企业最宝贵的资 ...
2026-05-11 很多数据分析师精通Excel单元格操作,熟练应用多种公式,但当被问到“表结构数据的基本处理单位是什么”“字段和记录的本质 ...
2026-05-11在互联网运营、产品优化、用户增长等领域,次日留存率是衡量产品价值、用户粘性与运营效果的核心指标,更是判断新用户是否认可产 ...
2026-05-09相关性分析是数据分析领域中用于探究两个或多个变量之间关联强度与方向的核心方法,广泛应用于科研探索、商业决策、医疗研究、社 ...
2026-05-09 数据分析师八成以上的时间在和数据表格打交道,但许多人拿到Excel后习惯性地先算、先分析,结果回头发现漏了一列关键数据, ...
2026-05-09在数据驱动运营的时代,指标是连接业务目标与实际行动的核心桥梁,是企业解读业务现状、发现问题、预判趋势的“量化标尺”。一套 ...
2026-05-08在存量竞争日趋激烈的商业时代,“以客户为中心”早已从口号落地为企业运营的核心逻辑。而客户画像作为打通“了解客户”与“服务 ...
2026-05-08