侯体宗的博客
  • 首页
  • Hyperf版
  • beego仿版
  • 人生(杂谈)
  • 技术
  • 关于我
  • 更多分类
    • 文件下载
    • 文字修仙
    • 中国象棋ai
    • 群聊
    • 九宫格抽奖
    • 拼图
    • 消消乐
    • 相册

python和mysql交互操作实例详解【基于pymysql库】

Python  /  管理员 发布于 7年前   160

本文实例讲述了python和mysql交互操作。分享给大家供大家参考,具体如下:

python要和mysql交互,我们利用pymysql这个库。

下载地址:
https://github.com/PyMySQL/PyMySQL

安装(注意cd到我们项目的虚拟环境后):

cd 项目根目录/abc/bin/#执行./python3 -m pip install pymysql

稍等片刻,就会把pymysql库下载到项目虚拟环境abc/lib/python3.5/site-packages中。(注意我项目是这个路径,你的不一定)

文档地址:
http://pymysql.readthedocs.io/en/latest/

使用:

import pymysql.cursors# 连接数据库connection = pymysql.connect(host='localhost',   user='root',   password='root',   db='test',   charset='utf8mb4',   cursorclass=pymysql.cursors.DictCursor)try:  with connection.cursor() as cursor:    # Read a single record    sql = "SELECT * From news"    cursor.execute(sql)    result = cursor.fetchone()    print(result) # {'id': 1, 'title': '本机新闻标题'}finally:  connection.close()

我们连上了本地数据库test,从news表中取数据,数据结果为{'id': 1, 'title': '本机新闻标题'}

返回的结果是字典类型,这是因为在连接数据库的时候我们是这样设置的:

# 连接数据库connection = pymysql.connect(host='localhost',   user='root',   password='root',   db='test',   charset='utf8mb4',   cursorclass=pymysql.cursors.Cursor)

我们把cursorclass设置的是:pymysql.cursors.DictCursor。

字典游标,所以结果集是字典类型。

我们修改为如下:

cursorclass=pymysql.cursors.Cursor

结果集如下:

(1, '本机新闻标题')

变成了元组类型。我们还是喜欢字典类型,因为其中包含了表字段。

Cursor对象

主要有4种:

Cursor 默认,查询返回list或者tuple
DictCursor  查询返回dict,包含字段名
SSCursor    效果同Cursor,无缓存游标
SSDictCursor 效果同DictCursor,无缓存游标。

插入

try:  with connection.cursor() as cursor:    sql = "INSERT INTO news(`title`)VALUES (%s)"    cursor.execute(sql,["今天的新闻"])  # 手动提交 默认不自动提交  connection.commit()finally:  connection.close()

一次性插入多条数据

try:  with connection.cursor() as cursor:    sql = "INSERT INTO news(`title`)VALUES (%s)"    cursor.executemany(sql,["新闻标题1","新闻标题2"])  # 手动提交 默认不自动提交  connection.commit()finally:  connection.close()

注意executemany()有别于execute()。

sql绑定参数

sql = "INSERT INTO news(`title`)VALUES (%s)"cursor.executemany(sql,["新闻标题1","新闻标题2"])

我们用%s占位,执行SQL的时候才传递具体的值。上面我们用的是list类型:

["新闻标题1","新闻标题2"]

可否用元组类型呢?

cursor.executemany(sql,("元组新闻1","元组新闻2"))

同样成功插入到数据表了。

把前面分析得到的基金数据入库

创建一个基金表:

CREATE TABLE `fund` (  `code` varchar(50) NOT NULL,  `name` varchar(255),  `NAV` decimal(5,4),  `ACCNAV` decimal(5,4),  `updated_at` datetime,  PRIMARY KEY (`code`)) COMMENT='基金表';

准备插入SQL:
复制代码 代码如下:INSERT INTO fund(`code`,`name`,`NAV`,`ACCNAV`,`updated_at`)VALUES (%(code)s,%(name)s,%(NAV)s,%(ACCNAV)s,%(updated_at)s)

注意%(code)s这种占位符,要求我们执行这SQL的时候传入的参数必须是字典数据类型。

MySQL小知识:

在插入的时候如果有重复的主键,就更新

insert into 表名 xxxx ON duplicate Key update 表名

我们这里要准备执行的SQL就变成这样了:

INSERT INTO fund(code,name,NAV,ACCNAV,updated_at)VALUES (%(code)s,%(name)s,%(NAV)s,%(ACCNAV)s,%(updated_at)s)ON duplicate Key UPDATE updated_at=%(updated_at)s,NAV=%(NAV)s,ACCNAV=%(ACCNAV)s;

1、回顾我们前面分析处理的基金网站数据
///article/162452.htm

#...codes = soup.find("table",id="oTable").tbody.find_all("td","bzdm")result = () # 初始化一个元组for code in codes:  result += ({    "code":code.get_text(),    "name":code.next_sibling.find("a").get_text(),    "NAV":code.next_sibling.next_sibling.get_text(),    "ACCNAV":code.next_sibling.next_sibling.next_sibling.get_text()   },)

最后我们是把数据存放在一个result的元组里了。

我们打印这个result可以看到:
复制代码 代码如下:({'code': '004223', 'ACCNAV': '1.6578', 'name': '金信多策略精选灵活配置', 'NAV': '1.6578'}, ...}

元组里每个元素 都是字典。

看字典是不是我们数据表的字段能对应了,但还少一个updated_at字段的数据。

2、我们把分析的网页数据重新处理一下

from datetime import datetimeupdated_at = datetime.now().strftime("%Y-%m-%d %H:%M:%S")result = () # 初始化一个元组for code in codes:  result += ({    "code":code.get_text(),    "name":code.next_sibling.find("a").get_text(),    "NAV":code.next_sibling.next_sibling.get_text(),    "ACCNAV":code.next_sibling.next_sibling.next_sibling.get_text(),    "updated_at":updated_at   },)

3、最后插入的代码

try:  with connection.cursor() as cursor:    sql = """INSERT INTO fund(`code`,`name`,`NAV`,`ACCNAV`,`updated_at`)VALUES (%(code)s,%(name)s,%(NAV)s,%(ACCNAV)s,%(updated_at)s)ON duplicate Key UPDATE `updated_at`=%(updated_at)s,`NAV`=%(NAV)s,`ACCNAV`=%(ACCNAV)s"""    cursor.executemany(sql,result)  # 手动提交 默认不自动提交  connection.commit()finally:  connection.close()

4、完整的分析html内容(基金网站网页内容),然后插入数据库代码:

from bs4 import BeautifulSoupimport pymysql.cursorsfrom datetime import datetime# 读取文件内容with open("1.txt", "rb") as f:  html = f.read().decode("utf8")  f.close()# 分析html内容soup = BeautifulSoup(html,"html.parser")# 所有基金编码codes = soup.find("table",id="oTable").tbody.find_all("td","bzdm")updated_at = datetime.now().strftime("%Y-%m-%d %H:%M:%S")result = () # 初始化一个元组for code in codes:  result += ({    "code":code.get_text(),    "name":code.next_sibling.find("a").get_text(),    "NAV":code.next_sibling.next_sibling.get_text(),    "ACCNAV":code.next_sibling.next_sibling.next_sibling.get_text(),    "updated_at":updated_at   },)# 连接数据库connection = pymysql.connect(host='localhost',   user='root',   password='root',   db='test',   charset='utf8mb4',   cursorclass=pymysql.cursors.Cursor)try:  with connection.cursor() as cursor:    sql = """INSERT INTO fund(`code`,`name`,`NAV`,`ACCNAV`,`updated_at`)VALUES (%(code)s,%(name)s,%(NAV)s,%(ACCNAV)s,%(updated_at)s)ON duplicate Key UPDATE `updated_at`=%(updated_at)s,`NAV`=%(NAV)s,`ACCNAV`=%(ACCNAV)s"""    cursor.executemany(sql,result)  # 手动提交 默认不自动提交  connection.commit()finally:  connection.close()

更多关于Python相关内容感兴趣的读者可查看本站专题:《Python常见数据库操作技巧汇总》、《Python数学运算技巧总结》、《Python数据结构与算法教程》、《Python函数使用技巧总结》、《Python字符串操作技巧汇总》、《Python入门与进阶经典教程》及《Python文件与目录操作技巧汇总》

希望本文所述对大家Python程序设计有所帮助。


  • 上一条:
    Python批量生成幻影坦克图片实例代码
    下一条:
    Python获取基金网站网页内容、使用BeautifulSoup库分析html操作示例
  • 昵称:

    邮箱:

    0条评论 (评论内容有缓存机制,请悉知!)
    最新最热
    • 分类目录
    • 人生(杂谈)
    • 技术
    • linux
    • Java
    • php
    • 框架(架构)
    • 前端
    • ThinkPHP
    • 数据库
    • 微信(小程序)
    • Laravel
    • Redis
    • Docker
    • Go
    • swoole
    • Windows
    • Python
    • 苹果(mac/ios)
    • 相关文章
    • 在python语言中Flask框架的学习及简单功能示例(0个评论)
    • 在Python语言中实现GUI全屏倒计时代码示例(0个评论)
    • Python + zipfile库实现zip文件解压自动化脚本示例(0个评论)
    • python爬虫BeautifulSoup快速抓取网站图片(1个评论)
    • vscode 配置 python3开发环境的方法(0个评论)
    • 近期文章
    • 在go语言中使用api.geonames.org接口实现根据国际邮政编码获取地址信息功能(1个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf分页文件功能(0个评论)
    • gmail发邮件报错:534 5.7.9 Application-specific password required...解决方案(0个评论)
    • 欧盟关于强迫劳动的规定的官方举报渠道及官方举报网站(0个评论)
    • 在go语言中使用github.com/signintech/gopdf实现生成pdf文件功能(0个评论)
    • Laravel从Accel获得5700万美元A轮融资(0个评论)
    • 在go + gin中gorm实现指定搜索/区间搜索分页列表功能接口实例(0个评论)
    • 在go语言中实现IP/CIDR的ip和netmask互转及IP段形式互转及ip是否存在IP/CIDR(0个评论)
    • PHP 8.4 Alpha 1现已发布!(0个评论)
    • Laravel 11.15版本发布 - Eloquent Builder中添加的泛型(0个评论)
    • 近期评论
    • 122 在

      学历:一种延缓就业设计,生活需求下的权衡之选中评论 工作几年后,报名考研了,到现在还没认真学习备考,迷茫中。作为一名北漂互联网打工人..
    • 123 在

      Clash for Windows作者删库跑路了,github已404中评论 按理说只要你在国内,所有的流量进出都在监控范围内,不管你怎么隐藏也没用,想搞你分..
    • 原梓番博客 在

      在Laravel框架中使用模型Model分表最简单的方法中评论 好久好久都没看友情链接申请了,今天刚看,已经添加。..
    • 博主 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 @1111老铁这个不行了,可以看看近期评论的其他文章..
    • 1111 在

      佛跳墙vpn软件不会用?上不了网?佛跳墙vpn常见问题以及解决办法中评论 网站不能打开,博主百忙中能否发个APP下载链接,佛跳墙或极光..
    • 2016-10
    • 2016-11
    • 2018-04
    • 2020-03
    • 2020-04
    • 2020-05
    • 2020-06
    • 2022-01
    • 2023-07
    • 2023-10
    Top

    Copyright·© 2019 侯体宗版权所有· 粤ICP备20027696号 PHP交流群

    侯体宗的博客