位置: IT常识 - 正文

当我用Python做了个自动工作汇报的脚本后,每天都闲的只能摸鱼(你用python做什么)

编辑:rootadmin
哈喽兄弟们 之前经常编写Python脚本来进行数据处理、数据传输和模型训练。随着数据量和数据复杂性的增加,运行脚本可能需要一些时间。在等待数据处理完成时可以同时做一些其他工作。 为了达到这个目的,编写了一组用于解决这个问题的Python脚本。使用这些脚本向手机发送流程更新、可视化和完成通知。当偶尔拥 ...

推荐整理分享当我用Python做了个自动工作汇报的脚本后,每天都闲的只能摸鱼(你用python做什么),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python可以做,有哪些用python做出来的软件,如何用python做出一个应用,你会用python吗,你会用python吗,你会用python吗,如何用python做出一个应用,如何用python做出一个应用,内容如对您有帮助,希望把文章链接给更多的朋友!

哈喽兄弟们

之前经常编写Python脚本来进行数据处理、数据传输和模型训练。随着数据量和数据复杂性的增加,运行脚本可能需要一些时间。在等待数据处理完成时可以同时做一些其他工作。

为了达到这个目的,编写了一组用于解决这个问题的Python脚本。使用这些脚本向手机发送流程更新、可视化和完成通知。当偶尔拥有这些自由的时刻,你可以享受而不是担心模型的进度。

一、需要什么

第一个问题是,需要知道什么?这取决于你正在做的工作。对于笔者来说主要有有三个可能会占用时间的处理任务:

模型训练数据处理和/或传输金融模型

我们需要对于每一种情况具体分析。

二、模型训练

更新每n个epoch,必须包括关键指标。例如,训练和验证集的损失和准确性。接着完成通知,包括:

训练期间关键指标的可视化(同样,训练和验证集的损失和准确性)

其他不太重要但仍然有用的信息,如本地模型目录、训练时间、模型架构等

预测输出,对于文本生成来说输出生成的文本(或它的一个样本);对于图像生成

来说,输出结果是一个(希望)很酷的可视化

以训练一个神经网络来重现给定的艺术风格为例。我们需要重点从模型中生成的图像,损失和精度图,当前的训练时间,和一个模型的名称。

import notify START= datetime.now() # this line would be placed before modeltraining begins MODELNAME="SynthwaveGAN" # giving us ourmodel name NOTIFY=100 # so we send an update notification every100 epochs # for each epoch e,we would include the following code if e % notify_epoch ==0and e !=0: # here we createthe email body message txt = (f"{MODELNAME} update as of " f"{datetime.now().strftime( %H:%M:%S )}.") # we build theMIME message object with notify.message msg = notify.message( subject= Synthwave GAN , text=txt, img=[ f ../visuals/{MODELNAME}/epoch_{e}_loss.png , f ../visuals/{MODELNAME}/epoch_{e}_iter_{i}.png ] ) # note that weattach two images here, the loss plot and # ...a generated image output from our model notify.send(msg) # we then send the message

每隔100个epoch,就会发送一封包含上述所有内容的电子邮件。以下是其中一封邮件:

三、数据处理和传输

这点不是很有趣,但在时间消耗方面,它排第一名。

以使用Python将批量数据上传到SQLServer为例(对于没有BULK INSERT的人)。在上传脚本的最后,会有一个简单的消息通知上传完成。

import os import notify from data importSql # seehttps://jamescalam.github.io/pysqlplus/lib/data/sql.html dt =Sql( database123 , server001 ) # setup theconnection to SQL Server for i, file inenumerate(os.listdir( ../data/new )): dt.push_raw(f ../data/new/{file} ) # push a file to SQL Server # once the upload is complete, send a notification # first we create the message msg = notify.message( subject= SQL Data Upload , text=f Data upload complete, {i} filesuploaded. , ) # send the message notify.send(msg)

如果偶尔抛出错误,还可以添加一个try-except语句来捕获错误,并将其添加到一个列表中,以包含在更新和/或完成电子邮件中。

四、金融模型

金融建模中运行的所有东西实际上都非常快,所以此处只能提供一个示例。

以现金流动模型工具 为例。现实中,这个过程只需要10-20秒,但现在假设你是华尔街炙手可热的定量分析师,正在处理几百万笔贷款。在这封电子邮件中,可能想要包含一个高级概要分析的投资组合。可以随机选择一些贷款,并在给定的时间段内可视化关键值——给定一个小样本来交叉检验模型的性能。

end = datetime.datetime.now() # get the ending datetime # get the total runtime in hours:minutes:seconds hours,rem =divmod((end - start).seconds, 3600) mins,secs =divmod(rem, 60) runtime= {:02d}:{:02d}:{:02d} .format(hours, mins,secs) # now built our message notify.msg( subject="Cashflow Model Completion", text=(f {len(model.output)} loansprocessed. f Total runtime:{runtime} ), img=[ ../vis/loan01_amortisation.png , ../vis/loan07_amortisation.png , ../vis/loan01_profit_and_loss.png , ../vis/loan07_profit_and_loss.png ] ) notify.send(msg) # and send it五、代码

上面的所有功能节选自一个名为notify.py的脚本。在示例代码中将使用Outlook。这里需要两个Python库,email和smtplib:

· email :用于管理电子邮件消息。有了这个库就可以设置电子邮件消息本身,包括主题、正文和附件。

· smtplib :处理SMTP连接。简单邮件传输协议(SMTP)是大多数电子邮件系统使用的协议,允许邮件通过互联网发送。

六、MIME当我用Python做了个自动工作汇报的脚本后,每天都闲的只能摸鱼(你用python做什么)

消息本身是使用来自email模块的MIMEMultipart对象构建的。还需要使用三个MIME子类,并将它们附加到MIMEMultipart对象上:

mimetext:这将包含电子邮件“有效负载”,即电子邮件正文中的文本。

mimeimage :这是用于在电子邮件中包含图像。

mimeapplication:用于MIME消息应用程序对象。也就是文件附件。

除了这些子类之外,还有其他参数,比如MimeMultipart中的Subject值。所有这些加在一起就形成了下面的结构。

把它们都放在一起会发生什么:

import os from email.mime.text importMIMEText from email.mime.image importMIMEImage from email.mime.application importMIMEApplication from email.mime.multipart importMIMEMultipart defmessage(subject="PythonNotification", text="", img=None, attachment=None): # build messagecontents msg =MIMEMultipart() msg[ Subject ] = subject # add in thesubject msg.attach(MIMEText(text)) # add text contents # check if wehave anything given in the img parameter if img isnotNone: # if we do, wewant to iterate through the images, so let s check that # what we haveis actually a list iftype(img) isnot list: img = [img] # if it isn t alist, make it one # now iteratethrough our list for one_img in img: img_data =open(one_img, rb ).read() # read the imagebinary data # attach theimage data to MIMEMultipart using MIMEImage, we add # the givenfilename use os.basename msg.attach(MIMEImage(img_data, name=os.path.basename(one_img))) # we do the samefor attachments as we did for images if attachment isnotNone: iftype(attachment) isnot list: attachment = [attachment] # if it isn t a list, make it one for one_attachment in attachment: withopen(one_attachment, rb ) as f: # read in theattachment using MIMEApplication file =MIMEApplication( f.read(), name=os.path.basename(one_attachment) ) # here we editthe attached file metadata file[ Content-Disposition ] =f attachment; filename="{os.path.basename(one_attachment)}" msg.attach(file) # finally, addthe attachment to our message object return msg

这个脚本相当简单。在顶部,有导入(这是以前介绍过的MIME部分)以及Python的os库。

接下来定义一个名为message的函数。这允许使用不同的参数调用函数并轻松地构建一个电子邮件消息对象。例如,可以这样写一封带有多张图片和附件的邮件:

email_msg= message( text="Model processing complete,please see attached data.", img=[ accuracy.png , loss.png ], attachments=[ data_in.csv , data_out.csv ])

首先,初始化MIMEMultipart对象,并将其分配给msg;然后,使用“subject”键设置电子邮件主题。attach方法向MIMEMultipart对象添加不同的MIME子类。你可以使用MIMEText子类添加电子邮件正文。

对于图像img和attachment附件,可以什么都不传递,只传递一个文件路径,或者传递一组文件路径。我们通过首先检查参数是否为None来处理它,如果参数为None,则传递;否则,检查给定的数据类型,不是一个list,就创建一个,这就使得可以用下面的for循环来遍历项。

接着,使用MIMEImage和MIMEApplication子类分别附加图像和文件。使用os.basename从给定的文件路径中获取文件名,附件名包括该文件名。

七、SMTP

现在已经构建好电子邮件消息对象,下一步就是发送它。这就是smtplib模块发挥作用的地方。代码同样非常简单,只有一处例外。

由于直接处理不同的电子邮件供应商和他们各自的服务器,需要不同的SMTP地址。在谷歌中输入“outlook smtp”。不需要单击页面,你就可以得到服务器地址smtp-mail.outlook.com和端口号587。

当使用smtplib.SMTP初始化SMTP对象时,这两种方法都需要用。SMTP -接近开始的send函数:

import smtplib import socket defsend(server= smtp-mail.outlook.com , port= 587 , msg): # contain followingin try-except in case of momentary network errors try: # initialiseconnection to email server, the default is Outlook smtp = smtplib.SMTP(server, port) # this is the Extended Hello command, essentially greeting our SMTP or ESMTP server smtp.ehlo() # this is the Start Transport Layer Security command, tells the server we will # becommunicating with TLS encryption smtp.starttls() # read email andpassword from file withopen( ../data/email.txt , r ) as fp: email = fp.read() withopen( ../data/password.txt , r ) as fp: pwd = fp.read() # login tooutlook server smtp.login(email, pwd) # sendnotification to self smtp.sendmail(email, email, msg.as_string()) # disconnectfrom the server smtp.quit() except socket.gaierror: print("Network connection error, email notsent.")

smtp.ehlo()和smtp.starttls()都是SMTP命令。ehlo(扩展Hello)本质上是向服务器打招呼。starttls通知服务器,将使用加密传输级别安全(TLS)连接进行通信。

在此之后,只需从文件中读取电子邮件和密码,分别存储在email和pwd中。然后,使用smtp.login登录到SMTP服务器。登录并使用smtp.sendmail发送电子邮件。

笔者总是给自己发送通知,但在自动报告的情况下,可能希望将电子邮件发送到其他地方。为此,我会更改destination_address: smtp.sendmail(email、destination_address、 msg.as_string)。

最后,终止会话并关闭与smtp.quit的连接。

将所有这些都放在try-except语句中。在瞬间网络连接丢失的情况下,将无法连接到服务器。导致socket.gaierror。使用try-except语句可以防止程序在网络连接失败的情况下崩溃。

笔者将其用于ML模型培训更新和数据传输完成。如果邮件没有被发送,那也没有关系。这种简单、被动地处理连接丢失是合适的。

八、放在一起

现在已经写了代码的两部分,我们就可以发送电子邮件了:

# builda message objectmsg = message(text="See attached!", img= important.png , attachment= data.csv )send(msg) #send the email (defaults to Outlook)# 兄弟们学习python,有时候不知道怎么学,从哪里开始学。掌握了基本的一些语法或者做了两个案例后,不知道下一步怎么走,不知道如何去学习更加高深的知识。# 那么对于这些大兄弟们,我准备了大量的资料,PDF电子书籍,以及源代码!# Python学习基地 279199867 都放在这个君羊了

这是所有的电子邮件通知和/或使用Python的自动化的全过程。感谢email和smptlib库,设置过程变得非常容易。

还有一点请注意,公共电子邮件提供程序服务器地址和TLS端口。

对于任何耗费大量时间的处理或训练任务,进度更新和完成通知通常才是真正的解放。Python,让工作更美好!

好了兄弟们,今天的分享就到这里,给大家推荐一套Python教程,涵盖了常见的大部分案例实战,希望对 大家有所帮助!

代码总是学完就忘记?100个爬虫实战项目!让你沉迷学习丨学以致用丨下一个Python大神就是你!

本文链接地址:https://www.jiuchutong.com/zhishi/311979.html 转载请保留说明!

上一篇:电脑学习网免费下载最新NotePad++v8.4.2代码编辑器英特尔64位中文安装版~超好用的程序代码编辑软件(学电脑的好网站)

下一篇:dedecms织梦列表文章审核更新到当前时间(织梦怎么添加相关)

  • 苹果13mini采用什么屏幕材质(iphone13mini测评)

    苹果13mini采用什么屏幕材质(iphone13mini测评)

  • 番茄小说的扫一扫在哪(番茄小说的扫一扫在哪里打开)

    番茄小说的扫一扫在哪(番茄小说的扫一扫在哪里打开)

  • 云上贵州扣费什么意思(云上贵州扣费能申请退款吗?)

    云上贵州扣费什么意思(云上贵州扣费能申请退款吗?)

  • win7没有我的电脑图标(win7我的电脑没有了)

    win7没有我的电脑图标(win7我的电脑没有了)

  • 快手粉丝团怎么升级快(快手粉丝团怎么创建)

    快手粉丝团怎么升级快(快手粉丝团怎么创建)

  • 苹果11和苹果xr有什么区别(苹果11和苹果xr钢化膜一样吗)

    苹果11和苹果xr有什么区别(苹果11和苹果xr钢化膜一样吗)

  • 苹果描述文件移除密码(苹果描述文件移除了就是删了吗)

    苹果描述文件移除密码(苹果描述文件移除了就是删了吗)

  • 苹果手机微信照片保存在哪里(苹果手机微信照片访问权限不见了)

    苹果手机微信照片保存在哪里(苹果手机微信照片访问权限不见了)

  • 微信被一个人举报就能封号吗(微信被一个人举报后果)

    微信被一个人举报就能封号吗(微信被一个人举报后果)

  • 微信收藏语音无法播放(微信收藏语音没有声音)

    微信收藏语音无法播放(微信收藏语音没有声音)

  • 注销qq号会连邮箱一起注销吗(注销qq号会注销邮箱吗)

    注销qq号会连邮箱一起注销吗(注销qq号会注销邮箱吗)

  • sbc是什么音质(sbc是什么音质和aac)

    sbc是什么音质(sbc是什么音质和aac)

  • 聊天记录删除了还能查到吗(聊天记录删除了能查出来吗)

    聊天记录删除了还能查到吗(聊天记录删除了能查出来吗)

  • 苹果的接力是干嘛的(苹果的接力有什么用)

    苹果的接力是干嘛的(苹果的接力有什么用)

  • 三星旗舰机是什么系列(三星旗舰机什么时候发布)

    三星旗舰机是什么系列(三星旗舰机什么时候发布)

  • 手机怎么做文档表格(手机怎么做文档?)

    手机怎么做文档表格(手机怎么做文档?)

  • 微信删除照片怎么恢复(微信删除照片怎么删除)

    微信删除照片怎么恢复(微信删除照片怎么删除)

  • 小米cc9e有nfc功能吗(小米cc9enfc功能在哪里)

    小米cc9e有nfc功能吗(小米cc9enfc功能在哪里)

  • 苹果二维码相机有什么用(苹果的二维码相机是干嘛的)

    苹果二维码相机有什么用(苹果的二维码相机是干嘛的)

  • 100ansi等于多少流明(100s/a)

    100ansi等于多少流明(100s/a)

  • 微信添加朋友手机联系人不显示(微信添加朋友手机号找不到)

    微信添加朋友手机联系人不显示(微信添加朋友手机号找不到)

  • 抖音里怎么收藏音乐(抖音里怎么收藏别人的视频)

    抖音里怎么收藏音乐(抖音里怎么收藏别人的视频)

  • commandlineoptionsyntaxerror翻译详情

    commandlineoptionsyntaxerror翻译详情

  • frontpage.exe是什么进程 有什么作用 frontpage进程查询(frontpage在哪里打开)

    frontpage.exe是什么进程 有什么作用 frontpage进程查询(frontpage在哪里打开)

  • Vue3实战教程(快速入门)(vue3官方教程)

    Vue3实战教程(快速入门)(vue3官方教程)

  • 工资延期发放最多不能超过多少天
  • 建筑劳务公司税负率多少才合适
  • 公司贷款利息怎么做分录
  • 增值税可以退税嘛
  • 网上社保增减员操作流程
  • 如何开增值税专用发票视频
  • 采购服务需要缴什么税
  • 材料成本差异借贷方向
  • 物业代收费:有关法律
  • 装饰行业可否用石灰代替
  • 公司转让注册资金怎么弄
  • 股利怎么算出来的
  • 购买国税金税卡年费应该怎么做账务处理?
  • 支付员工出差住宿费
  • 存货计提减值准备对所得税的影响
  • 企业作为股东分红上税吗怎么算
  • 个体工商户年末计提的工资,次年怎么算
  • 税收编码选错了,发票已经开出去几个月了,还有影响吗
  • 南京房产税2021年
  • 批发行业增值税税负率是多少呢
  • 个人买卖二手房交什么税
  • 个人可以代公司缴税吗
  • 小规模银行存款多笔小金额财务费用可以合并记账吗?
  • 普通的增值税发票可以查询到购买人的信息吗
  • 资产减值损失在贷方表示什么意思
  • 住房公积金是福利费吗
  • 农产品加工所得税
  • 公司转让税费如何计算
  • 经营租入的土地使用权 待摊
  • 平均净资产计算公式是什么意思
  • 加计抵减政策销售额占比怎么算
  • 实收资本是认缴出资吗
  • 无法添加用户和组
  • 住房公积金余额查询
  • 什么叫存量房转移登记
  • 销售折让负数会计分录
  • 图书发行流程
  • 政府闲置土地
  • 银行转来委托收款
  • 资产负债表中其他综合收益怎么填
  • 固定资产未提完折旧可以报废吗
  • Centos6.5和Centos7 php环境搭建方法
  • torch.nn.function
  • 工资一定要对公发吗
  • video.js教程
  • vue获取当前行
  • 前端都有哪些
  • 帝国cms功能
  • mysql binlog是什么
  • php好用的cms
  • 外贸da付款方式的流程图
  • 出口结汇有哪些常用方法?
  • 存货成本核算方法的多久变更
  • 关于税务机关扣押程序
  • 委托加工物资科目贷方登记的内容有什么
  • 总公司下的分公司破产怎么赔偿
  • 红冲发票重开一定要一样的金额吗?
  • 开票软件服务费全额抵扣怎么做账
  • 企业变卖汽车收入要交增值税吗
  • 利息保障倍数多少算正常
  • 税务监制章验证无效
  • 固定资产报废需要进项税额转出吗
  • 餐饮食材成本高怎么形容
  • sqlserver存储过程声明变量
  • mysql的日志
  • mac系统快速入门
  • 遮罩层出现后怎么点击其他地方隐藏
  • 使用jquery操作dom
  • 遮罩层中对象的作用是
  • Python win32com 操作Exce的l简单方法(必看)
  • Unity3D游戏开发培训课程大纲
  • vue实现分页功能
  • Unity NGUI添加事件监听(转摘)
  • 查看shell脚本
  • php使用js
  • js判断浏览器内核和版本
  • jquery显示隐藏div
  • 地下车库是否缴房产税
  • 云南省地方税务局公告2011年第6号
  • 上市股票转为非上市
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设