位置: 编程技术 - 正文

深入解析Python中的线程同步方法(python解析chunked)

编辑:rootadmin

推荐整理分享深入解析Python中的线程同步方法(python解析chunked),希望有所帮助,仅作参考,欢迎阅读内容。

文章相关热门搜索词:python 解析ini,python 解析ini,python解析函数,python解析jmx,python解析函数,python 解析ini,python解析函数,深入理解python,内容如对您有帮助,希望把文章链接给更多的朋友!

同步访问共享资源

在使用线程的时候,一个很重要的问题是要避免多个线程对同一变量或其它资源的访问冲突。一旦你稍不留神,重叠访问、在多个线程中修改(共享资源)等这些操作会导致各种各样的问题;更严重的是,这些问题一般只会在比较极端(比如高并发、生产服务器、甚至在性能更好的硬件设备上)的情况下才会出现。比如有这样一个情况:需要追踪对一事件处理的次数

如果你在多个线程中同时调用这个函数,你会发现counter的值不是那么准确。在大多数情况下它是对的,但有时它会比实际的少几个。出现这种情况的原因是,计数增加操作实际上分三步执行:

解释器获取counter的当前值 计算新值 将计算的新值回写counter变量

考虑一下这种情况:在当前线程获取到counter值后,另一个线程抢占到了CPU,然后同样也获取到了counter值,并进一步将counter值重新计算并完成回写;之后时间片重新轮到当前线程(这里仅作标识区分,并非实际当前),此时当前线程获取到counter值还是原来的,完成后续两步操作后counter的值实际只加上1。另一种常见情况是访问不完整或不一致状态。这类情况主要发生在一个线程正在初始化或更新数据时,另一个进程却尝试读取正在更改的数据。

原子操作实现对共享变量或其它资源的同步访问最简单的方法是依靠解释器的原子操作。原子操作是在一步完成执行的操作,在这一步中其它线程无法获得该共享资源。通常情况下,这种同步方法只对那些只由单个核心数据类型组成的共享资源有效,譬如,字符串变量、数字、列表或者字典等。下面是几个线程安全的操作:

读或者替换一个实例属性 读或者替换一个全局变量 从列表中获取一项元素 原位修改一个列表(例如:使用append增加一个列表项) 从字典中获取一项元素 原位修改一个字典(例如:增加一个字典项、调用clear方法)

注意,上面提到过,对一个变量或者属性进行读操作,然后修改它,最终将其回写不是线程安全的。因为另外一个线程会在这个线程读完却没有修改或回写完成之前更改这个共享变量/属性。

锁是Python的threading模块提供的最基本的同步机制。在任一时刻,一个锁对象可能被一个线程获取,或者不被任何线程获取。如果一个线程尝试去获取一个已经被另一个线程获取到的锁对象,那么这个想要获取锁对象的线程只能暂时终止执行直到锁对象被另一个线程释放掉。锁通常被用来实现对共享资源的同步访问。为每一个共享资源创建一个Lock对象,当你需要访问该资源时,调用acquire方法来获取锁对象(如果其它线程已经获得了该锁,则当前线程需等待其被释放),待资源访问完后,再调用release方法释放锁:

注意,即使在访问共享资源的过程中出错了也应该释放锁,可以用try-finally来达到这一目的:

在Python 2.5及以后的版本中,你可以使用with语句。在使用锁的时候,with语句会在进入语句块之前自动的获取到该锁对象,然后在语句块执行完成后自动释放掉锁:

acquire方法带一个可选的等待标识,它可用于设定当有其它线程占有锁时是否阻塞。如果你将其值设为False,那么acquire方法将不再阻塞,只是如果该锁被占有时它会返回False:

你可以使用locked方法来检查一个锁对象是否已被获取,注意不能用该方法来判断调用acquire方法时是否会阻塞,因为在locked方法调用完成到下一条语句(比如acquire)执行之间该锁有可能被其它线程占有。

简单锁的缺点标准的锁对象并不关心当前是哪个线程占有了该锁;如果该锁已经被占有了,那么任何其它尝试获取该锁的线程都会被阻塞,即使是占有锁的这个线程。考虑一下下面这个例子:

示例中,我们有一个共享资源,有两个分别取这个共享资源第一部分和第二部分的函数。两个访问函数都使用了锁来确保在获取数据时没有其它线程修改对应的共享数据。现在,如果我们想添加第三个函数来获取两个部分的数据,我们将会陷入泥潭。一个简单的方法是依次调用这两个函数,然后返回结合的结果:

这里的问题是,如有某个线程在两个函数调用之间修改了共享资源,那么我们最终会得到不一致的数据。最明显的解决方法是在这个函数中也使用lock:

然而,这是不可行的。里面的两个访问函数将会阻塞,因为外层语句已经占有了该锁。为了解决这个问题,你可以通过使用标记在访问函数中让外层语句释放锁,但这样容易失去控制并导致出错。幸运的是,threading模块包含了一个更加实用的锁实现:re-entrant锁。Re-Entrant Locks (RLock)

RLock类是简单锁的另一个版本,它的特点在于,同一个锁对象只有在被其它的线程占有时尝试获取才会发生阻塞;而简单锁在同一个线程中同时只能被占有一次。如果当前线程已经占有了某个RLock锁对象,那么当前线程仍能再次获取到该RLock锁对象。

深入解析Python中的线程同步方法(python解析chunked)

RLock的主要作用是解决嵌套访问共享资源的问题,就像前面描述的示例。要想解决前面示例中的问题,我们只需要将Lock换为RLock对象,这样嵌套调用也会OK.

这样既可以单独访问两部分数据也可以一次访问两部分数据而不会被锁阻塞或者获得不一致的数据。注意RLock会追踪递归层级,因此记得在acquire后进行release操作。Semaphores

信号量是一个更高级的锁机制。信号量内部有一个计数器而不像锁对象内部有锁标识,而且只有当占用信号量的线程数超过信号量时线程才阻塞。这允许了多个线程可以同时访问相同的代码区。

... 访问共享资源

当信号量被获取的时候,计数器减小;当信号量被释放的时候,计数器增大。当获取信号量的时候,如果计数器值为0,则该进程将阻塞。当某一信号量被释放,counter值增加为1时,被阻塞的线程(如果有的话)中会有一个得以继续运行。信号量通常被用来限制对容量有限的资源的访问,比如一个网络连接或者数据库服务器。在这类场景中,只需要将计数器初始化为最大值,信号量的实现将为你完成剩下的事情。

如果你不传任何初始化参数,计数器的值会被初始化为1.Python的threading模块提供了两种信号量实现。Semaphore类提供了一个无限大小的信号量,你可以调用release任意次来增大计数器的值。为了避免错误出现,最好使用BoundedSemaphore类,这样当你调用release的次数大于acquire次数时程序会出错提醒。线程同步

锁可以用在线程间的同步上。threading模块包含了一些用于线程间同步的类。Events

一个事件是一个简单的同步对象,事件表示为一个内部标识(internal flag),线程等待这个标识被其它线程设定,或者自己设定、清除这个标识。

一旦标识被设定,wait方法就不做任何处理(不会阻塞),当标识被清除时,wait将被阻塞直至其被重新设定。任意数量的线程可能会等待同一个事件。Conditions

条件是事件对象的高级版本。条件表现为程序中的某种状态改变,线程可以等待给定条件或者条件发生的信号。下面是一个简单的生产者/消费者实例。首先你需要创建一个条件对象:

wait方法释放了锁,然后将当前线程阻塞,直到有其它线程调用了同一条件对象的notify或者notifyAll方法,然后又重新拿到锁。如果同时有多个线程在等待,那么notify方法只会唤醒其中的一个线程,而notifyAll则会唤醒全部线程。为了避免在wait方法处阻塞,你可以传入一个超时参数,一个以秒为单位的浮点数。如果设置了超时参数,wait将会在指定时间返回,即使notify没被调用。一旦使用了超时,你必须检查资源来确定发生了什么。注意,条件对象关联着一个锁,你必须在访问条件之前获取这个锁;同样的,你必须在完成对条件的访问时释放这个锁。在生产代码中,你应该使用try-finally或者with.可以通过将锁对象作为条件构造函数的参数来让条件关联一个已经存在的锁,这可以实现多个条件公用一个资源:

互斥锁同步我们先来看一个例子:

结果 :

上面的例子引出了多线程编程的最常见问题:数据共享。当多个线程都修改某一个共享数据的时候,需要进行同步控制。线程同步能够保证多个线程安全访问竞争资源,最简单的同步机制是引入互斥锁。互斥锁为资源引入一个状态:锁定/非锁定。某个线程要更改共享数据时,先将其锁定,此时资源的状态为“锁定”,其他线程不能更改;直到该线程释放资源,将资源的状态变成“非锁定”,其他的线程才能再次锁定该资源。互斥锁保证了每次只有一个线程进行写入操作,从而保证了多线程情况下数据的正确性。

threading模块中定义了Lock类,可以方便的处理锁定:

其中,锁定方法acquire可以有一个超时时间的可选参数timeout。如果设定了timeout,则在超时后通过返回值可以判断是否得到了锁,从而可以进行一些其他的处理。使用互斥锁实现上面的例子的代码如下:

加锁后的结果,就能确保数据正确:

浅谈python中的getattr函数 hasattr函数 hasattr(object,name)作用:判断对象object是否包含名为name的特性(hasattr是通过调用getattr(ojbect,name)是否抛出异常来实现的)。示例:hasattr(list,'append')Truehasatt

全面了解Python的getattr(),setattr(),delattr(),hasattr() 1.getattr()函数是Python自省的核心函数,具体使用大体如下:classA:def__init__(self):self.name='zhangjing'#self.age=''defmethod(self):print"methodprint"Instance=A()printgetattr(Inst

Python的Flask框架中使用Flask-SQLAlchemy管理数据库的教程 使用Flask-SQLAlchemy管理数据库Flask-SQLAlchemy是一个Flask扩展,它简化了在Flask应用程序中对SQLAlchemy的使用。SQLAlchemy是一个强大的关系数据库框架,支持一些

标签: python解析chunked

本文链接地址:https://www.jiuchutong.com/biancheng/387630.html 转载请保留说明!

上一篇:详解Python中的Descriptor描述符类

下一篇:浅谈python中的getattr函数 hasattr函数(python中的get方法)

  • 小规模纳税人不开票收入怎么报增值税
  • 待处理财产损益年底怎么处理
  • 食堂没有发票怎么做账
  • 业务招待费可以进成本吗
  • 小规模纳税人减征增值税
  • 工商年检股东变更流程
  • 代开运输发票是否预征企业所得税?
  • 出纳备用金管理制度
  • 收回多缴税金会计分录
  • 企业所得税债务重组所得
  • 提前给货款计入什么科目
  • 算材料成本的时候要算增值税吗?
  • 诉讼财产保全保险费能否主张
  • 结转已完工产品会计分录
  • 化工类资质建筑企业有哪些
  • 进项税核定扣除试点
  • 企业短期贷款进什么科目
  • 银行承兑汇票加工费合同
  • 收回公司代垫职工款项怎么做凭证?
  • 涉及农业的税收优惠有哪些
  • 按产品的品种型号规格规定的计划
  • windows7如何删除软件
  • 收到个人所得税退税手续费分录
  • 进项发票如何抵扣销项发票
  • 物权请求权如何行使
  • php对接微信支付教程
  • 旧货回收增值税率是多少
  • java基础教程
  • 上级拨付的债券会计分录
  • 企业应付账款的会计分录
  • 级联选择器 数据回显
  • uni-app入门到实战
  • css3题目
  • php应用实例
  • 推广费的比例
  • 个人取得的劳务报酬所得,如何缴纳个税
  • vue 同局域网访问不到的问题及解决
  • dede织梦怎么转成zblog
  • 融资租赁公司的风险资产包括哪些
  • 生产企业生产车间人员密度是多少
  • 采购供应部门发挥的作用
  • 母公司借款给子公司如何做账
  • 收缩数据库日志文件对数据有影响吗
  • 利润计算公式是什么折扣
  • 利息收入管理办法
  • 开承兑需要多少手续费
  • 其他应收款期末借方余额表示什么意思
  • 先收到发票还没付款怎么做账
  • 电子承兑到期怎么收款
  • 长期股权投资如何确认
  • 哪些合同需要缴税
  • 公司员工报销车费还需要签协议吗
  • 期间费用是啥
  • 党建信息的重要性
  • 现金日记账是什么帐
  • mysql中自增
  • MS-SQL Server 2005 其中三个版本的比较
  • 解决ubuntu和win10关机重启界面不动
  • xp电脑内存占用过高怎么办
  • os x10.8
  • 技术故事是什么意思
  • 两个linux系统之间如何传文件
  • 如何更改忘记密码中的问题
  • dosbox批处理
  • android 游戏平台
  • javascript中cookie
  • 粉碎文件的快捷键
  • vue是如何实现双向绑定的
  • js内存条
  • android适配器是什么意思
  • batfor循环里变量计算
  • 深入浅析是什么意思
  • jquery.filedownload.js
  • python随机数random.choice
  • 前端开发的工作流程
  • 湖北税务报税系统官网
  • 机票电子发票怎么作废
  • 城市维护建设税法自2021年10月1日起施行
  • 注册会计师和注册审计师哪个厉害
  • 小规模企业降税
  • 免责声明:网站部分图片文字素材来源于网络,如有侵权,请及时告知,我们会第一时间删除,谢谢! 邮箱:opceo@qq.com

    鄂ICP备2023003026号

    网站地图: 企业信息 工商信息 财税知识 网络常识 编程技术

    友情链接: 武汉网站建设