设为首页 收藏本站
查看: 1285|回复: 0

[经验分享] Python: Windows下用 multiprocessing 的深坑

[复制链接]

尚未签到

发表于 2019-2-19 12:12:56 | 显示全部楼层 |阅读模式
  笔者某天在测试多进程时, 发现了一个问题
  测试代码:
  

#coding: utf8  
from multiprocessing import Process
  
import os
  
print('Global_print', os.getpid())
  
def run_proc(name):
  

  print('Run child process %s (%s)…' % (name, os.getpid()))
  
if __name__=='__main__':
  p = Process(target=run_proc, args=('test',))
  print(os.getpid())
  p.start()
  

  上述代码不复杂, 肉眼就能猜出八九分: 父进程来执行了首尾的两个 print, 而子进程则只执行 run_proc 。
  下面就这针对这一个猜测来验证:
  在Linux下:
  

'Global_print', 14382  
14382
  
Run child process test (14383)…
  

  很符合我们的预期, 因为两次 os.getpid() 得到了一样的结果, 而子进程的那句输出也从侧面验证了另外两句 print 是父进程执行的.
  接下来看下 Windows:
  What ???...
  在测试了 debian/centos 等等 unix/linux 不同发行版和不同 Python 版本, 表现均为一致, 也就是上面 Linux 的输出。
  然而,在 Windows下也也是很顽固的和上面的输出不一致。众所周知, Windows 和 Linux 在实现多进程上面是有点区别的..
  于是, 感觉应该是 Windows 自身的问题, 在咨询了大佬之后, 得知官网早已有对这块进行说明了:
  传送门: https://docs.python.org/2/library/multiprocessing.html?highlight=process#windows
  资料说明如下:

  简单的意思应该是下面这样:
  因为 Windows 缺乏 Linux 那种 fork, 所以它会有一些额外的限制:


  • 不管是绑定还是未绑定的方法, 都不要直接作为参数传给 Process 初始化的 target, 相反应该要用普通的函数代替
  • 子进程在访问全局变量时, 可能会与父进程的值不同。 ( 模块级别的常量没这问题 )
  • 开启新Python 解析器或者创建新 process 时, 确定主模块能够安全的导入。
  而刚才的那个问题, 就是因为没有注意到第三点, 所以导致了意想不到的的副作用, 应该用下面的写法取代上面的不安全写法:
  

from multiprocessing import Process, freeze_support  

  
def foo():
  print 'hello'
  

  
if __name__ == '__main__':
  freeze_support()
  p = Process(target=foo)
  p.start()
  

  果然 Windows 无处不在都在挖坑....
  作者:Lin_R
  原文链接:httpt.cnR1Q19ML




运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-674439-1-1.html 上篇帖子: windows 安装进化 下篇帖子: windows2012端口白名单设置
您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表