您好, 欢迎来到 !    登录 | 注册 | | 设为首页 | 收藏本站

将pyspark中的Python模块运送到其他节点

将pyspark中的Python模块运送到其他节点

如果可以将模块打包到.egg.zip文件中,则在pyFiles构造SparkContext时应该可以将其列出(或者以后可以通过sc.addPyFile进行添加)。

对于使用setuptools的Python库,您可以运行python setup.py bdist_egg以构建egg发行版。

另一种选择是通过在每台计算机上使用pip / easy_install或通过在群集范围内的文件系统(如NFS)上共享Python安装来在群集范围内安装库。

python 2022/1/1 18:36:05 有377人围观

撰写回答


你尚未登录,登录后可以

和开发者交流问题的细节

关注并接收问题和回答的更新提醒

参与内容的编辑和改进,让解决方法与时俱进

请先登录

推荐问题


联系我
置顶