分享8点超级有用的Python编程建议(推荐)


Posted in Python onOctober 13, 2019

我们在用Python进行机器学习建模项目的时候,每个人都会有自己的一套项目文件管理的习惯,我自己也有一套方法,是自己曾经踩过的坑总结出来的,现在在这里分享一下给大家,希望多少有些地方可以给大家借鉴。

? 先睹为快

  • 项目文件事先做好归档
  • 永远不要手动修改源数据并且做好备份
  • 做好路径的正确配置
  • 代码必要的地方做好备注与说明
  • 加速你的Python循环代码
  • 可视化你的循环代码进度
  • 使用高效的异常捕获工具
  • 要多考虑代码健壮性
项目文件事先做好归档

每次开始一个新工作的时候,以前的我总是贪图方便,Code、Data、文档都集中放在一个文件夹内,看起来很乱,一度让回溯过程十分痛苦,或者是换了部电脑,文件全都运行不行了,需要自行修改路径,十分痛苦。

经过自己一番探索,大家可以大致将项目分成几个子文件夹,code放在主文件夹里:

分享8点超级有用的Python编程建议(推荐)

永远不要手动修改源数据并且做好备份

我们需要对源数据进行好备份,方便我们下一次进行回溯,可以进行下一步的操作或者是对中间步骤的修改,而且,对代码等其他文件也是需要做好备份的,以免出现意外丢失。

这里来自良许Linux的一篇文章,推荐了4个工具:

  • Git版本控制系统
  • Rsync文件备份
  • Dropbox云存储
  • Time Machine时光机器

更多的工具介绍和使用我这边就不展开,大家可以去自行了解呗。

做好路径的正确配置

很多同学在写路径的时候都很喜欢直接用绝对路径,虽然一般情况下不会有什么问题,但如果代码共享给其他人学习或者运行的时候,问题就来了,很多情况下都不能直接跑通,

这里建议:

  • 使用相对路径:脚本位于主目录下,其他资源(如数据、第三方包等)在其同级或低级目录下,如 ./data/processed/test1.csv
  • 全局路径配置变量:
# 设置主目录
HOME_PATH = r'E:\ML\190615- PROJECT1'

# 读取数据
data = open(HOME_PATH+'/data/processed/test1.csv') 
data = pd.read_csv(data)
data.head()
代码必要的地方做好备注与说明

这个我相信大多数人都感同身受了,不信?拿回一个月前自己写的代码看看吧,看一下能看懂多少(如果没有做好备注说明的话)

加速你的Python循环代码

这里推荐云哥的一篇文章:24式加速你的python:

收藏起来,多看多几次,养成好习惯呗,这样子你写代码才会越来越快~

可视化你的循环代码进度

这里介绍一个Python库,tqdm,先安装一下:pip install tqdm

这个是一个可以显示循环进度的库,有了它就可以更加运筹帷幄了。

大家可以看下面的例子:

分享8点超级有用的Python编程建议(推荐)

使用高效的异常捕获工具

异常bug定位,以前的我经常也是一条print()函数走到底,虽然说也没什么问题,但效率上还是会比较慢,后来发现了一个叫PySnooper的装饰器,仿佛发现了新大陆。

我们一般debug,都是在我们可能觉得会有问题的地方,去打印输出,看下实际输出了什么,然后思考问题所在,这需要我们去改code,非常细致地改,相比较直接加个装饰器,是十分麻烦的。

大家可以看看Example:

import pysnooper

@pysnooper.snoop('./log/file.log')
def number_to_bits(number):
  if number:
    bits = []
    while number:
      number, remainder = divmod(number, 2)
      bits.insert(0, remainder)
    return bits
  else:
    return [0]

number_to_bits(6)

我们把函数每一步的输出都保存为file.log,我们可以直接去看到底哪里出了问题。

分享8点超级有用的Python编程建议(推荐)

? 项目地址:https://github.com/cool-RR/pysnooper

要多考虑代码健壮性

何为代码的健壮性,顾名思义,就是可以抵挡得住各种异常场景的测试,异常处理工作由“捕获”和“抛出”两部分组成。“捕获”指的是使用 try ... except 包裹特定语句,妥当的完成错误流程处理。而恰当的使用 raise 主动“抛出”异常,更是优雅代码里必不可少的组成部分,下面总结几点供大家参考:

1)知道要传入的参数是什么,类型,个数....(异常处理,逻辑判断)

def add(a, b):
 if isinstance(a, int) and isinstance(b, int):
   return a+b
 else:
   return '参数类型错误'

print(add(1, 2))
print(add(1, 'a'))

2)只做最精准的异常捕获

我们有的时候想着让脚本work才是王道,所以不管三七二十一就搞一个大大的try...except把整块代码包裹起来,但这样很容易把原本该被抛出的 AttibuteError 吞噬了。从而给我们的 debug 过程增加了不必要的麻烦。

所以,我们永远只捕获那些可能会抛出异常的语句块,而且尽量只捕获精确的异常类型,而不是模糊的 Exception。

from requests.exceptions import RequestException

def save_website_title(url, filename):
  try:
    resp = requests.get(url)
  except RequestException as e:
    print(f'save failed: unable to get page content: {e}')
    return False
    
# 这段正则操作本身就是不应该抛出异常的,所以我们没必要使用 try 语句块
# 假如 group 被误打成了 grop 也没关系,程序马上就会通过 AttributeError 来
# 告诉我们。
  obj = re.search(r'<title>(.*)</title>', resp.text)
  if not obj:
  print('save failed: title tag not found in page content')
  return False
  title = obj.group(1)

  try:
  with open(filename, 'w') as fp:
    fp.write(title)
  except IOError as e:
  print(f'save failed: unable to write to file {filename}: {e}')
  return False
  else:
  return True

3)异常处理不应该喧宾夺主

像上一条说到的异常捕获要精准,但如果每一个都很精准的话,其实我们的代码里就会有很多try...except语句块,以至于扰乱核心代码,代码整体阅读性。

这里,我们可以利用上下文管理器来改善我们的异常处理流程,简化重复的异常处理逻辑。

class raise_api_error:
  """captures specified exception and raise ApiErrorCode instead
  :raises: AttributeError if code_name is not valid
  """
  def __init__(self, captures, code_name):
  self.captures = captures
  self.code = getattr(error_codes, code_name)

  def __enter__(self):
  # 该方法将在进入上下文时调用
  return self

  def __exit__(self, exc_type, exc_val, exc_tb):
  # 该方法将在退出上下文时调用
  # exc_type, exc_val, exc_tb 分别表示该上下文内抛出的
  # 异常类型、异常值、错误栈
  if exc_type is None:
    return False

  if exc_type == self.captures:
    raise self.code from exc_val
  return False

在上面的代码里,我们定义了一个名为 raise_api_error 的上下文管理器,它在进入上下文时什么也不做。但是在退出上下文时,会判断当前上下文中是否抛出了类型为 self.captures 的异常,如果有,就用 APIErrorCode 异常类替代它。

使用上下文管理器后,简洁的代码如下:

def upload_avatar(request):
  """用户上传新头像"""
  with raise_api_error(KeyError, 'AVATAR_FILE_NOT_PROVIDED'):
  avatar_file = request.FILES['avatar']
    
  with raise_api_error(ResizeAvatarError, 'AVATAR_FILE_INVALID'),\
    raise_api_error(FileTooLargeError, 'AVATAR_FILE_TOO_LARGE'):
   resized_avatar_file = resize_avatar(avatar_file)

  with raise_api_error(Exception, 'INTERNAL_SERVER_ERROR'):
  request.user.avatar = resized_avatar_file
  request.user.save()
  return HttpResponse({})

以上就是本文的全部内容,希望对大家的学习有所帮助,也希望大家多多支持三水点靠木。

Python 相关文章推荐
Python中模块与包有相同名字的处理方法
May 05 Python
python中reload(module)的用法示例详解
Sep 15 Python
Python实现的插入排序算法原理与用法实例分析
Nov 22 Python
Python实现将一个正整数分解质因数的方法分析
Dec 14 Python
简单实现Python爬取网络图片
Apr 01 Python
Python可变参数*args和**kwargs用法实例小结
Apr 27 Python
Python生命游戏实现原理及过程解析(附源代码)
Aug 01 Python
python读写文件write和flush的实现方式
Feb 21 Python
如何基于线程池提升request模块效率
Apr 18 Python
给keras层命名,并提取中间层输出值,保存到文档的实例
May 23 Python
详解python算法常用技巧与内置库
Oct 17 Python
Python识别花卉种类鉴定网络热门植物并自动整理分类
Apr 08 Python
ipad上运行python的方法步骤
Oct 12 #Python
python字典排序的方法
Oct 12 #Python
python查看数据类型的方法
Oct 12 #Python
python能做什么 python的含义
Oct 12 #Python
学python安装的软件总结
Oct 12 #Python
Win10下python 2.7与python 3.7双环境安装教程图解
Oct 12 #Python
python输入错误后删除的方法
Oct 12 #Python
You might like
php join函数应用
2011/05/04 PHP
PHP中fwrite与file_put_contents性能测试代码
2013/08/02 PHP
PHP连接MySQL数据的操作要点
2015/03/20 PHP
php去除二维数组的重复项方法
2015/11/03 PHP
Zend Framework+smarty用法实例详解
2016/03/19 PHP
Yii数据库缓存实例分析
2016/03/29 PHP
PHP中Socket连接及读写数据超时问题分析
2016/07/19 PHP
windows系统php环境安装swoole具体步骤
2021/03/04 PHP
[原创]用javascript实现检测指定目录是否存在的方法
2008/01/12 Javascript
通过 Dom 方法提高 innerHTML 性能
2008/03/26 Javascript
JS中confirm,alert,prompt函数区别分析
2011/01/17 Javascript
javascript计算用户打开网页的停留时间
2014/01/09 Javascript
jQuery中对未来的元素绑定事件用bind、live or on
2014/04/17 Javascript
nodejs 提示‘xxx’ 不是内部或外部命令解决方法
2014/11/20 NodeJs
jQuery实现响应鼠标背景变化的动态菜单效果代码
2015/08/27 Javascript
angularJS 如何读写缓冲的方法(推荐)
2016/08/06 Javascript
js html5 css俄罗斯方块游戏再现
2016/10/17 Javascript
读Javascript高性能编程重点笔记
2016/12/21 Javascript
JS 在数组指定位置插入/删除数据的方法
2017/01/12 Javascript
JavaScript无缝滚动效果的实例代码
2017/03/27 Javascript
layui实现文件或图片上传记录
2018/08/28 Javascript
js实现一个页面多个倒计时的3种方法
2019/02/25 Javascript
VUE 直接通过JS 修改html对象的值导致没有更新到数据中解决方法分析
2019/12/02 Javascript
weui上传多图片,压缩,base64编码的示例代码
2020/06/22 Javascript
详解Python装饰器由浅入深
2016/12/09 Python
Django admin实现图书管理系统菜鸟级教程完整实例
2017/12/12 Python
Python数据分析模块pandas用法详解
2019/09/04 Python
如何在python中实现随机选择
2019/11/02 Python
详解python环境安装selenium和手动下载安装selenium的方法
2020/03/17 Python
pytorch 计算ConvTranspose1d输出特征大小方式
2020/06/23 Python
Veronica Beard官网:在酷、经典和别致之间找到了平衡
2018/01/11 全球购物
大专自我鉴定范文
2013/10/01 职场文书
学徒工职责
2014/03/06 职场文书
党员批评与自我批评发言材料
2014/10/14 职场文书
给老师的感谢信
2015/01/20 职场文书
2016年全国爱眼日宣传教育活动总结
2016/04/05 职场文书