设为首页 收藏本站
查看: 1348|回复: 4

[经验分享] 一次awk脚本的重构

[复制链接]
累计签到:1 天
连续签到:1 天
发表于 2013-12-3 17:32:48 | 显示全部楼层 |阅读模式
# 脚本功能说明:
# 1. 检查URL中的域名是否是指定版本的域名
# 2. 对访问bid,authorid的游客身份排重,并累加其pv
# 全局变量说明
# DOMIAN_LIST 是数组,key是要统计的域名value是域名所属的业务

# 函数参数说明:
# domain 从URL里提取出来的域名
# ver    域名属于哪个业务(wap or touch)
# statid 从URL里提取的出来的bookid或者authorid
# array  用于排重的并累加PV的数组
function compute(domain, ver, statid, userid, array __ARGVEND__)
{
    # 提取失败或该域名不在本次处理的业务范围内
    if(domain == "" || DOMAIN_LIST[domain] != ver)
    {
        next # 跳过当前记录的处理,处理下一条记录
    }

    # 提取statid失败
    if(statid == 0)
    {
        next
    }

    array[statid " " userid]++
    next
}

{# 记录处理器

    url     = $6
    userid  = $4
    session = $9

    # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
    if(match(url,/ct=bk&ac=cver&total=wap_book/) > 1)
    {
        domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
        userid = choice(userid, session)         # 从日志里选择用户身份,userid < 0 则取session
        bid    = getBid(url)                     # 从URL里提取书籍ID

        compute(domain, "wap", bid, userid, WAP_BOOKS)
    }

    # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
    if(match(url,/ct=bk&ac=zz&total=wap_author/) > 1)
    {
        domain = getMatchDomin(url, DOMAIN_LIST) # 从URL里提取域名,提取失败则为""
        userid = choice(userid, session)         # 从日志里选择用户身份,userid < 0 则取session
        authorid    = getAuthorid(url)                     # 从URL里提取书籍ID

        compute(domain, "wap", authorid, userid, WAP_AUTHORS)
    }

        # other code ...
}

看起来还不错,但是函数的参数真心的多,一般的编码规范说多于5个和5个以上函数就不容易被使用了(这么说起来win32 api其实也蛮逆天的...)但是这里似乎还好吧,忍了吧,错!这里除了参数多,还有一个问题,就是一旦提取域名失败或者域名不是我们这次要处理的域名,则userid,bid等数据不需要提取,严重的浪费了CPU时间(要知道这些动作得多执行一亿多次)仔细想想,这个函数其实完成了2个事情:检查域名是否有效,累加pv,分成2个函数是不是更好呢?


#检查URL中的域名是否是指定版本的域名
function checkVer(domain, ver, __ARGVEND__)
{
        if(domain == "" || DOMAIN_LIST[domain] != ver)
        {
                next
        }
}

#对访问bid,authorid的作者排重,并累加pv
function compute(statid, userid, array, __ARGVEND__)
{
        if(statid == 0)
        {
                next
        }

        array[statid " " userid]++
        next
}


{# 记录处理器

    url     = $6
    userid  = $4
    session = $9

        # URL里包含该标志则该URL记录的是用户对wap版书籍的访问记录
        if(match(url,/ct=bk&ac=cver&total=wap_book/) > 1)
        {
                checkVer(getMatchDomin(url, DOMAIN_LIST), "wap") # 检查域名

                userid = choice(userid, session)
                bid    = getBid(url)
                compute(bid, userid, WAP_BOOKS)
        }

        # URL里包含该标志则该URL记录的是用户对wap版作者的访问记录
        if(match(url,/ct=bk&ac=zz&total=wap_author/) > 1)
        {
                checkVer(getMatchDomin(url, DOMAIN_LIST), "wap")

                userid   = choice(userid, session)
                authorid = getAuthorid(url)
                compute(authorid, userid, WAP_AUTHORS)
        }
}

试验了一下,不仅函数参数个数减少了,而且逻辑更通顺,性能也更好,代价就是函数个数增加了,不过看起来这个代价仍然是合算的


运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其承担任何法律责任,如涉及侵犯版权等问题,请您及时通知我们,我们将立即处理,联系人Email:kefu@iyunv.com,QQ:1061981298 本贴地址:https://www.yunweiku.com/thread-11008-1-1.html 上篇帖子: Python数据结构-字典 下篇帖子: python列表去重

尚未签到

发表于 2013-12-14 22:02:31 | 显示全部楼层
我们曾相爱、想到就心酸

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-12-21 21:08:33 | 显示全部楼层
我不想理的人,便不理,我想理的人,却不理我。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

尚未签到

发表于 2013-12-21 21:08:21 | 显示全部楼层
经历了爱情的伤痛,我们才能真正成长为坚强的人

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

发表于 2013-12-28 10:38:00 | 显示全部楼层
◆◇ヽ只想保留我們開始的瞬間、丟掉我們最後的結菓。

运维网声明 1、欢迎大家加入本站运维交流群:群②:261659950 群⑤:202807635 群⑦870801961 群⑧679858003
2、本站所有主题由该帖子作者发表,该帖子作者与运维网享有帖子相关版权
3、所有作品的著作权均归原作者享有,请您和我们一样尊重他人的著作权等合法权益。如果您对作品感到满意,请购买正版
4、禁止制作、复制、发布和传播具有反动、淫秽、色情、暴力、凶杀等内容的信息,一经发现立即删除。若您因此触犯法律,一切后果自负,我们对此不承担任何责任
5、所有资源均系网友上传或者通过网络收集,我们仅提供一个展示、介绍、观摩学习的平台,我们不对其内容的准确性、可靠性、正当性、安全性、合法性等负责,亦不承担任何法律责任
6、所有作品仅供您个人学习、研究或欣赏,不得用于商业或者其他用途,否则,一切后果均由您自己承担,我们对此不承担任何法律责任
7、如涉及侵犯版权等问题,请您及时通知我们,我们将立即采取措施予以解决
8、联系人Email:admin@iyunv.com 网址:www.yunweiku.com

您需要登录后才可以回帖 登录 | 立即注册

本版积分规则

扫码加入运维网微信交流群X

扫码加入运维网微信交流群

扫描二维码加入运维网微信交流群,最新一手资源尽在官方微信交流群!快快加入我们吧...

扫描微信二维码查看详情

客服E-mail:kefu@iyunv.com 客服QQ:1061981298


QQ群⑦:运维网交流群⑦ QQ群⑧:运维网交流群⑧ k8s群:运维网kubernetes交流群


提醒:禁止发布任何违反国家法律、法规的言论与图片等内容;本站内容均来自个人观点与网络等信息,非本站认同之观点.


本站大部分资源是网友从网上搜集分享而来,其版权均归原作者及其网站所有,我们尊重他人的合法权益,如有内容侵犯您的合法权益,请及时与我们联系进行核实删除!



合作伙伴: 青云cloud

快速回复 返回顶部 返回列表