gitlab-ci配置疑难备忘

82870034

　　最近在自搭的gitlab服务器上加上了ci，大部份操作都比较顺利，但是也碰到一些问题抓狂，记录如下。
　　1、关于一个project配多个runner：在gitlab-ci里是支持的，但是含义确有点反常，
　　我之前认为是每个runner都会独立运行所有job，这样一来可以在不同的os上添加runner，以达到多平台测试的目的。
　　然而gitlab-ci实则对多runner的处理是当成一个资源池，由空闲runner来挑选job，那么build和test两个job可能会在不同的runner上运行，导致依赖错误。
　　如果只是为了多平台测试目的，可以把每个job复制多份，每份给一个不同的tag（os名），然后各os上的runner也有相应的tag，那么在分配时就会各取所需。
　　但是这样仍然有问题：
　　一是复制出来的那么多job已经在那里了，每轮pipeline必须都执行完，但一旦有一个runner不在线（比如说临时挂了或取消了），对应os的job就没人执行，整个pipeline就无法完成。
　　二是没有办法手动挑选部份os测试，可能某次提交只改了linux平台上相关代码，但是也要把所有平台测试runner跑一遍，非常费事，现在在cm msg里可以用[ci skip]来跳过整轮pipeline，但却没有其它指令来选择（或只跳过）部份jobs。
　　这一系列问题在gitlab官网上已经很多人提了issue及相关建议，希望在之后版本能改进吧。
　　https://gitlab.com/gitlab-org/gitlab-ce/issues/18041
　　https://gitlab.com/gitlab-org/gitlab-ce/issues/24610
　　2、如何让runner在本机启动一个长进程（不关闭的），比如说deploy job，就在本机部署运行？
　　问题在于，runner每收到一个job，运行相应的命令，必须要等到该命令完成，以向上汇报运行结果，如果命令里启动了其它进程，也就必须等那些进程结束，一个长运行进程，自然就会卡住整个pipeline了。对于一些常用分离子进程的招数，如前面加nohup，后面加&，都不管用，其原因在于，runner监视自己启动的进程是用进程组的方式，即使脱离父子关系，组仍然存在：

　　图中java进程是在运行的测试程序，它和上面启动它的各级bash的pgid是一样的。(https://gitlab.com/gitlab-org/gitlab-ci-multi-runner/issues/2231)
　　解决这个问题的简单办法，就是让目标进程以service方式启动，这样就彻底脱离了runner的进程组。（当然还有其它方案，最后再说，先把最难的一路回顾完）
　　然而跟着这一思路走下去，继续遇到各种问题：
　　a、首先做一个service用来启动目标进程，这是最基本的一步了。在ubuntu上，把控制脚本放到/etc/init.d里，用update-rc.d来注册服务。
　　b、要启停service，必须有sudo权限，然而runner在后台运行并没有终端用来输密码，怎么办？原来/etc/sudoers里面还可以配置NOPASSWD选项，可以让sudo不输密码，长姿势了。
　　c、用service来运行进程，用户是root，实际上又以-u方式切换成gitlab-runner这个专用账号，然而它是没有桌面的，因为登录桌面用的是自己的开发人员账号，要运行的是一个java awt程序，没有桌面的话会报错运行不起来，怎么办？原来可以通过共享.Xauthority文件的方式，让其它账号连接自己的桌面，具体则是要在运行java awt之前先导出DISPLAY和XAUTHORITY两个环境变量：

　　又长姿势了。
　　--补充：也不用非要链接别人的Xauthority文件，可以让user1用xauth list显示有效的cookie，user2通过xauth add :0 . cookie将之添到自己的Xauthority文件中
　　3、程序运行起来了，但是依赖的一些外部文件（不在git仓库）怎么办？
　　这些外部文件，可能还会变化，不能每次都手动去拷，需要自动同步过来。
　　目前办法是利用坚果云，开发者在自己电脑上，把需要的依赖文件都放在坚果云同步文件夹里，这样每当有更新，就会自动上传到坚果云服务器。
　　在ci机器上装一个坚果云客户端当然是最简单，但是也可以用挂载一个davfs的方式来通过webdav协议从坚果云服务器拉数据，更便于命令行操作。
　　要注意的是有些webdav服务器可能返回头有问题导致davfs挂载失败，这时可在配置文件中加上
　　ignore_dav_header 1
　　解决之。
　　4、程序运行完，留下一堆生成的文件，有些不要清理（留给下一阶段用），有些要清理，如何处理？
　　5、关于gitlab-ci-multi-runer和gitlab-runner的运行用户问题
　　https://stackoverflow.com/questions/37187899/change-gitlab-ci-runner-user