CMDB3 完善采集端代码(ssh方案的多线程采集), 异常处理, 服务端目录结构的设计(django的app), API数据分析比对入库

完善一下采集端代码

ssh方案的多线程采集

• 线程和进程，协程的区别 （90% 问到）
• 提高并发的话，使用多线程
• python2 多进程有 多线程没有
• python3 多进程有 多线程有

from concurrent.futures import ThreadPoolExecutor,ProcessPoolExecutor

p = ThreadPoolExecutor(10)

def test(i):
    time.sleep(1)
    print(i)

for i in range(100):
    p.submit(test, i)

- 异常处理
> 增加代码的健壮性，增强代码的容错能力

import traceback

def test():
    try:
        int(‘dsadsa‘)
    except Exception as e:
        print(traceback.format_exc())   # 打印系统报错原文

    print(‘hello‘)

test()

服务端目录结构的设计 django的app

• api ： 负责接收数据， 并且对比入库的
• backend: 前端数据的展示
• repository: 负责数据表的设计

设计服务器数据表 (表和表之间关系)

设计表的大原则，建立模型类的根据是：根据客户端传过来的数据类型来去建立对应的表模型类，包括这些模型类中的字段，一定是根据客户端传过来的字段来去定

业务线或者产品线的概念？

腾讯公司有三条业务线或产品线：微信，QQ， 王者荣耀

如果认为是一对多的话，微信产品线可以跑在100台服务器上， 而每一台服务器上只能跑微信这个业务， 属于土豪公司

但是小公司的话，因为没钱，服务少，一条业务线跑在多台服务器上，一台服务器上也可以跑多个业务。此时关系就是多对多关系

API数据分析比对入库

Api/views.py

import json

from django.shortcuts import render,HttpResponse

# Create your views here.
from repository import models
def asset(request):
    if request.method == ‘POST‘:
        info = json.loads(request.body)
        # print(info)
        ### 判断此台服务器是否已经录入到数据库中了
        hostname = info[‘basic‘][‘data‘][‘hostname‘]  ### c1.com
        server_obj = models.Server.objects.filter(hostname=hostname).first()  ###obj
        if not server_obj:
            return HttpResponse(‘资产未录入！‘)

        #### 分析磁盘数据为例
        status = info[‘disk‘][‘status‘]

        if status != 10000:
            models.ErrorLog.objects.create(title=‘错误信息‘, content=info[‘disk‘][‘data‘], server_obj=server_obj)
            return HttpResponse(‘采集出错！‘)

        new_disk_info = info[‘disk‘][‘data‘]

        old_disk_info = models.Disk.objects.filter(server_obj=server_obj).all()

        # [
        #     (slot=0, pd_type=‘sas‘, capacity=256G, ...),
        #     (slot=1, pd_type=‘sat‘, capacity=278G, ...)
        #         .....
        # ]

        new_slot = set(new_disk_info.keys())
        old_slot = []

        for obj in old_disk_info:
            old_slot.append(obj.slot)

        old_slot = set(old_slot)
        print(new_slot)
        print(old_slot)

        ## 增加的是哪一些槽位的值：
        add_slot = new_slot.difference(old_slot)　　# 取差集
        if add_slot:
            for slot in add_slot:
                ### {‘slot‘: ‘3‘, ‘pd_type‘: ‘SATA‘, ‘capacity‘: ‘476.939‘, ‘model‘: ‘S1AXNSAF912433K     Samsung SSD 840 PRO Series              DXM06B0Q‘},
                add_disk_info = new_disk_info[slot]
                add_disk_info[‘server_obj‘] = server_obj
                ## 可以增加的变更 {2,3,4,5} 数据记录到变更日志表中
                models.Disk.objects.create(**add_disk_info)

        ## 删除槽位数据
        del_slot = old_slot.difference(new_slot)

        if del_slot:
            models.Disk.objects.filter(server_obj=server_obj,slot__in=del_slot).delete()
            ## 将删除的槽位数据记录到变更日志表中

        # 比较数据是否变动
        up_slot = new_slot.intersection(old_slot)　　# 取交集
        if up_slot:
            for slot in up_slot:
                ## {‘slot‘: ‘0‘, ‘pd_type‘: ‘SATA‘, ‘capacity‘: ‘279.396‘, ‘model‘: ‘SEAGATE ST300MM0006     LS08S0K2B5NV‘}
                new_disk_row = new_disk_info[slot]
                ## obj(slot:0, pd_type:sas, capacity:234,...)
                old_slot_row = models.Disk.objects.filter(slot=slot,server_obj=server_obj).first()

                for k,new_v in new_disk_row.items():
                    ‘‘‘
                    k: slot, pd_type, capacity, model...
                    new_v:  0, SATA,  279 , ...
                    ‘‘‘
                    old_v = getattr(old_slot_row,k)

                    if new_v != old_v:
                        ## 记录变更日志
                        setattr(old_slot_row,k,new_v)
                old_slot_row.save()

        return HttpResponse(‘ok‘)
    else:
        ### 主机名提前录入到数据库中
        ### 连接数据库，从数据库中获取主机名
        return [‘c1.com‘,‘c2.com‘,‘c3.com‘]

原文地址：https://www.cnblogs.com/ludingchao/p/12592059.html