1 如何通过阿里云日志服务搭建一套通过Python上传日志的监控服务-德赢Vwin官网 网
0
  • 聊天消息
  • 系统消息
  • 评论与回复
登录后你可以
  • 下载海量资料
  • 学习在线课程
  • 观看技术视频
  • 写文章/发帖/加入社区
会员中心
创作中心

完善资料让更多小伙伴认识你,还能领取20积分哦,立即完善>

3天内不再提示

如何通过阿里云日志服务搭建一套通过Python上传日志的监控服务

科技绿洲 来源:Python实用宝典 作者:Python实用宝典 2023-10-21 14:43 次阅读

在我们的日常生活工作中,经常会遇到需要上传日志的场景,比如多台机器运行同一个程序,并且需要记录每台机器程序产生的日志,根据相关关键词告警,或者进行无数据告警,如果自己搭建这套系统需要耗费不少时间,因此如果能使用市面上现成的系统会很方便。

本文将教你如何通过阿里云日志服务搭建一套通过Python上传日志、配置日志告警的监控服务。

1.准备

开始之前,你要确保Python和pip已经成功安装在电脑上,如果没有,可以访问这篇文章:超详细Python安装指南 进行安装。

**(可选1) **如果你用Python的目的是数据分析,可以直接安装Anaconda:Python数据分析与挖掘好帮手—Anaconda,它内置了Python和pip.

**(可选2) **此外,推荐大家用VSCode编辑器,它有许多的优点:Python 编程的最好搭档—VSCode 详细指南

请选择以下任一种方式输入命令安装依赖

  1. Windows 环境 打开 Cmd (开始-运行-CMD)。
  2. MacOS 环境 打开 Terminal (command+空格输入Terminal)。
  3. 如果你用的是 VSCode编辑器 或 Pycharm,可以直接使用界面下方的Terminal.
pip install aliyun-log-python-sdk

接下来,登陆阿里云控制台,进入日志应用,通过下面的步骤创建日志Project和Logstore:

图片

点击Python - SDK 写入,再根据你的需要创建Project和Logstore:

图片

图片

随后会进入这个页面,直接点击确定即可:

图片

2.使用阿里云SDK上传Python日志

为了使用阿里云SDK上传日志,我们需要先获取Access Token, 将鼠标移动到右上角头像上点击AccessKey管理:

图片

然后点击创建AccessKey,输入相关验证信息就能获取 accessKeyId 和 accessKey:

图片

编写Python代码,配置AccessKey和你在第一步骤创建的Project及logstore名称:

from aliyun.log import LogClient, PutLogsRequest, LogItem, GetLogsRequest, IndexConfig
import time

# 配置AccessKey、服务入口、Project名称、Logstore名称等相关信息。
# 阿里云访问密钥AccessKey。更多信息,请参见访问密钥。
# 阿里云账号AccessKey拥有所有API的访问权限,风险很高。强烈建议您创建并使用RAM用户进行API访问或日常运维。
accessKeyId = "你的AccessKey ID"
accessKey = "你的AccessKey"
# 日志服务的域名。更多信息,请参见服务入口。此处以广州为例,其它地域请根据实际情况填写。
endpoint = "cn-guangzhou.log.aliyuncs.com"

# 创建日志服务Client。
client = LogClient(endpoint, accessKeyId, accessKey)

# Project名称。
project_name = "aliyun-test-project"
#Logstore名称
logstore_name = "aliyun-test-logstore"
# 查询语句。
query = "*| select dev,id from " + logstore_name
# from_time和to_time表示查询日志的时间范围,Unix时间戳格式。
from_time = int(time.time()) - 3600
to_time = time.time() + 3600

然后我们就可以编写Python代码创建索引(日志的索引可以理解为MySQL中的数据库)和插入日志了:

# 向Logstore写入数据。
def put_logs():
    print("ready to put logs for %s" % logstore_name)
    log_group = []
    for i in range(0, 100):
        log_item = LogItem()
        contents = [
            ('dev', 'test_put'),
            ('id', str(i))
        ]
        log_item.set_contents(contents)
        log_group.append(log_item)
    request = PutLogsRequest(project_name, logstore_name, "", "", log_group, compress=False)
    client.put_logs(request)
    print("put logs for %s success " % logstore_name)
    time.sleep(5)

if __name__ == '__main__':
    # 向Logstore写入数据。
    put_logs()

运行程序后出现对应的提示,说明日志上传成功:

python test.py
# ready to put logs for tradingview
# put logs for tradingview success

进入控制台对应的Project,你会看到刚刚上传的日志已经显示在上面:

图片

3.配置日志告警

日志告警的配置也非常简单,输入你的查询条件,获得输出后点击上方另存为告警:

图片

在查询统计中添加你需要监控并触发告警的条件,比如我设置出现一次该日志的时候触发告警:

图片

效果如下,我这里文本配置得太简单了,你也可以在标注中配置复杂一点的文本:

图片

用起来挺方便的,如果你有类似的多机器日志监控服务,比如分布式模型训练监控、交易服务监控等等,可以考虑使用这个日志服务。

声明:本文内容及配图由入驻作者撰写或者入驻合作网站授权转载。文章观点仅代表作者本人,不代表德赢Vwin官网 网立场。文章及其配图仅供工程师学习之用,如有内容侵权或者其他违规问题,请联系本站处理。 举报投诉
  • 监控
    +关注

    关注

    6

    文章

    2204

    浏览量

    55166
  • 编辑器
    +关注

    关注

    1

    文章

    805

    浏览量

    31162
  • 日志
    +关注

    关注

    0

    文章

    138

    浏览量

    10639
  • python
    +关注

    关注

    56

    文章

    4792

    浏览量

    84624
收藏 人收藏

    评论

    相关推荐

    IoT日志利器:嵌入式日志客户端(C Producer)发布

    摘要: 2017年12月19日至20日,2017云栖大会·北京峰会在国家会议中心召开,飞天智能是贯穿云栖大会不变的主题,计算、大数据、人工智能、物联网等热门话题备受各方关注。其中阿里日志
    发表于 12-26 12:15

    API信息全掌控,方便你的日志管理——阿里推出API网关打通日志服务

    用户来说,完全是黑盒,且信息不对称。而现在阿里API网关把日志输出到日志服务,让信息做到几乎透明,用户对自己API的情况完全掌控,这满足了
    发表于 02-06 15:24

    全面提升,阿里Docker/Kubernetes(K8S) 日志解决方案与选型对比

    性能以及资源消耗十分堪忧。基于阿里巴巴多年来容器服务日志采集的经验积累,并结合阿里Kubernetes内测以来广大用户的反馈与诉求,今天,
    发表于 02-28 12:49

    全面提升,阿里Docker/Kubernetes(K8S) 日志解决方案与选型对比

    性能以及资源消耗十分堪忧。基于阿里巴巴多年来容器服务日志采集的经验积累,并结合阿里Kubernetes内测以来广大用户的反馈与诉求,今天,
    发表于 02-28 12:50

    使用效在阿里上进行站式开发运维

    应用为核心的站式研发体验。先上张大图:为什么需要效来集成各个产品?重复的概念目前阿里
    发表于 04-12 13:51

    通过页面埋点做监控却不影响性能?解密ARMS前端监控数据上报技术内幕

    ?会不会影响业务性能?这就涉及到前端监控监控指标和日志上报。带着这两个问题,本文就为您介绍下,在采集多类日志数据的情况下,
    发表于 05-16 22:17

    再次升级!阿里Kubernetes日志解决方案

    月份日志服务和容器服务团队起发布了阿里Kubernetes
    发表于 05-28 19:08

    日志服务支持Shard自动分裂

    摘要: 日志服务提供Shard自动分裂功能,实时监控Shard流量,自动进行shard分裂以应对流量上涨,解决流量估算不准、随时可能上涨又难以及时处理的问题,保障数据完整。日志
    发表于 06-25 14:44

    阿里 APM 解决方案地图

    的用户场景包括航旅,电商,车联网的各类业务。监控日志监控功能可通过对用户的日志
    发表于 07-05 16:54

    阿里DDoS高防 - 访问与攻击日志实时分析(四)

    (超过3天的日志会自动被删除)。专属的日志库名字是ddos-pro-logstore,存放于日志服务的项目ddos-pro-project-阿里
    发表于 07-11 15:30

    如何通过互联网将TCP报文传输到阿里服务器?

    情况说明: 现场有几台嵌入式设备,每台设备上有块EC20模块做为TCP客户端,希望将现场采集的传感器数据通过互联网传输到阿里服务器,
    发表于 12-17 08:21

    如何在Core-1126-JD4上搭建一套类似的服务完成人脸识别呢

    如何在Core-1126-JD4上搭建一套类似的服务完成人脸识别呢?
    发表于 02-21 07:19

    基于OpenHarmony的阿里IoT服务实现

    实现基于OpenHarmony的阿里IoT服务。小凌派RK2206开发板采用瑞芯微高性能、高性价比的RK2206芯片。RK2206芯片是款低功耗、高集成的MCU无线局域网处理器,它
    发表于 06-17 09:36

    对于大规模系统日志日志模式提炼算法的优化

    LARGE框架是部署在中国科学院超级计算环境中的日志分析系统,通过日志收集、集中分析、结果反馈等步骤对环境中的各种日志文件进行监控和分析。在
    发表于 11-21 14:54 7次下载
    对于大规模系统<b class='flag-5'>日志</b>的<b class='flag-5'>日志</b>模式提炼算法的优化

    一套异步、分布、并行处理的日志记录系统

    日志系统是个完整信息系统的重要组成部分,海量的日志信息方面可以挖掘出用户的通用行为模式,提高系统的服务质量,另
    发表于 12-12 17:27 0次下载
    <b class='flag-5'>一套</b>异步、分布、并行处理的<b class='flag-5'>日志</b>记录系统