云服务器内容精选

  • 应用场景3:运营分析 企业在日常经营中,可以上报各种业务日志(例如移动端日志、服务端日志),经过规整、过滤、脱敏、富化等加工处理后,可以融合大数据平台、BI工具进行业务分析,例如获取页面的PV、UV、用户停留时间、交易金额等,用于了解业务运营状况、分析用户行为特征,基于实时的数据分析反馈调整业务决策,提升用户体验,提升经营效率,实现企业的数字化转型。 在业务分析过程中经常遇到如下痛点: 移动端数据难采集:难以快速采集多种移动端设备,例如Web浏览器、IOS、安卓、百度小程序、微信小程序、钉钉小程序、快应用等多类端侧日志无法快速采集。 数据传输不可靠:移动端日志数据量多且频繁,传输速度慢,也极易出现丢失,对业务分析造成一定影响。 数据处理不方便:原始数据不方便处理,不方便快速与大数据平台实现对接。 云日志服务LTS支持采集多种移动端日志,融合大数据完成业务运营分析,基于LTS可以实现: 端侧日志全面采集接入:集成LTS提供的多种移动端SDK,实现了缓存发送、异常重试、批量发送等稳定功能,用户快速集成即可全面采集移动端日志到LTS。 秒级上报,高可靠:端侧采集日志后,经传输链路秒级完成上报,数据无丢失,支撑业务做完整性分析。 DLI和DWS快速对接LTS:DLI-Flink简易集成Connector,定点从LTS实时消费日志;LTS日志可快速配置转储到OBS,供DLI快速从OBS读取日志;LTS支持直接将结构化日志转储到DWS。 LTS提供如下图3,可以对日志结构化解析,基于SQL语法分析日志,生成可视化图表,并结合大数据平台帮助企业进一步挖掘数据价值,助力企业数字化转型。 图3 运营分析解决方案
  • 应用场景1:应用运维 企业在日常业务运维、审计或等保时,需要收集各种类型的日志,常遇到如下痛点: 由于企业部门多日志繁杂,日志量大。 云服务资源种类数量多,不熟悉监控指标和运维日志,运维难度大。 安全合规要求高,等保合规要求日志长期存储,人力不足,维护成本高。 基于云日志服务LTS可以实现: 提供全场景日志接入,全面覆盖业务、应用、中间件和基础设施,实现快速收集日志。 支持秒级日志查询和分钟级日志监控,通过配置告警规则和告警通知,实现分钟级问题定位和分析。 支持将日志转储至OBS实现长期保存,满足网络安全要求。 LTS提供如下图1,可以实现统一收集生产环境应用日志,开发人员检索分析日志,运维人员基于日志配置告警,实时感知现网业务,及时发现并解决故障问题。 图1 应用运维解决方案
  • 应用场景2:安全合规 大型企业的每个业务部门都有独立的云账户实现资源隔离,每个业务部门的运维人员需要依赖日志监控告警实现故障定位分析,同时集团安全部门需要统一监控日志,因此多账号的统一日志管理成为企业痛点: 分业务独立运维:客户每个业务模块都有一个独立的账号做资源隔离,依赖日志服务配置监控告警,快速分析发现故障并定位根因。 安全部门统一监控日志:客户使用多账号管理体系,每个业务部门有一个独立的账号,安全部门需要汇聚所有日志到一个账号,并存储180天以上来满足法规要求。 基于云日志服务LTS可以实现: 多账号独立管理:每个账号独立采集各自业务的应用日志、云服务日志,资源互相隔离、权限划分清晰;借助日志告警配置,90%问题定位控制在10分钟。 日志数据跨账号集中汇聚:使用LTS的多账号日志汇聚功能,将各个子账号的日志复制一份到统一监控账号,长期存储180天,便于安全部门集中审计,满足网络安全法规要求。 LTS提供如下图2,可以实现统一收集云服务、应用程序日志,支持保存180天以上,满足《网络安全法》、《GDPR》等法律法规要求。 图2 安全合规解决方案
  • 产品功能 在使用云日志服务LTS之前,建议您先通过表1了解LTS提供的主要功能。 表1 产品功能 功能 说明 端云全场景日志接入 支持40+云服务、主机/容器、移动端、跨云、多语言SDK、多账号汇聚,满足全场景客户丰富的日志接入需求。 海量日志存储搜索 对采集的日志数据,可以通过关键字查询、模糊查询等方式简单快速地进行查询,支持百亿日志秒级搜索,千亿日志迭代搜索,PB级智能冷存储。 SQL统计和可视化图表 LTS提供多种开箱即用的日志仪表盘模板,用户接入日志后即可快速分析。 将日志分析的结果使用可视化图表呈现出来,支持表格、折线图、饼图、柱状图、地图等统计图表,或将统计图表汇聚在仪表盘上统一呈现,方便运营分析。 日志监控与日志告警 支持对存储在云日志服务中的日志数据进行关键词统计或SQL统计,通过在一定时间段内日志中关键字出现次数,实时监控服务运行状态;支持自定义告警内容,支持短信/邮件/微信/钉钉/HTTP多渠道通知。 日志转储 主机和云服务的日志数据上报至云日志服务后,支持自定义存储时间。超出存储时间的日志数据将会被自动删除,对于需要长期存储的日志数据(日志持久化),云日志服务提供转储功能,可以将日志转储至对象存储服务(OBS)中长期保存。日志转储基于复制的转储机制,在LTS设置的存储时间内转储至OBS的日志,不会在LTS被删除。 同时LTS还支持转储DWS/DIS/DLI/DMS,让用户实现日志数据便捷在云服务间流转,快速构建水平解决方案。 日志消费与加工 LTS提供DSL日志加工的能力,内置200+函数,可以实现一站式日志规整、富化、脱敏、过滤、分裂等功能;另外结合定时SQL统计,可以对数据实现聚合统计。 支持用户使用SDK消费LTS日志,可以获取全量日志数据,可以作为流计算的数据源(SDK消费功能邀测中,暂未开放)。
  • 操作步骤 云日志服务接入方式为API网关 APIG时,按照如下操作完成接入配置。 登录云日志服务控制台。 在左侧导航栏中,选择“日志接入”,单击“API网关 APIG”进行APIG接入配置。 选择日志流。 单击“所属日志组”后的目标框,在下拉列表中选择具体的日志组,若没有所需的日志组,单击“所属日志组”目标框后的“新建”,在弹出的创建日志组页面创建新的日志组。 单击“所属日志流”后的目标框,在下拉列表中选择具体的日志流,若没有所需的日志流,单击“所属日志流”目标框后的“新建”,在弹出的创建日志流页面创建新的日志流。 单击“下一步”:APIG配置。 APIG配置。 单击“前往APIG配置”。 在APIG控制台,选择API监控分析下的“日志分析”。 单击“配置访问日志”链接。 在弹出的配置访问日志页面中,选择对应的日志组和日志流。 APIG里具体的操作请参见日志分析。 单击下一步:日志流配置。 表1 日志流配置参数表 参数 说明 自动对日志流进行结构化配置和索引配置 开启该按钮,自动对日志流进行结构化配置和索引配置。日志流结构化配置为APIG系统模板;索引配置为所有APIG解析出来的字段打开快速分析按钮。配置结构化和索引后,才能对APIG日志进行SQL分析,并提供可视化图表。 自动为日志流添加标签:log_type=apig_layer_access 开启该按钮,自动为日志流添加标签(log_type=apig_access)后,APIG仪表盘模板才能匹配该日志流。 自动为日志流创建仪表盘 开启该按钮,自动为日志流创建APIG仪表盘。 完成。
  • 结构化模板日志详情 结构化模板示例 表2 结构化模板示例 模板名称 示例日志 APIG 100.125.7.59 f57f6523b675504a23887d0f5c1c8ef3 f5ea2360a2fa443cac236b76f4052ad6 - - [27/Jan/2022:15:56:44 +0800] 0.113 GET http://c965898968af48248ec7fac4ec0666f4.apic.cn-north-4.huaweicloudapis.com /api/echo HTTP/1.1 200 1443 408 "APIGatewayDebugClient/1.0" "-" "100.125.2.39:443" /v2/x/fgs/functions/urn:fss:cn-north-4:106506b9a92342df9a5025fc12351cfc:function:default:apigDemo_1640743997661:latest/invocations "200" "0.010" "0.083" "0.083" cn-north-4 0.083 0 - - - 0.03000020980835 - - "-" 486 HttpEchoDemo - - - "-" "-" "-" "-" "-" "-" "-" "-" "-" "-" "remote" "0.52" "http" "id" "-" "urn:fss:cn-north-7:6650ff66e4524699bea4c96ff2f268fe:function:default:test123hxy" 结构化字段详情 表3 结构化字段 字段 示例 描述 类型 my_remote_addr 100.125.7.59 用户的客户端IP地址 string request_id f57f6523b675504a23887d0f5c1c8ef3 请求ID string api_id f5ea2360a2fa443cac236b76f4052ad6 API ID string user_id - 用户名称 string app_id - 当使用APP认证访问时,请求方提供的APP ID string time_local 27/Jan/2022:15:56:44 请求时间 string request_time 0.113 请求延迟 float request_method GET HTTP请求方法 string scheme http 请求方式 string host c965898968af48248ec7fac4ec0666f4.apic.cn-north-4.huaweicloudapis.com 请求域名 string router_uri /api/echo 请求URI string server_protocol HTTP/1.1 请求协议 string status 200 响应状态码 long bytes_sent 1443 响应大小(单位:字节,包含状态行、响应头、响应体) long request_length 408 请求长度(单位:字节,包含起始行、请求头、请求体) long http_user_agent APIGatewayDebugClient/1.0 用户代理标识 string http_x_forwarded_for - X-Forwarded-For头 string upstream_addr 100.125.2.39:443 请求的后端地址 string upstream_uri /v2/x/fgs/functions/urn:fss:cn-north-4:106506b9a92342df9a5025fc12351cfc:function:default:apigDemo_1640743997661:latest/invocations 请求后端的URI string upstream_status 200 后端响应状态码 long upstream_connect_time 0.01 与后端建立连接所用时间 float upstream_header_time 0.083 从开始与后端建立连接到从后端获取到首字节所用时间 float upstream_response_time 0.083 从开始与后端建立连接到从后端获取到最后一个字节所用时间 float region_id cn-north-4 云服务区ID string all_upstream_response_time 0.083 从开始与后端建立连接到从后端获取到最后一个字节所用时间,单位秒。发生重试时,为所用时间总和 float errorType 0 API请求的错误类型 0:非流控错误 1:流控错误 long auth_type - API认证类型 string access_model1 - 认证模式1 string access_model2 - 认证模式2,开启双重认证时,为自定义认证编号 string inner_time 0.03000020980835 apig的内部处理时长,单位秒 float proxy_protocol_vni - VPC终端节点的虚拟网络标识 string proxy_protocol_vpce_id - VPC终端节点的ID string proxy_protocol_addr - 客户端源IP地址 string body_bytes_sent 486 API请求的Body体大小,单位字节 long api_name HttpEchoDemo API名称 string app_name - 当使用APP认证访问时,请求方使用的APP名称 string provider_app_id - API所属的APP ID string provider_app_name - API所属的APP名称 string custom_data_log1 - 用户自定义日志字段值1 string custom_data_log2 - 用户自定义日志字段值2 string custom_data_log3 - 用户自定义日志字段值3 string custom_data_log4 - 用户自定义日志字段值4 string custom_data_log5 - 用户自定义日志字段值5 string custom_data_log6 - 用户自定义日志字段值6 string custom_data_log7 - 用户自定义日志字段值7 string custom_data_log8 - 用户自定义日志字段值8 string custom_data_log9 - 用户自定义日志字段值9 string custom_data_log10 - 用户自定义日志字段值10 string response_source remote 请求响应来源 local:APIG remote:后端服务 string gzip_ratio 0.52 原始响应body体大小与压缩后大小的比率。 float upstream_scheme http 后端协议类型。 string group_id id 分组ID。 string apig_err_code - 网关错误码。 string function_urn urn:fss:cn-north-7:6650ff66e4524699bea4c96ff2f268fe:function:default:test123hxy 函数的URN。 string
  • 继承批量安装(Linux环境) 您有多个服务器需要安装ICAgent,其中一个服务器已经通过首次安装方式装好了ICAgent,且该服务器“/opt/ICAgent/”路径下存在ICAgent的安装包ICProbeAgent.tar.gz,对于没有安装ICAgent的服务器,可以通过该方式对服务器进行一键式继承批量安装。 批量安装的服务器需同属一个VPC下,并在同一个网段中。 批量安装功能依赖python3.*版本,如果安装时提示找不到python请安装python版本后重试。
  • 使用限制 Linux环境:支持安装ICAgent的Linux操作系统。 Windows环境:仅支持在如下64位系统的Windows环境中安装ICAgent。 Windows Server 2016 R2 Datacenter Windows Server 2016 R2 Standard Windows Server 2016 Datacenter English Windows Server 2016 R2 Standard English Windows Server 2012 R2 Datacenter Windows Server 2012 R2 Standard Windows Server 2012 Datacenter English Windows Server 2012 R2 Standard English Windows Server 2008 R2 Enterprise Windows Server 2008 R2 Standard Windows Server 2008 Enterprise English Windows Server 2008 R2 Standard English Windows环境不支持在云日志服务主机管理界面对ICAgent进行升级和卸载操作,只支持日志采集功能。如果需要使用新版本,请先卸载旧版本ICAgent,再安装新版本ICAgent即可。
  • 首次安装(Windows环境) 在主机管理页面,单击右上角“安装ICAgent”。 主机类型选择“区域内主机”。 “安装系统”选择“Windows”。 下载ICAgent安装包到Windows服务器。 您可以通过单击界面提供的ICAgent压缩包或者下载地址,下载ICAgent安装包。 将ICAgent安装包存放到目录(如:C:\ICAgent)并解压。 在文本框中输入AK/SK,生成ICAgent安装命令,获取AK/SK方法请参考:如何获取访问密钥(AK/SK)。 如果AK/SK过期或者被删除,可能导致ICAgent状态显示异常。请创建新的AK/SK并生成的新的安装命令,登录到节点重新安装即可。 单击“复制命令”,复制ICAgent安装命令。 打开cmd窗口并进入ICAgent安装包的解压目录,执行ICAgent安装命令进行安装。 当显示“Service icagent installed successfully”时,表示安装成功。 如果安装了第三方杀毒软件,需要添加ICAgent为信任程序,否则可能导致ICAgent安装失败。 如果需要卸载ICAgent,请在ICAgent安装包解压目录下,双击执行“ICAgent安装包解压目录\ICProbeAgent\bin\manual\win\uninstall.bat”脚本,当显示“icagent removed successfully”时,表示卸载成功。 卸载ICAgent不会删除对应目录的文件,请您根据实际情况自行删除。 查询ICAgent的状态,请在ICAgent安装包解压目录下,打开cmd窗口,执行命令“sc query icagent”,状态为RUNNING,表示ICAgent正在运行中;提示“The specified service does not exist as an installed service”或者“指定的服务未安装”,表示ICAgent已卸载。 卸载后重新安装ICAgent,如果一直处于“pending”状态,可以在任务管理器中结束ICAgent相关进程,然后再次重新安装ICAgent。
  • 操作步骤 登录云日志服务控制台。 在左侧导航栏中,选择“日志管理”,进入日志管理页面。 在日志管理页面中,选择目标日志组和日志流,进入日志流详情页面。 在日志流详情页面中,输入查询和分析语句,然后单击15分钟(相对),设置查询和分析的时间范围。 选择“可视化”,单击图标。 在通用配置页签中,配置柱状图参数,查看柱状图。 表1 柱状图参数说明表 类别 参数 说明 标准配置 格式化 将Y轴按照指定格式进行显示。 单位 自定义配置Y轴的单位。 小数点位数 设置显示数值小数点位数。 图表名称字号 设置图表名称的字号大小。 柱配置 方向 选择基础柱状图或横向柱状图。 柱宽度 设置柱宽度。 是否显示值 开启后,显示各个条形体对应的数值。 值字体大小 设置各个条形体对应的数值字体大小 是否堆叠 开启后,将堆叠显示Y轴数据。 查询分析设置 X轴数据 支持数字或字符串数据。 Y轴数据 支持数字或字符串数据,可以选择多个数据。 图例配置 隐藏图例 开启后,可以隐藏图例和对比值的显示。 图例位置 图例在图表中的位置,选择图表顶部或图表右边。 对比数值 选择显示最大值、最小值、平均值、求和值等,可勾选多个。 图形配置 上边距 坐标轴距离图表上边界距离。 下边距 坐标轴距离图表下边界距离。 左边距 坐标轴距离图表左边界距离。 右边距 坐标轴距离图表右边界距离。 Tooltip配置 不排序、升序、降序 提示框配置,当Y轴数据选择多个时,可对其进行排序显示。 X轴 显示X轴 开启后,显示X轴数据。 X轴名称 设置X轴名称。 Y轴 显示Y轴 开启后,显示Y轴数据。 Y轴名称 设置Y轴名称。 Y轴位置 设置Y轴位置,左边或者右边。
  • 更多操作 告警行动规则创建完成后,您还可以执行表2中的相关操作。 表2 相关操作 操作 说明 修改告警行动规则 单击“操作”列的“修改”。 导出告警行动规则 选中单个或多个告警行动规则,单击“导出”,若没有选中告警行动规则,则导出全部告警行动规则。 删除告警行动规则 删除单条规则:单击对应规则“操作”列的“删除”,随后在提示页面单击“确定”即可删除。 删除单条或多条规则:勾选对应规则前的复选框,单击“批量删除”,随后在提示页面单击“确定”即可删除。 说明: 删除告警行动规则前需要先删除该行动规则绑定的告警规则。 搜索告警行动规则 在右上角的搜索框中输入规则名称关键字,单击后显示匹配对象。
  • 操作步骤 登录云日志服务控制台。 在左侧导航栏中选择“告警”,单击“告警行动规则”页签。 在告警行动规则页签,单击“创建”。设置行动规则名称、行动规则配置等信息。 图1 创建告警行动规则 表1 告警行动规则参数说明 参数名称 说明 行动规则名称 只能由数字、字母、中文、下划线、中划线组成,且不能以下划线、中划线开头结尾,长度为1到64个字符。 企业项目 选择已创建的企业项目。 如果当前账号未开通企业项目则不显示该参数。 描述 行动规则的描述。 主题 SMN主题,请从下拉列表中选择。 若没有合适的主题,请单击主题选择栏下方“创建主题”,在SMN界面创建。 消息模板 通知消息的模板,请从下拉列表中选择。 若没有合适的消息模板,请单击消息模板选择栏右侧“创建消息模板”,新建消息模板,操作详见创建消息模板。 设置完成后,单击“确定”。
  • 云日志使用流程 云日志服务用于收集来自主机和云服务的日志数据,通过海量日志数据的分析与处理,可以将云服务和应用程序的可用性和性能最大化,为您提供一个实时、高效、安全的日志处理能力。 使用云日志服务的流程如下所示。 创建日志组 在使用云日志服务时,您首先需要创建一个日志组。 创建日志流 日志流是日志读写的基本单位,在日志组中创建日志流,将不同类型的日志分类存储,方便对日志进一步分类管理。 日志接入 需要将主机待采集日志的路径配置到日志流中,以日志流为单位将日志发往云日志服务。 实时查看日志 完成日志采集规则配置后,可以在云日志控制台实时查看上报的日志。
  • 类型 云日志服务(LTS)提供默认饼图、环图及南丁格尔玫瑰图三种类型的饼图。 环图 环图本质上是将饼图中心挖空,相比于饼图来说有如下优点: 在原有构成的基础上增加了总数显示,展示了更多的信息。 两个饼图直接进行比较是非常不直观的,两个环图间可以通过环状条长度进行简单的对比。 南丁格尔玫瑰图 南丁格尔玫瑰图本质上并不是环图,而是在极坐标系下画出来的柱状图,每一个分类数据被圆弧平分,使用圆弧的半径长短表示数据的大小,相比于饼图来说有如下优点: 饼图适用于不超过10条的分类数据,南丁格尔玫瑰图则适用于分类较多的场景(10-30条数据)。 由于半径和面积是成平方的关系,南丁格尔玫瑰图放大了各个分类数据之间值的差异,尤其适合对比大小相近的数值。 由于圆形有周期的特性,南丁格尔玫瑰图也适用于表示一个周期的时间概念,比如星期、月份。
  • 操作步骤 登录云日志服务控制台。 在左侧导航栏中,选择“日志管理”,进入日志管理页面。 在日志管理页面中,选择目标日志组和日志流,进入日志流详情页面。 在日志流详情页面中,输入查询和分析语句,然后单击15分钟(相对),设置查询和分析的时间范围。 选择“可视化”,单击图标。 配置饼图参数,查看饼图。 类别 参数 说明 标准配置 格式化 将Y轴按照指定格式进行显示。 单位 自定义配置Y轴的单位。 小数点位数 设置显示数值小数点位数。 图表名称字号 设置图表名称的字号大小。 饼图配置 饼图类型 包括饼图、环图和南丁格尔玫瑰图。 是否显示刻度 开启后,显示饼图图形上的文本标签,可用于说明图形的一些数据信息,比如值,名称等。 刻度文本格式 可配置为分类、百分比、分类:百分比或分类:数值(百分比)。 标签位置 开启是否显示刻度后,可配置此参数,调整标签在图表中的位置。 查询分析设置 数据 分类数据对应的数值。 第一层数据 类目 分类数据。 展示数量 显示分类数据的个数。 排序方式 升序或降序。 其余归为其他 开启后,除了展示的数据,其余归为其他方式展示。 添加分层 单击添加分层,设置第二层数据,每层数据包括类目、展示数量、排序方式、其余归为其他。 图例配置 隐藏图例 开启后,可以隐藏图例和图例内容的显示。 图例内容 选择显示值和百分比,可勾选多个。 图例位置 图例在图表中的位置,选择图表顶部或图表右边。 图形配置 外半径 指定饼图外半径值。取值范围为40~100 。 内半径 指定饼图内半径值。取值范围为0~100。 上边距 坐标轴距离图表上边界距离。 下边距 坐标轴距离图表下边界距离。 左边距 坐标轴距离图表左边界距离。 右边距 坐标轴距离图表右边界距离。