跟我们一起
玩转路由器

数据科学通识第四讲聚焦数据采集,介绍爬虫、接口等常见方法,强调合法合规,帮你入门数据获取关键步。

数据采集,也被称为数据收集,指的是根据系统和用户的需求来获取相关数据的过程。

数据采集的历史可以追溯到远古时代,当时人们通过在绳子上打结来记录数字。到了19世纪,1887年,美国统计学家霍尔曼·霍尔瑞斯发明了一台能够读取卡片上孔洞的电动机器,利用这台设备,美国仅用一年时间便完成了原本需要八年的全国人口普查工作。

进入20世纪,数据采集的重要性更加凸显。例如,1934年至1937年间,美国总统罗斯福启动了一项数据收集计划,整理了2600万员工和300万雇主的记录,这些数据为社会保障法的实施提供了基础。

到了21世纪,数据采集进一步发展。2009年,印度政府成立了唯一身份识别管理部门,对12亿印度人的指纹、照片和虹膜等个人特征进行了采集,并为每个人分配了12位数字的ID号码,这些数据汇集成当时世界上最大的生物识别数据库。

数据采集的意义在于它是大数据分析的首要环节,后续的数据存储、清洗、分析和应用都依赖于数据采集。

数据采集在各个领域都有广泛应用。例如,旅游行业通过收集相关信息来优化出行策略;电子商务领域通过对商品信息进行采集和分析,构建比价系统;银行通过收集用户的交易数据来评估征信和贷款。此外,金融、招聘和舆情分析领域也高度依赖数据采集。

行业 信息源 应用 旅游 各类信息 优化出行策略 电商 商品信息 比价系统 游戏 游戏论坛 调整游戏运营 银行 个人交易信息 征信系统/贷款评级 金融 金融新闻/数据 制定投资策略,量化交易 招聘 职位信息 岗位信息 舆情 各大论坛 社会群体感知

数据采集的方法包括人工采集、传感器采集、系统日志采集和网络爬虫采集。

1.人工采集是最传统的数据采集方法,其中普查是最古老的形式。早在2200多年前的西汉时期,中国就进行了第一次人口普查,这是早期人工数据采集的典范。

1895年,学术界提出了抽样调查方法,并在随后的30多年内不断完善,使其成为一种更及时、经济的数据采集方法,广泛应用于经济、社会和科学研究领域,至今仍非常有效。

2.传感器采集在日常生活中广泛应用,例如手机中的各种传感器,如重力感应传感器用于屏幕旋转,加速度传感器用于微信的摇一摇功能,光线传感器用于自动调整屏幕亮度,三轴陀螺仪用于第一人称射击和赛车游戏,GPS和电子罗盘用于电子地图和导航。

常见的传感器还包括光敏传感器、声敏传感器、气敏传感器、压敏传感器、温敏传感器和流体传感器,这些传感器能够感知并转换相应的信号为电信号。

在气象领域,气象站设备YT-QX08通过各种传感器感知温度、湿度、风向、风速、雨量、光照强度、总辐射和气压等信息,并将这些信息转换为电信号,方便处理和传输。

移动传感器作为移动大数据的信息采集端,呈现小型化和可穿戴的特点,如陀螺仪、加速度计和磁力计等,为数据库提供必要的信息。

3.系统日志采集记录系统中的硬件、软件和系统问题信息,同时监视系统事件,用户通过分析系统日志可以检查错误原因或追踪攻击痕迹。许多互联网公司每天产生大量的日志,这些通常是流式数据,如搜索引擎的页面浏览量和查询量。

美团日志的聚合页面展示了日志的类型、时间、URL地址和请求头等信息。

下图展示的是Windows操作系统的系统日志,记录了Windows的事件日志、服务器的IS日志、FTP日志和数据库日志等,这些日志在处理应急事件和提供溯源信息时扮演重要角色。

Windows系统的事件日志以特定数据结构存储,包括系统安全应用程序的记录,每个记录包含日志、时间、事件类型、用户、计算机信息、事件ID、事件来源、类别、描述和相关数据等元素。

许多企业的应用系统每天产生大量日志,通过分析这些日志,可以帮助企业了解用户情况、设备运行和安全状态,提升服务能力、营销策略和实现智能运维及统一管控。

4.网络爬虫(Web Crawler或Web Spider)是实现互联网数据采集的主要方式,通过自动下载网页并提取所需信息。根据爬取内容的规模,网络爬虫分为小规模、中规模和大规模三类,小规模适用于爬取网页,中规模适合爬取系列网站,大规模适用于全网爬取。

网络爬虫的主要对象包括新闻、社交、购物网站以及API、用户接口和流式数据,如视频弹幕数据。

网站数据仍然是网络爬虫的主要对象。

赞(0)
版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
文章名称:《数据科学通识第四讲聚焦数据采集,介绍爬虫、接口等常见方法,强调合法合规,帮你入门数据获取关键步。》
文章链接:https://www.lu-you.com/wangluo/xt/26112.html
本站资源来源于互联网整理,若有图片影像侵权,联系邮箱429682998@qq.com删除,谢谢。

评论 抢沙发

登录

找回密码

注册