九号公司
助理数据采集工程师(集团职能)
岗位职责
负责互联网、移动应用、开放接口及其他外部数据源的采集方案设计与开发,完成数据抓取、解析、清洗、校验和入库; 使用Python开发和维护采集程序,建设调度、重试、监控、告警、日志及数据回补机制,保障采集任务稳定运行; 在合法合规及获得授权的前提下,开展Web和APP端接口分析、网络请求链路分析、协议还原及签名参数分析; 针对动态渲染、异步接口、会话管理、访问频率限制等场景,设计稳定、可维护的技术解决方案; 建立采集数据治理机制,制定字段标准、去重规则、质量校验规则和异常处理流程,将原始数据治理为高质量、可追溯的数据表; 持续监控数据源变化,及时定位采集失败、字段漂移、数据缺失及质量异常等问题,并推动修复; 与业务、分析和数据开发团队协作,明确采集范围、数据口径、更新频率及质量标准
任职要求
本科及以上学历,计算机科学、软件工程、网络安全、信息工程等相关专业; 熟练掌握Python,具备良好的编程基础,理解面向对象、并发处理、异常处理及工程化开发; 熟悉HTTP/HTTPS、TCP/IP、Cookie、Session、鉴权及常见数据传输格式; 熟悉Requests、HTTPX、Scrapy、Playwright或Selenium等至少一种采集框架或工具; 具备基础的Web或APP逆向分析能力,能够使用浏览器开发者工具、Charles、Fiddler、Wireshark等工具定位请求链路; 熟练使用SQL,能够完成采集数据的清洗、去重、质量检查和结构化入库; 具备良好的合规意识、问题定位能力和持续学习能力。 优先条件: 有爬虫、数据采集平台、协议分析或逆向工程相关实习及项目经验; 熟悉JavaScript,了解常见签名、编码和加密逻辑; 熟悉Linux、Docker、Redis、消息队列或任务调度框架; 有数据治理、数据质量监控或大规模采集任务经验
信息来自企业官方招聘渠道
OfferSeek 对公开岗位信息进行聚合、去重和结构化整理,最终申请以企业官方页面为准。
