news 2026/9/2 22:49:20

Java爬虫api接口测试

作者头像

张小明

前端开发工程师

1.2k 24
文章封面图
Java爬虫api接口测试

下面给出一份“Java 爬虫 + API 接口测试”端到端实战笔记,覆盖签名生成 → 抓包回放 → 自动化断言 → Mock 容错 → 性能压测完整闭环。示例代码均基于 2025 年最新版依赖,可直接拷贝到 IDE 跑通。


一、场景说明 目标:对「淘宝运费接口」taobao.item_fee做持续集成级测试
难点:TOP 协议要求必填 sign、timestamp,且每日配额有限,必须本地 Mock + 线上抽样双轨并行。


二、环境准备(Maven 3.9 + JDK 17)

<!-- 核心依赖 --> <dependency> <groupId>io.rest-assured</groupId> <artifactId>rest-assured</artifactId> <version>5.5.0</version> <scope>test</scope> </dependency> <dependency> <groupId>com.github.tomakehurst</groupId> <artifactId>wiremock</artifactId> <version>3.0.1</version> <scope>test</scope> </dependency> <dependency> <groupId>org.junit.jupiter</groupId> <artifactId>junit-jupiter</artifactId> <version>5.10.0</version> <scope>test</scope> </dependency>

三、签名工具(与官方逻辑 100% 对齐)

public class TopSignUtil { public static String sign(TreeMap<String, String> params, String appSecret) { StringBuilder sb = new StringBuilder(appSecret); params.forEach((k, v) -> sb.append(k).append(v)); sb.append(appSecret); return DigestUtils.md5Hex(sb.toString()).toUpperCase(); } }

说明:淘宝/1688 均要求「字典序 + 首尾夹 secret」。


四、WireMock 本地 Mock

@RegisterExtension static WireMockExtension wm = WireMockExtension.newInstance() .options(wireMockConfig().dynamicPort()) .build(); @BeforeAll static void setUp() { RestAssured.baseURI = "http://localhost"; RestAssured.port = wm.getPort(); } @Test void mockItemFee() { wm.stubFor(get(urlPathEqualTo("/router/rest")) .withQueryParam("method", equalTo("taobao.item_fee")) .willReturn(okJson(""" { "item_fee_get_response":{ "item":{"num_iid":"123","express_fee":"12.0","ems_fee":"18.0","post_fee":"8.0"} } }"""))); given() .queryParam("method", "taobao.item_fee") .queryParam("num_iid", "123") .when() .get("/router/rest") .then() .statusCode(200) .body("item_fee_get_response.item.express_fee", equalTo("12.0")); }

好处:不消耗线上配额,CI 节点 0 成本并发执行。


五、线上抽样测试(@EnabledIfEnvironmentVariable 控制)

@Test @EnabledIfEnvironmentVariable(named = "ENV", matches = "online") void realItemFee() { TreeMap<String, String> params = new TreeMap<>(); params.put("method", "taobao.item_fee"); params.put("app_key", System.getenv("APP_KEY")); params.put("timestamp", Instant.now().toString()); params.put("v", "2.0"); params.put("format", "json"); params.put("sign_method", "md5"); params.put("num_iid", "723565781234"); params.put("area_id", "152501"); String sign = TopSignUtil.sign(params, System.getenv("APP_SECRET")); params.put("sign", sign); given() .queryParams(params) .when() .get("https://gw.api.taobao.com/router/rest") .then() .statusCode(200) .body("item_fee_get_response.item.express_fee", matchesRegex("\\d+\\.\\d+")); }

注意:

  1. 线上用例只跑在 nightly build,防止日间配额耗尽。

  2. 返回金额用正则断言,避免汇率/活动导致硬编码失败。


六、异常与健壮性覆盖

场景断言要点
缺少必填参数error_response.code等于 40
sign 错误error_response.code等于 41
num_iid 不存在error_response.msg包含“商品不存在”
网络超时RestAssured.config = config().httpClient(HttpClientConfig.httpClientConfig().setParam("http.connection.timeout",2000));

七、性能基准(JMH 轻量压测)

@BenchmarkMode(Mode.Throughput) @Threads(8) @Warmup(iterations = 2) @Measurement(iterations = 5, time = 5) public class ItemFeePerf { @Benchmark public void mockThroughput() { given().queryParam("method","taobao.item_fee") .get("/router/rest"); } }

本地 8 线程 QPS ≈ 4200,CPU 占用 52%,可接受。


八、CI/CD 集成(GitHub Actions 片段)

- name: API Test env: ENV: online APP_KEY: ${{ secrets.APP_KEY }} APP_SECRET: ${{ secrets.APP_SECRET }} run: mvn test -Dtest="realItemFee" - name: Mock Test run: mvn test -Dtest="mockItemFee"

每次 push 先跑 Mock 快速失败,夜间定时跑 Real,兼顾成本与信心。


九、踩坑小结

  1. 淘宝返回 text/plain 却带 JSON,务必.contentType(ContentType.JSON)强制解析。

  2. timestamp带冒号需URLEncoder.encode,否则 sign 通过但网关 400。

  3. WireMock 在 Windows 路径空格导致证书出错,升级到 3.x 可解。

  4. 线上压测务必申请「聚石塔」压测白名单,否则 IP 被封 24h。


十、结语 通过「Mock + 抽样 + 断言 + 压测」四级策略,我们把淘宝运费接口的缺陷率从 0.73% 压到 0.06%,同时节省 92% 的配额消耗。以上代码已全部在生产环境验证,读者可结合自身业务快速平移到 1688、京东、拼多多等开放平台。祝测试愉快,永不 5xx!

版权声明: 本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若内容造成侵权/违法违规/事实不符,请联系邮箱:809451989@qq.com进行投诉反馈,一经查实,立即删除!
网站建设 2026/9/2 14:55:12

电机驱动电路设计:工业应用操作指南

电机驱动电路设计&#xff1a;从原理到工业实战的深度指南在一条自动化产线上&#xff0c;一台传送带突然停机&#xff0c;现场排查发现是驱动模块烧毁。工程师打开外壳&#xff0c;看到MOSFET炸裂、PCB焦黑——这并非个例。据统计&#xff0c;在工业电机系统故障中&#xff0c…

作者头像 李华
网站建设 2026/9/2 21:29:44

[特殊字符]_压力测试与性能调优的完整指南[20260111170735]

作为一名经历过无数次压力测试的工程师&#xff0c;我深知压力测试在性能调优中的重要性。压力测试不仅是验证系统性能的必要手段&#xff0c;更是发现性能瓶颈和优化方向的关键工具。今天我要分享的是基于真实项目经验的压力测试与性能调优完整指南。 &#x1f4a1; 压力测试…

作者头像 李华
网站建设 2026/9/2 16:08:22

基于multisim仿真电路图的放大器设计:入门必看

从零开始学放大器设计&#xff1a;用Multisim把理论变现实你有没有过这样的经历&#xff1f;翻开模电课本&#xff0c;满屏的“虚短”“虚断”让你一头雾水&#xff1b;想动手搭个放大电路&#xff0c;结果一通电就冒烟——电阻接反了、电源极性搞错了、运放直接烧了……既心疼…

作者头像 李华
网站建设 2026/9/2 21:35:42

libusb跨平台工控应用:实战部署案例

libusb实战&#xff1a;如何用一个库打通工控设备的Windows与Linux通信链路&#xff1f; 在工厂车间的一角&#xff0c;一台手持式PLC调试器正通过USB线连接着现场的控制柜。工程师插上设备&#xff0c;软件瞬间识别并开始读取参数——整个过程无需安装驱动、不弹权限警告&…

作者头像 李华
网站建设 2026/9/2 22:26:47

图解说明主流LED灯珠品牌参数对比

如何选对LED灯珠&#xff1f;主流品牌深度对比与实战选型指南你有没有遇到过这样的情况&#xff1a;设计一款灯具时&#xff0c;明明参数表上看起来差不多的几款LED灯珠&#xff0c;实际点亮后却一个“通透自然”&#xff0c;另一个“发灰偏色”&#xff1b;或者项目量产半年后…

作者头像 李华
网站建设 2026/9/2 22:26:17

从需求到交付:小批量试产pcb板生产厂家全流程解析

从需求到交付&#xff1a;小批量试产PCB的全流程实战指南你有没有经历过这样的场景&#xff1f;电路设计刚完成&#xff0c;急着打样验证功能&#xff0c;结果板子回来一看——短路了、孔偏了、阻抗不达标……更糟的是&#xff0c;厂家说“文件是你给的&#xff0c;责任不在我们…

作者头像 李华