Investigate: Why is half the traffic to cache.nixos.org H1 and not H2?

[arianvp]

It seems a lot of our traffic is H1, even though Nix by default only does H2. Where is this traffic coming from?

We have the fastly logs in S3 so we could write an Athena query to find this out. Lets drill this down to AS and/or user agent.

[arianvp]

results from today:

D select request_user_agent, asn, COUNT(*) AS request_count
FROM logs
WHERE request_protocol = 'HTTP/1.1'
GROUP BY request_user_agent, asn
ORDER BY request_count DESC
  ;
┌───────────────────────────────────────────────┬────────┬───────────────┐
│              request_user_agent               │  asn   │ request_count │
│                    varchar                    │ int64  │     int64     │
├───────────────────────────────────────────────┼────────┼───────────────┤
│                                               │  14618 │         33638 │
│ curl/8.12.1 Nix/2.29.0                        │   8075 │         14265 │
│                                               │  54113 │         11021 │
│ curl/8.13.0 Nix/2.28.3                        │  54113 │          7789 │
│ curl/8.11.0 Nix/2.28.3                        │   8075 │          7461 │
│ curl/8.7.1 Nix/2.24.9                         │   8075 │          7235 │
│ curl/8.7.1 Nix/2.18.5                         │  54113 │          7033 │
│                                               │  38195 │          6041 │
│                                               │ 136787 │          5601 │
│ curl/8.12.1 Nix/2.29.0                        │  54113 │          4728 │
│ curl/8.1.1 Nix/2.18.1                         │   8075 │          4285 │
│ curl/8.11.0 Nix/2.28.3                        │  16509 │          3896 │
│ curl/8.12.1 Nix/2.24.14                       │  54113 │          3809 │
│ curl/8.1.1 Nix/2.18.9                         │  54113 │          3468 │
│ curl/7.86.0 Nix/2.15.2                        │   8075 │          3266 │
│ curl/8.11.0 Nix/2.28.2                        │ 396982 │          3038 │
│ curl/8.11.0 Nix/2.26.3                        │   8075 │          2587 │
│ curl/8.7.1 Nix/2.24.1                         │ 396982 │          2494 │
│ curl/8.12.1 Nix/2.29.0                        │  24940 │          2360 │
│ curl/8.4.0 Nix/2.22.1                         │   8075 │          2227 │

[arianvp]

14618 is Amazon Inc
8075 is Microsoft
54113 is Fastly Inc??

[arianvp]

Filtering out Fastly:

D select request_user_agent, asn, COUNT(*) AS request_count, FROM logs where not asn = 54113 and request_protocol = 'HTTP/1.1' GROUP BY request_user_agent, asn ORDER BY request_count DESC
  ;
┌─────────────────────────────────────────────┬────────┬───────────────┐
│             request_user_agent              │  asn   │ request_count │
│                   varchar                   │ int64  │     int64     │
├─────────────────────────────────────────────┼────────┼───────────────┤
│                                             │  14618 │         33638 │
│ curl/8.12.1 Nix/2.29.0                      │   8075 │         14265 │
│ curl/8.11.0 Nix/2.28.3                      │   8075 │          7461 │
│ curl/8.7.1 Nix/2.24.9                       │   8075 │          7235 │
│                                             │  38195 │          6041 │
│                                             │ 136787 │          5601 │
│ curl/8.1.1 Nix/2.18.1                       │   8075 │          4285 │
│ curl/8.11.0 Nix/2.28.3                      │  16509 │          3896 │
│ curl/7.86.0 Nix/2.15.2                      │   8075 │          3266 │
│ curl/8.11.0 Nix/2.28.2                      │ 396982 │          3038 │
│ curl/8.11.0 Nix/2.26.3                      │   8075 │          2587 │
│ curl/8.7.1 Nix/2.24.1                       │ 396982 │          2494 │
│ curl/8.12.1 Nix/2.29.0                      │  24940 │          2360 │
│ curl/8.4.0 Nix/2.22.1                       │   8075 │          2227 │
│ curl/8.13.0 Nix/2.28.3                      │  24940 │          1847 │
│ curl/8.12.1 Nix/2.23.4                      │ 396982 │          1832 │
│ curl/8.11.1 Nix/2.24.12                     │   8075 │          1787 │
│ curl/8.1.1 Nix/2.18.9                       │   8987 │          1414 │
│ curl/8.1.1 Nix/2.13.5                       │    812 │          1388 │
│ curl/8.12.1 Nix/2.24.14                     │  24940 │          1255 │
│           ·                                 │     ·  │             · │
│           ·                                 │     ·  │             · │
│           ·                                 │     ·  │             · │
│ curl/8.9.1 Nix/2.24.9                       │   7545 │             1 │
│ curl/8.13.0 Lix/2.93.0                      │   8881 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │  12737 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │ 215859 │             1 │
│ curl/8.11.0 Nix/2.27.1                      │  13335 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │  23889 │             1 │
│ curl/8.13.0 Lix/2.91.1                      │   8412 │             1 │
│ curl/8.11.0 Nix/2.28.1 DeterminateNix/3.3.1 │  29208 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │   4818 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │ 197221 │             1 │
│ curl/8.7.1 Nix/2.24.11                      │  39686 │             1 │
│ curl/8.7.1 Nix/2.24.9                       │  19165 │             1 │
│ curl/8.11.1 Nix/2.24.12                     │  36352 │             1 │
│ curl/8.1.1 Nix/2.13.5                       │   4764 │             1 │
│ curl/8.1.1 Nix/2.18.1                       │  16381 │             1 │
│ curl/8.1.1 Nix/2.19.3                       │  55256 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │   9070 │             1 │
│ curl/8.13.0 Nix/2.28.3                      │ 204151 │             1 │
│ curl/8.12.1 Nix/2.24.14                     │   7545 │             1 │
│ curl/7.86.0 Nix/2.13.1                      │  32145 │             1 │
├─────────────────────────────────────────────┴────────┴───────────────┤
│ 1239 rows (40 shown)                                       3 columns │
└──────────────────────────────────────────────────────────────────────┘
D 

[arianvp]

By ASN:

D select asn, COUNT(*) AS request_count, FROM logs where not asn = 54113 and request_protocol = 'HTTP/1.1' GROUP BY  asn ORDER BY request_count DESC
  ;
┌────────┬───────────────┐
│  asn   │ request_count │
│ int64  │     int64     │
├────────┼───────────────┤
│   8075 │         49529 │
│  14618 │         38103 │
│ 396982 │         10022 │
│  24940 │          7353 │
│  16509 │          6987 │
│  38195 │          6056 │
│ 136787 │          5610 │
│   8987 │          2457 │
│   3320 │          1889 │
│    812 │          1638 │
│   3209 │          1594 │
│    209 │          1334 │
│   7922 │           978 │
│  12322 │           755 │
│  13030 │           551 │
│  16276 │           393 │
│ 205771 │           392 │
│  62044 │           353 │
│   2200 │           299 │
│   5089 │           294 │

By User Agent:

┌──────────────────────────────────────────────────────────────────────────────────────────────────┬───────────────┐
│                                        request_user_agent                                        │ request_count │
│                                             varchar                                              │     int64     │
├──────────────────────────────────────────────────────────────────────────────────────────────────┼───────────────┤
│                                                                                                  │         46426 │
│ curl/8.12.1 Nix/2.29.0                                                                           │         18581 │
│ curl/8.13.0 Nix/2.28.3                                                                           │         13498 │
│ curl/8.11.0 Nix/2.28.3                                                                           │         11682 │
│ curl/8.7.1 Nix/2.24.9                                                                            │          7808 │
│ curl/8.12.1 Nix/2.24.14                                                                          │          6710 │
│ curl/8.1.1 Nix/2.18.1                                                                            │          4646 │
│ curl/8.11.0 Nix/2.28.2                                                                           │          3929 │
│ curl/7.86.0 Nix/2.15.2                                                                           │          3358 │
│ curl/8.11.0 Nix/2.26.3                                                                           │          2676 │
│ curl/8.7.1 Nix/2.24.1                                                                            │          2494 │
│ curl/8.4.0 Nix/2.22.1                                                                            │          2370 │
│ curl/8.11.1 Nix/2.24.12                                                                          │          2226 │
│ curl/8.12.1 Nix/2.28.3                                                                           │          2205 │
│ curl/8.11.0 Nix/2.26.2                                                                           │          1989 │
│ curl/8.12.1 Nix/2.23.4                                                                           │          1841 │
│ curl/8.11.0 Nix/2.24.10                                                                          │          1445 │
│ curl/8.1.1 Nix/2.18.9                                                                            │          1414 │
│ curl/8.1.1 Nix/2.13.5                                                                            │          1389 │
│ curl/8.12.1 Nix/2.24.12                                                                          │          1134 

[arianvp]

The top ASNs without user agent:

┌────────┬────────────────────┬───────────────┐
│  asn   │ request_user_agent │ request_count │
├────────┼────────────────────┼───────────────┤
│ 14618  │                    │ 33638         │
│ 38195  │                    │ 6041          │
│ 136787 │                    │ 5601          │
│ 209    │                    │ 1124          │
│ 4538   │                    │ 11            │
│ 16509  │                    │ 9             │
│ 42525  │                    │ 1             │
│ 13335  │                    │ 1             │
└────────┴────────────────────┴───────────────┘
D 

[arianvp]

The no-user-agent requests from 14618 are only requesting narinfo files: so I guess it's some scraper. We can ignore it I guess.

D select * from logs where asn = 14618 and request_user_agent = '' and url not like '%.narinfo';
┌───────┬──────────────┬────────────────┬───────────────┬─────────────┬────────────┬───────────┬─────────┬───┬────────────────────┬────────────────────┬─────────────────┬────────────────┬─────────────────┬───────────┬───────────────────┬─────────────────────┬─────────┐
│  asn  │ elapsed_usec │ fastly_is_edge │ fastly_server │ geo_country │ geo_region │ geo_speed │  host   │ … │ request_user_agent │ response_body_size │ response_reason │ response_state │ response_status │ timestamp │ tls_client_cipher │ tls_client_protocol │   url   │
│ int64 │    int64     │    boolean     │    varchar    │   varchar   │  varchar   │  varchar  │ varchar │   │      varchar       │       int64        │     varchar     │    varchar     │     varchar     │  varchar  │      varchar      │       varchar       │ varchar │
├───────┴──────────────┴────────────────┴───────────────┴─────────────┴────────────┴───────────┴─────────┴───┴────────────────────┴────────────────────┴─────────────────┴────────────────┴─────────────────┴───────────┴───────────────────┴─────────────────────┴─────────┤
│                                                                                                                                  0 rows                                                                                                                                   │
└───────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────────┘
D