RSAPublicKey es solo una SEQUENCE con el módulo y el exponente público. RSAPrivateKey contiene version, n, e, d, p, q, dP, dQ, qInv y primos adicionales opcionales. Ninguna de las dos lleva un identificador de algoritmo, y por eso el formato solo puede describir RSA y la etiqueta PEM tiene que decir RSA.
PKCS #8 envuelve los mismos bytes de RSAPrivateKey dentro de un PrivateKeyInfo con un OID de algoritmo (rsaEncryption, 1.2.840.113549.1.1.1), y SubjectPublicKeyInfo envuelve RSAPublicKey del mismo modo para las claves públicas. OpenSSL 3 escribe PKCS #8 (BEGIN PRIVATE KEY) por defecto, también desde openssl rsa; -traditional da PKCS #1. PKCS8EncodedKeySpec de Java y muchas bibliotecas JWT solo aceptan PKCS #8 o SPKI, lo que provoca el conocido error con las claves antiguas al estilo de id_rsa.
No confundas el formato de clave con los rellenos de firma o de cifrado de PKCS #1: el RFC 8017 define los tres, y quien dice «una clave PKCS #1» se refiere solo al formato de archivo.