Начиная с Debian 12 (и Ubuntu 22.04) использующих OpenSSH 8.3, по умолчанию вход по ключу RSA отключен, так как считается небезопасным. Следовательно, если хотите использовать ключ RSA для входа в систему в Debian 12, нужно разрешить его вручную.
Для этого можно изменить /etc/ssh/sshd_config, который является файлом конфигурации SSH по умолчанию, или просто добавить следующий конфиг /etc/ssh/sshd_config.d/enable_rsa_keys.conf:
cat > /etc/ssh/sshd_config.d/enable_rsa_keys.conf << EOF
HostKeyAlgorithms +ssh-rsa
PubkeyAcceptedKeyTypes +ssh-rsa
EOF
Затем просто перезапустите службу SSH.
systemctl restart sshd
Теперь можно входить в систему по SSH, используя ключ RSA.