На хост машине генерим ssh ключи, далее вводим

ssh-copy-id LOGIN@SERVER_IP

Сервер спрашивает пароль. Вводим… PROFIT!!!

Теперь можно войти на сервер просто написав

ssh LOGIN@SERVER_IP

Дальше желательно отключить вход по паролю для ssh в конфиге

/etc/ssh/sshd_config

Изменяем параметр PasswordAuthentication на «no»

#PasswordAuthentication yes
PasswordAuthentication no

Сохраняем и рестартуем службу (рестарт в зависимости от системы может быть разный можно и загуглить, но для примера так

service sshd restart

Все под sudo конешн.