Генерация ключей для FileZilla в формате *.ppk

brew install putty

Дальше ваш публичный приватный ключ можно конвертировать 

puttygen ~/.ssh/id_rsa -o ~/.ssh/pytty_key.ppk

При использовании FileZile укажите путь к этому файлу.