Twofish, Rijndael (AES), Serpent, Blowfish, CAST5, TripleDES — все очень хорошие и иссследованные.

1) При правильном применении блочного шифра файл может увеличиться только на размер блока - 1 байт, т.е. для AES на 15 байт (размер блока - 128 бит).

2) После AES проводился европейский конкурс Nessie. Симметричные победители AES и Camellia.

3) Шифрование и сжатие абсолютно разные вещи. Сначала сжимай, потом шифруй  :funny:

Вы уверены в их надёжности? Я о них в первый раз слышу.
Может лучше что более проверенное взять (см. мой предыдущий пост)? Потом, если 64 бит — длина ключа, то это явно маловато.

RSA — это вообще асимметричный алгоритм.
RC6 имеет малый запас прочности, взламывается в варианте из 17 раундов, тогда как в полной версии их 20.

IDEA — неплохой (128 битный), но патентованный до 2007 года, что сдерживает его распространение.
Serpent, Rijndael (AES), Twofish — финалисты AES, все хорошо были исследованы.
Blowfish, CAST5 используются в PGP/GnuPG, а там плохие алгоритмы не держат, Зиммерманн очень хорошо отзывался о CAST5. Кроме того, CAST5 — государственный стандарт шифрования в Канаде.
TripleDES — очень медленный (основан на DES), но с середины 1970-х (когда был разработан DES) его так никто не поломал. Только brute-force, что против тройного сейчас не проходит.

Я имел ввиду, что RSA Labs сделала RC 6 - он блочный

RC6 — один из финалистов AES. Но тем не менее, он взламывается с усечённом до 17 раундов варианте, тогда как в нормальном их 20. Мы считаем это недостаточным запасом прочности для того, чтобы алгоритм был стоек к атакам в будущем.
© Нильс Фергюсон, Брюс Шнайер. Практическая криптография.
(текст воспроизведён по пямяти)
На цепи Фейстеля (в т.ч. модифицированной) построены практически все известные и проверенные алгоритмы: TripleDES, CAST, Blowfish, Twofish, Serpent.
Не построены на цепи Файстеля Rijndael (AES) и IDEA (это тоже хорошие в смысле стойкости алгоритмы).