Chat with RTX от Nvidia: локальный ИИ теперь реальность
Новое приложение обещает революцию в доступности языковых моделей на домашних компьютерах.
Nvidia анонсировала приложение Chat with RTX, открывающее новые возможности для работы с языковыми моделями локально. Теперь пользователи, имеющие определенное техническое оснащение, могут взаимодействовать с искусственным интеллектом на своих компьютерах.
Приложение Chat with RTX, совместимое с Windows 11, позволяет запускать большие языковые модели на устройстве пользователя. Для его использования требуется наличие видеокарты RTX 30 или 40 серии и минимум 16 ГБ оперативной памяти.
Chat with RTX дает возможность работать с известными языковыми моделями, такими как Llama и Mistral, как показано в видео от Nvidia. Пользователи могут также интегрировать собственные документы или заметки в процесс, чтобы программа учитывала эти данные при формировании ответов.
Особенностью приложения является функция анализа содержания YouTube-видео: пользователи могут предоставить ссылку на видео и задавать вопросы о его содержании или получить краткое содержание. В случае работы с локальными файлами, приложение укажет источник данных, использованный для генерации ответа, что обеспечивает дополнительную проверку полученной информации.
Nvidia подчеркивает, что вся обработка данных происходит на устройстве пользователя и не передается на внешние сервера. Для работы приложения необходима не только соответствующая видеокарта и оперативная память, но и 8 ГБ видеопамяти.
Цифровые следы - ваша слабость, и хакеры это знают.