Nvidia анонсировала Chat with RTX, инновационный чат-бот на базе ИИ, разработанный специально для графических ускорителей GeForce RTX. Этот чат-бот предлагает возможности персонализации и высокую скорость обработки данных на локальных устройствах с ОС Windows и RTX.
Chat with RTX использует библиотеку Nvidia TensorRT-LLM и метод RAG для улучшения больших языковых моделей с помощью пользовательских данных, таких как заметки и видео, обеспечивая безопасность и персонализацию ответов.
Системные требования: 40Гб свободного места GeForce RTX 30- и 40-й серии с минимум 8 ГБ видеопамяти, исключая GeForce RTX 3050 6GB 16 ГБ оперативной памяти Windows 11 Драйвер 535.11+.
NVIDIA обновила инструмент, теперь поддерживая больше моделей больших языков (LLM). Новые функции ChatRTX включают распознавание голоса для подсказок на нескольких языках и возможность вывода на разных языках. Кроме того, есть поддержка новых LLM, таких как Mistral 7B INT4 или Llama 2 7B INT4, а также поддержка Gemma , последней модели искусственного интеллекта от Google. Крутой новой функцией является возможность поиска изображений в локальных каталогах на основе CLIP (предварительное обучение контрастному языку изображению), модели OpenAI.
К сожалению, одна из наиболее востребованных функций — возможность задавать дополнительные вопросы — в ChatRTX пока недоступна. На данный момент инструмент может понимать только отдельные запросы. Кроме того, веб интерфейс пользователя пока не работает должным образом с Firefox.
Сейчас этот форум просматривают: z10yded и гости: 4
Вы не можете начинать темы Вы не можете отвечать на сообщения Вы не можете редактировать свои сообщения Вы не можете удалять свои сообщения Вы не можете добавлять вложения