Часовой пояс: UTC + 3 часа




Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2 
  Пред. тема | След. тема 
В случае проблем с отображением форума, отключите блокировщик рекламы
Автор Сообщение
 

Member
Статус: Не в сети
Регистрация: 16.11.2003
Откуда: Москва
NVIDIA представила Chat with RTX для запуска ИИ-чат-ботов локально на ПК

Nvidia анонсировала Chat with RTX, инновационный чат-бот на базе ИИ, разработанный специально для графических ускорителей GeForce RTX. Этот чат-бот предлагает возможности персонализации и высокую скорость обработки данных на локальных устройствах с ОС Windows и RTX.

Chat with RTX использует библиотеку Nvidia TensorRT-LLM и метод RAG для улучшения больших языковых моделей с помощью пользовательских данных, таких как заметки и видео, обеспечивая безопасность и персонализацию ответов.

Загрузить с офф сайт

Системные требования:
40Гб свободного места
GeForce RTX 30- и 40-й серии с минимум 8 ГБ видеопамяти, исключая GeForce RTX 3050 6GB
16 ГБ оперативной памяти
Windows 11
Драйвер 535.11+.


Вложения:
photo_2024-02-13_21-14-14.jpg
photo_2024-02-13_21-14-14.jpg [ 50 КБ | Просмотров: 4425 ]

_________________
AMD 7800X3D | MSI MAG B650 TOMAHAWK | RTX 3070 | 64GB RAM 6000MHz | Samsung 960 PRO
https://www.youtube.com/watch?v=-OJJ78MbOLQ

Партнер
 

Member
Статус: Не в сети
Регистрация: 16.11.2003
Откуда: Москва
ChatRTX, новая демо-версия локального LLM на базе графических процессоров NVIDIA.

Цитата:
NVIDIA обновила инструмент, теперь поддерживая больше моделей больших языков (LLM).
Новые функции ChatRTX включают распознавание голоса для подсказок на нескольких языках и возможность вывода на разных языках. Кроме того, есть поддержка новых LLM, таких как Mistral 7B INT4 или Llama 2 7B INT4, а также поддержка Gemma , последней модели искусственного интеллекта от Google.
Крутой новой функцией является возможность поиска изображений в локальных каталогах на основе CLIP (предварительное обучение контрастному языку изображению), модели OpenAI.

К сожалению, одна из наиболее востребованных функций — возможность задавать дополнительные вопросы — в ChatRTX пока недоступна. На данный момент инструмент может понимать только отдельные запросы. Кроме того, веб интерфейс пользователя пока не работает должным образом с Firefox.

_________________
AMD 7800X3D | MSI MAG B650 TOMAHAWK | RTX 3070 | 64GB RAM 6000MHz | Samsung 960 PRO
https://www.youtube.com/watch?v=-OJJ78MbOLQ


Показать сообщения за:  Поле сортировки  
Начать новую тему Новая тема / Ответить на тему Ответить  Сообщений: 2 
-

Часовой пояс: UTC + 3 часа


Кто сейчас на конференции

Сейчас этот форум просматривают: z10yded и гости: 4


Вы не можете начинать темы
Вы не можете отвечать на сообщения
Вы не можете редактировать свои сообщения
Вы не можете удалять свои сообщения
Вы не можете добавлять вложения

Перейти:  
Создано на основе phpBB® Forum Software © phpBB Group
Русская поддержка phpBB | Kolobok smiles © Aiwan