Nvidia выпустила автономного чат-бота с ИИ, работающего на ее чипах
Москва. 13 февраля. INTERFAX.RU - Американская Nvidia Corp. во вторник сделала доступным для широкой публики чат-бота Chat with RTX на основе генеративного (создающего контент и используемого, например, в ChatGPT) искусственного интеллекта (ИИ).
Чат-бот распространяется бесплатно в виде технологического демо, работает локально на компьютерах под управлением операционной системы Windows 10 или 11 и требует наличия графического ускорителя Nvidia GeForce RTX 30-й или 40-й серии не менее чем с 8 Гб памяти.
"Не используя большие языковые модели (лежащие в основе инструментов генеративного ИИ - ИФ) в облачных сервисах, Chat with RTX позволяет пользователям обрабатывать конфиденциальную информацию на локальном ПК без необходимости делиться ею с третьими лицами и выходить в интернет", - говорится в сообщении компании.
К чат-боту можно подключать ИИ-модели с открытым исходным кодом, например Llama 2 разработки Meta (признана в РФ экстремистской организацией и запрещена).
Chat with RTX может обрабатывать видео с YouTube и локальные файлы различных форматов, включая TXT, PDF, DOC и DOCX, а пользователи - задавать ему вопросы об информации из них, например: "Какой ресторан посоветовал мне спутник (или спутница), когда мы были в Лас-Вегасе?".
Издание несколько дней тестировало технологию на ускорителе RTX 4090 и подтверждает, что ответы точны и даются практически мгновенно.