Nvidia Jarvis

2020: Представление Nvidia Jarvis

14 мая 2020 года компания NVIDIA представила GPU-ускоряемый фреймворк NVIDIA Jarvis, который позволяет компаниям использовать видео и голосовые данные для создания диалоговых ИИ-сервисов, адаптированных для их индустрии, продуктов и клиентов.

Как отметили в NVIDIA, тенденция удаленной работы, обучения и развития телемедицины повысила спрос на специализированные диалоговые ИИ-сервисы, от клиентской поддержки до преобразования речи в текст в реальном времени и резюмирования видеозвонков, чтобы сделать процессы взаимодействия продуктивнее.

«Диалоговый ИИ открывает путь в будущее для многих отраслей, так как приложения получают возможность понимать и взаимодействовать с пользователями реагировать с учетом нюансов и контекста. NVIDIA Jarvis поможет организациям быстро автоматизировать перегруженную клиентскую службу в здравоохранении, финансах, образовании и рознице», отметил Дженсен Хуанг (Jensen Huang), учредитель и генеральный директор NVIDIA

Со слов разработчика, построенные с использованием Jarvis приложения получат преимущество при работе на графическом процессоре NVIDIA A100 с тензорными ядрами для ИИ-вычислений и инференса с оптимизациями в NVIDIA TensorRT. Стала возможна работа мультимодальных приложений, использующих мощные речевые модели и модели компьютерного зрения, в режиме реального времени с задержками менее 300 миллисекунд.TAdviser Security 100: Крупнейшие ИБ-компании в России 59.8 т

Jarvis имеет полноценный GPU-ускоряемый программный стек и инструменты, которые упрощают разработчикам задачу по созданию, развертыванию и запуску диалоговых приложений реального времени, способных понимать специфическую для разных компаний терминологию, утверждают в NVIDIA.

«IDC продолжает наблюдать быстрый рост рынка диалогового ИИ, так как компании всех масштабов начинают осознавать ценность хорошо обученных виртуальных ассистентов и чат-ботов для обслуживания клиентов и развития бизнеса. Ожидается, что мировые затраты на диалоговый ИИ, например, автоматизированные ассистенты службы поддержки, вырастут с 5.8 млрд долларов в 2019 году до 13.8 млрд долларов в 2023 году, т.е. на 24% за год», отметил Дэвид Шубмель (David Schubmehl), директор по ИИ-платформам в IDC

Чтобы предложить своим клиентам интерактивное персонализированное взаимодействие, компаниям нужно тренировать свои диалоговые приложения на данных, характерных для их продуктов и требований их клиентов. Но создание сервиса с нуля требует знаний в области ИИ, большого объема данных и вычислительные ресурсы для обучения моделей, а также программное обеспечения для регулярной загрузки новых данных в модели.

Согласно заявлению разработчика, Jarvis решает эту проблему, предлагая полноценный конвейер глубокого обучения для диалогового ИИ. В него входят современные модели глубокого обучения, такие, как NVIDIA Megatron BERT, для распознавания естественной речи. Компании могут адаптировать эти модели под себя с помощью NVIDIA NeMo, оптимизировать для инференса с помощью TensorRT и развернуть в облаке или на периферии с помощью таблиц Helm, доступных в каталоге NVIDIA GPU-оптимизированного ПО NGC.

По данным на май 2020 года ранний доступ к NVIDIA Jarvis открыт для ограниченного числа компаний.