NVIDIA придумала, как заставить ИИ думать перед поиском

Знакомо, когда чат-бот ИИ путает простой вопрос и выдаёт чушь? Команда NVIDIA нашла способ это исправить. Их новая технология учит ИИ размышлять шаг за шагом. Теперь сложные запросы не запутают систему.

Почему обычный поиск в ИИ такой тупой

Сейчас ИИ ищет по ключевым словам. Превращает ваш вопрос в набор цифр — эмбеддинги — и находит похожие тексты. Как библиотекарь, который считает слова в книгах.

Для "столица Франции?" сойдёт. А если спросить: "Сколько будет стоить электричество для всех зарядок Tesla, если цены удвоятся?" — вот тут провал. Нужно:

• Разобрать: стоимость, энергия, гипотеза.
• Посчитать цифры.
• Собрать данные из кучи источников.
• Подумать логически.

Обычный поиск пасует перед таким.

Новый подход: ИИ с мозгами

NVIDIA назвала это "агентным поиском". По-моему, это ИИ-стратег. Он не кидается искать сразу, а планирует.

Шаг 1: Разбор запроса

Система анализирует: простой вопрос или хитрый? Нужны ли калькулятор, веб-поиск или базы данных?

Шаг 2: Выбор тактики

Решит: копать в техдокументах или начать с общего поиска и сузить. Как набор экспертов под задачу.

Шаг 3: Разделяй и властвуй

Сложное разбивает на кусочки. Сначала — энергопотребление Tesla. Потом — цены на свет. Наконец — расчёт.

Результаты бьют рекорды

Тесты показывают: на 40–60% лучше старых методов. Не мелочь — это разница между полезным ответом и раздражением.

Круто, что работает на открытых моделях вроде Llama. Они дают 95% от GPT-4, но дёшево. Не нужны платные монстры.

Минусы есть всегда

Ответ приходит на 20–30% медленнее. Секунды тянутся, если привык к молнии. Плюс больше вычислений — дороже в работе.

Но я за: лучше подождать и получить правду, чем быстро нарваться на ошибку.

Что это даёт нам

Это не теория — NVIDIA уже выложила для разработчиков. Скоро:

• Боты в поддержке разберутся в запутанных кейсах.
• Помощники для исследований пройдут цепочку шагов.
• Уроки по сложным темам разложат по полочкам.

Попробовать можно на Hugging Face прямо сейчас. Будущее уже здесь.

Куда это катится

ИИ эволюционирует от поиска шаблонов к настоящему мышлению. Как от калькулятора к смартфону — базово то же, но на голову выше.

Представьте: команда ИИ-агентов работает вместе. Каждый специалист по своей части. Решают мегазадачи сообща.

Мы в начале. Через пять лет старые ИИ-поиски покажутся диалап-модемами — рабочие, но дико примитивные.

Источник: https://huggingface.co/blog/nvidia/nemo-retriever-agentic-retrieval