NVIDIA's geniale fix til AI'ens forvirring

Har du nogensinde spurgt en AI om noget tricky og fået et svar, der totalt bommer? NVIDIA's forskere har lige fundet en løsning, der kan ændre det hele.

Fejlen i nutidens AI-søgning

De fleste AI'er fungerer som smarte nøgleordsjægere. De omsætter dit spørgsmål til tal og leder efter matcher i dokumenter. Tænk på en bibliotekar, der kun tæller ord.

Det går fint med "Hvad er hovedstaden i Frankrig?". Men prøv: "Hvor meget koster det at drive alle Teslas Superchargere, hvis elprisen fordobles?" Her kræves det at:

• Forstå omkostninger, energi og "hvad hvis"-scenarier
• Regne lidt matematik
• Hente data fra flere steder
• Tænke trin for trin

Gammel søgning klapper sammen her.

Den nye "tænkende" søgemaskine

NVIDIA kalder det "agentic retrieval". Jeg kalder det AI med strategi. Systemet får en hjerne, der løser opgaver trinvis.

Sådan går det til:

Trin 1: Analysér spørgsmålet

AI'en stopper op. Er det simpelt eller komplekst? Skal der værktøjer til?

Trin 2: Vælg den rigtige taktik

Den vælger metode. Måske dykke i tekniske tekster eller starte bredt på nettet og zoome ind. Som at skifte specialister.

Trin 3: Bryd det ned i bidder

Ved svære spørgsmål deles det op. Først Teslas elforbrug, så priser, til sidst regning.

Resultaterne slår benene væk under dig

Testene viser 40-60% bedre præstation end gammel søgning. Det er ikke småting – det er forskellen på brugbart og frustrerende.

Fedt nok: Det virker super med open-source-modeller. Llama rammer 95% af GPT-4's niveau til en brøkdel af prisen.

Ulemperne (for ingenting er perfekt)

Det tager 20-30% længere tid. Og det kræver mere regnekraft. Men hey: Jeg venter gerne 100 millisekunder for det rigtige svar frem for lynhurtigt vrøvl.

Hvad det betyder for dig

Det er ikke bare teori. NVIDIA tilbyder det til udviklere nu. Forestil dig:

• Kundeservice, der fatter komplicerede sager
• Forskningshjælp til fler-trins analyser
• Lærings-AI, der forklarer trinvis

Prøv det selv på Hugging Face. Det sker allerede.

Mine tanker om fremtiden

Vi ser et skift fra mønstergenkendelse til ægte ræsonnement. Som fra lommeregner til smartphone.

Endnu vildere: Flere AI-agenter, der samarbejder som et team med hver sin ekspertise.

Vi er tidligt på banen, men om fem år vil nutidens søgning virke som modem-internet: Det virkede, men åh nej.

Kilde: https://huggingface.co/blog/nvidia/nemo-retriever-agentic-retrieval