Nega bu hamkorlik katta voqea?
Ikki jigsaw bo'lak bir-biriga to'g'ri joylashgandek. Aynan shunday bo'ldi: Hugging Face Georgi Gerganov va GGML jamoasini o'ziga qo'shdi. Bu ismlarni bilmasangiz, nima uchun muhimligini tushuntiray.
Qahramonlar bilan tanishing
Georgi Gerganov – llama.cpp yaratuvchisi. Bu dastur mahalliy kompyuterda kuchli AI modellarni ishga tushiradi. Serverlarga ma'lumot yubormaysiz.
Hugging Face esa AI GitHub'i. Tadqiqotchilar modellarni shu yerda baham ko'radi. Transformers kutubxonasi esa dasturchilarning birinchi tanlovi.
Nega hayajonlanish kerak?
Bu hamkorlik AI'ni hamma uchun ochiq qiladi. Hozir eng yaxshi modellardan foydalanish uchun OpenAI, Anthropic yoki Google'ga pul to'laysiz. Suhbatlaringiz ularning serverlariga boradi.
Ammo gaming PC yoki MacBook'ingizda GPT-4 darajasidagi modellarni ishlatish mumkin bo'lsa-chi? Shu yo'nalishda ketmoqdalar.
Texnik sehr (oddiy qilib)
llama.cpp nima uchun ajoyib? An'anaviy AI modellari kuchli kompyuter talab qiladi. Georgi jamoasi ularni samarali qildi.
Kvantizatsiya orqali modellarni siqishadi. Xotira kam sarflaydi, ammo aqlning ko'pi saqlanadi. 4K filjni 1080p'ga o'tkazgandek – sifat biroz tushadi, lekin tezlik oshadi.
Biz uchun nimani o'zgartiradi?
Bu shunchaki korporativ yangilik emas, hayotimizga ta'sir qiladi:
Maxfiylik: Suhbatlar qurilmada qoladi. Bulutda saqlanmaydi.
Har doim tayyor: Internet uzilsa ham ishlaydi.
Arzon: Bir marta o'rnatib, obuna to'lamaysiz.
Moslashuvchan: O'z sohangizga yoki sevimli yozuvchiga o'xshatib sozlaysiz.
Kengroq tasavvur
Menga bu e'lon uzun muddatli reja yoqdi. Hugging Face va GGML jamoasi: "AI kuchli bo'lsa ham, uni bir necha gigant kompaniyaga bermaylik", deyishmoqda.
Ular "ochiq kodli superintellekt" ga intilmoqda. Bu so'zlar meni hayratga soladi. Oddiy kompyuteri bor har kim rivojlangan AI'dan foydalansa-chi?
Oldinga yo'l
Hali to'liq emas. Mahalliy modelllar bulut gigantlaridan orqada. Lekin masofa qisqarmoqda. Hugging Face resurslari bilan llama.cpp tez rivojlanadi.
Hamma narsa ochiq kodda, jamoaviy. Hech qanday yopiq bog' emas – faqat yaxshi vositalar hammaga.
Mening fikrim
Mahalliy AI'ni uzoq kuzatib kelaman. Bu muhim burilish. "Noutbukda AI ishlaydi" bosqichidan "bulut bilan raqobatlashadi"ga o'tdik.
Vaqt kerak, GPU yaxshi bo'lishi lozim. Yo'nalish aniq: AI uy qurilmalarga kelmoqda. Kelajak server fermalarida emas, stolingizdagi kompyuterda.