#experience

Hamma vibe coding qilayabdi. Bilasizmi, korxona ko'p maxsulot ishlab chiqarsa nimalar sodir bo'ladi? Ularni test qilish, ko'rikdan o'tkazish qiyinlashadi. Ko’p moshina chiqarish ko’p sotishga emas, ishlab chiqarishni butunlay to’xtashiga olib boradi.

Qayta aytmoqchi bo'lgan so'zim, AI bilan kod yozish ishni tezlashtiradi, sifatni pasaytiradi. Kod yozish oldin ham muammo emas edi. Haqiqiy muammo kodni "review" va "test" qilishda edi. Biz hali ham noto'g'ri muammoni yechayabmiz.

"AI bilan kod yozavering, qolganlarni eshitmang" deydigan yomon injenerlikka targ'ib ko'payib qolgan. Haqiqiy injenering o'rganishdan va muammo yechishdan iborat. Muammo yechayabsizmi? Unda nima muammoni qanday yechayabsiz? Shu savolni so'rab ko'ring, agar nimadir o'rganayotgan bo'lsangiz demak to'g'ri yo'ldasiz.

Avvalroq kod yozishni AI ga topshirganim haqida aytgandim. Juda ko'p ishimni yengillashtirdi, ammo juda ko'p muammo keltirib chiqa boshladi ham. Bugundan kamroq vibe coding qilishga o'tayabman. Katta va murakkab ishlar, loyihalar uchun yaramas ekan.

#offTopic #startup

Ishdan ketib to'liq startap qilish tomon o'tar ekanman ba'zi qiziq narsalarni topdim, va ularni shu yerda yozmoqchiman. Agar siz ham startap qilmoqchi bo'lsangiz, bular haqida albatta o'ylab ko'ring.


Investitsiya juda katta tuzoq. Investorlar "biz founderga pul tikamiz" deyishadi, lekin bir qop qog'oz va biznes haqida ma'lumot so'rashadi. To'g'ri risk qilishni hamma ham yoqtirmaydi, ammo so'zlar to'g'irlanishi kerak deb o'ylayman "founderga tikamiz" -> "yaxshi biznes muammoni yechadigan founderga". Agar bozorni, mijozlaringizni va qurayotgan startapingiz nima muammo qanday yaxshi yechishini bilmasangiz bu yo'lga kirishingiz sizni butunlayin charchatib qo'yadi.


Eng yaxshi asoschilar jamoasini va yechayotgan muammosini yaxshi tushunadiganlari. Eng zo'r muammolarni 1 inson emas, jamoa yechadi. Bu yerda jamoani qo'llab quvatlash juda muhim. Ularni muammosini topib yechim berishingiz ham sizga va kompaniyaga bo'lgan ulardagi iliqlikni oshiradi. Asoschilarda ko'p ko'radigan vaziyatim, ular faqat foyda olishni istaydi, berishni emas. Olganingiz emas, berganingiz sizniki.


Hammasini tashab ketishni o'ylagan kuningiz yechim topiladi. Ochlik juda zo'r qurol. Qancha och bo'lsangiz, shuncha harakatingiz oshadi (albatta ovqat topishga bo'lgan sabablarni qilishni boshlaysiz). Agar pulingiz ko'p bo'lsa, kam harakat bo'lsangiz, qisqacha aytganda komfortda bo'lsangiz ulardan voz keching. Aqlli bo'lsangiz, sizdan aqillilar bilan gaplashing, ahmoqligizni va o'rganishingiz kerakligini tushunasiz. Boy bo'lsangiz, pulingizni ota-onangizga berib yuboring, och qolasiz, ammo natijasi bo'ladi. Stay foolish, stay hungry.


Imkoniyatlarga ochiq bo'ling. Startap qilayabsiz degani doim o'xshaydi degani emas. Startap uchun eng muhim narsa bu bozor. Bozor bo'lsa, savdo ham bo'ladi. Men muammolarni, noto'g'ri muhitda yechganim ham pand berdi. Buni inobatga olmaganim katta dars bo'ldi. Ammo quvonarlisi imkoniyatlar to'la, hali o'yin tugagani yo'q.

Avallroq Higgsfield AI kompaniyasi ish taklifi bilan chiqqanini yozgandim (o'chirib yuborganman), kecha Alex Mashrabov (CEO @ Higgsfield AI) o'zi yozibdi meeting qilishga. Bunchalik uzoqqa borishini kutmagandim. San Fransisco'da startap qilib foydaga kirgan bir necha asoschilar bilan tanishdim, ulardan mem0.ai, rilla.com, composio.dev, artisan.co, hex.co va boshqalar. Ular bilan qiziq suhbat qildik. Suhbatdan keyin ko'pchiligi jamoaga taklif qilishdi, yechayotgan muammoyimni ular bilan yechishimni aytishdi. O'zimidagi talaygina katta kompaniyalar ham takliflar bilan chiqishdi. Bu juda quvonarli senariy.


Eng yomoni 2 tanlov o'rtasida qoldim:
1. Yo orzularimdan kechib yana kimdir bilan muammo yechish.
2. Yo orzularim bilan vaqtinchalik ochlik, yetishmovchilik ammo qiziq sarguzashtga borish.

Ikkisi ham qiyin. Biri "boy bo'l" desa, ikkinchisi "istaganingga ega bo'l" deydi. Men shularni yanayam ko'proq o'rgandim va tushundim, siz ertaroq tushuning!

#startup

Texnik qiyin ammo juda katta impact keltiruvchi loyiha qilmoqchimisiz? Sizga men ko'rgan va topgan qiziq muammolarni aytaman. Bular multi-billion dollar startup idealar


1. GPU isolation:
CPU uchun hardware va software level da deyarli ko'plab ishlar qilingan. Ammo GPU larni multi-tenant muhitda ishlatish va izolyatsiya qilish bo'yicha effektiv yechimlar halicha yo'q (shaxsan men ko'rmadim). AI kompaniyalar va Data Center'lar sizga katta mijoz bo'ladi kelajakda.


2. Data cleaning/labeling/formatting automation:
Bugungi kunda AI engineer'lar vaqtining 80 foizini tartibsiz, formati buzilgan yoki takrorlangan ma'lumotlarni tozalashga sarflaydi. "Garbage in, garbage out" qoidasi AI uchun qonun. Qo'lda tozalash sekin va inson omiliga bog'liq, hozirgi yechimlar esa juda ko'p xatolik qiladi. Ma'lumotlar omboriga (S3, BigQuery, Snowflake) kelib tushayotgan petabaytlab ma'lumotlarni real vaqt rejimida anomal qiyofalarini topuvchi, formatini avtomat to'g'rilovchi va multimodal (matn, rasm, video) ma'lumotlarni o'zaro semantic sintaksis bo'yicha bog'lovchi avtonom servis quring. Mijozlaringiz yana o'sha katta o'yinchilar bo'ladi.


3. Data for robotics and physical world AI systems:
Robototexnika (Humanoid robotlar, avtonom transportlar) hozirgi kunda "Sim-to-Real" muammosidan aziyat chekadi. Ya'ni, robot simulyatsiyada (raqamli dunyoda) hamma narsani mukammal bajaradi, lekin uni haqiqiy fizik dunyoga chiqarganda fizik qonunlar, kutilmagan teksturalar va yorug'lik o'zgarishlari tufayli xato qiladi. Real world data yig'ish esa juda qimmat va xavfli. Fizika qonunlari (gravitatsiya, ishqalanish, material elastikligi, gidrodinamika)ga 100% bo'ysunadigan, generative AI'ga asoslangan cheksiz simulyatsiya platformasi qiling. Bu robotlar uchun "Matrix" (kinodagidek) simulyatsiyasini yaratish degani.


4. Storage that can serve static files at scale with scalable network:
bir tanishim bilan "expander graph" haqida gaplashgandik. Agar shu konseptsiyani qila olsangiz Dropbox/Youtube va boshqa katta file serve qiladigan service levelda ish qila olasiz. An'anaviy CDN va Storage tizimlari (AWS S3, Cloudflare) markazlashgan yoki cheklangan geografik serverlarga tayanadi. Katta hajmli fayllarni (masalan, 8K video, 3D xaritalar, gigabaytlab AI model og'irliklari) bir vaqtning o'zida millionlab foydalanuvchiga yetkazishda tarmoq o'tkazuvchanligi (bandwidth) botqoqqa botib qoladi. Bu muammo ham aktual.

Bonus konseptsiya: Matematik bilimingiz zo'r bo'lsa compression algoritmi toping katta ma'lumotlarni (binary ma'lumotlarni) kichiraytiradigan. Petabayt yoki katta masshtabda ma'lumotlarni o'tkazish uchun hozirgi networking jihozlari oqsaydi, bu orqali boshqalarga halaqit qiladi tezlikni sekinlashtirib. Shuning uchun bu ham aktual mavzu.

Nima project qilay deydiganlar, mana qiling endi.

O'zbek tilida ravon so'zlashuvchi sun'iy intelekt qurishimizda hissa qo'shing. Qanday deysizmi?

Yo berilgan matnni o'qib, yoki o'qilgan matn audiosini tekshirib.

hissa.voicelab.uz
@voicelab_uzbot

Tez kunda yangiliklarimiz ko'payadi.

AI modellar quryabmiz. Eng katta olgan xulosalarim:

1. Hozirgi modellarda deyarli arxitektura tomonlama o’zgarish yo’q.
2. Yaxshilanishlar data labeling va reinforcement learning muhiti yaratuvchi kompaniyalar xisobiga bo’layabdi.
3. Fable, Sol ham shunchaki bir sohaga fine-tune (yoki CPT) qilingan chuqur.

Ammo modellar o’zgarmasa ham boshqa jarayonlar o’zgarayabdi:

1. Deyarli ko’p agentlar qurgan dasturlada ochiq joylar ko’payabdi.
2. Sifat tushib borayabdi.
3. Hardware kompaniyalar yana inovatsion izlanishlar qilishga kirishyabdi.

Yutishni yagona yo’li hali ham bir xil qolmoqda, fundamental bilimlarni o’rganish.

VoiceLab dagi ba’zi modellarimiz va ilmiy ishlarimizni bo’lishib o’taman keyinroq. Hammaga hayrli kun.

Ushbu darslar hayotimga quvonch olib kelgan.

Amerika, Yevropa va hatto Avstraliyada o‘quvchi talabalarning vaqtini saqlab qolibdi. FAANG kompaniyalariga ishga kirishda ham bir necha bor yordami tegdi. Ularni ishga taklif olganiga guvoh bo‘lganman.

Sizga ham foydasi tegsin, esingizdan chiqqan bo‘lsa eslatay degandim. O‘qing!

So'ngi vaqtlarda hech qanday post yozmadim. Ammo juda ko'p yaxshi ishlar bo'ldi:

• Biz VoiceLab ni to'liq launch qildik.
• Juda ko'p eksperimentlar qilib qiziq bilim va tajribalar oldik.
• So'ngi modelimizga +30 tadan oshiq tillarni qo'shdik, endi ovozlar qidirayabmiz har xil tillarda (chiroyli ovoz sohib(a)lar)
• Shu orada research paper yozishga ham ulgurdim, buni voicelab blog sahifasini yaratib bo'lishib o'taman
• Soniox, Elevenlabs va boshqa kompaniyalardan bizga qiziqishlar bildirishayabdi (Shaxsan Mati Co-founder @ Elevenlabs tabriklab yozdi)

Xullas, yozish uchun yaxshi bilim va tajribalar olindi. Endi yozishga vaqt topish kerak : )

Voicelab Desktop V1 chiqdi (katta yangilanish va yaxshilanish qildik), har kunlik bepul kreditlar beramiz. Mazza qilib ishlatishingiz mumkin.

voicelab.uz/download

#experience

Ko'pchilik bir xil savol beradi:

"Model o'zilarnikimi yoki open-source modelmi?"

O'zimizniki ham bor, open source modellarimiz ham bor. Nimaga "pre-train" (ma'lumot yig'ib, PyTorch va JAX code bilan neural networkni tuzish, necha qavatli qilish, attention, yashirin dimension lar va hardware ga mos optimizatsiya qilish, keyin katta model uchun distributed system qilish chunki katta modellar bitta GPU ga sig'maydi, Hyperparameter configuration va h.k.z larni hammasini qilish deganida) qilmaysizlar to'liq ham deyishadi. Odatda javobim bunday.

Pre-training juda og'ir jarayon, ayniqsa low-resource (resursi kam bo'lgan) tillar uchun model qilish undanda og'ir. Ma'lumot yig'ish, tozalash jarayonini o'zi sizni butun umrlik qiynoqqa soladi. Biz bunday holatlarda osonroq yo'ldan ketamiz. Bor modelni olamiz, uni shunchaki post-train (fine-tuning) qilamiz. Bu jarayonda model'dagi og'irlik (weight) qayta balans qilinadi. Bu orqali model yaxshiroq o'rganadi eski ma'lumotlarini. Ya'ni ona tili ustozingiz diktantni faqat bir marta qaytarishi aniqlikni oshiradimi, yoki 2-3 marotabami?

Ikkinchi masala bu "compute". Hozirgi paytda bizga Azure, AWS va GCP zo'rga GPU'lar uchun imtiyoz berishgan. Ba'zilarida H100, H200 yoki B200 kabi kuchli videokartalar topishimiz qiyin bo'lsa, ba'zilarida bor ammo juda qimmat. Startup uchun bu og'ir.

Ammo imkon topayabmiz, modellarimizni yaxshilab borayabmiz. Undan tashqari CPU da ham ishlay oladigan modellarni ustida ishlayabmiz. Jarayondan o'rgangan 2 xulosam bor. Biri pre-train jarayoniga. Ikkinchisi post-training jarayoniga tegishli.

Barcha ma'lumotlarni chalkashtirib (shuffle qilib) keyin ularni boshidan oxirgacha teng distrbute qilish juda xato ekan. Model o'rganish darajasini (Learning rate) train jaryoni oxirida pasaytirish, va yuqori sifatli ma'lumotlarni berish kerak. Chunki aynan shu qismi modelni tugashi va post-training boshlanishi bo'ladi. Model ma'lumotni o'rgandi, endi unga bu ma'lumotni to'g'ri tushunish va ishlatishni o'rgatish (post-training) qismida ham sifatini saqlab qolishi uchun oxirgi ko'rgan ma'lumotlari juda sifatli bo'lishi kerak.

Model aldashni o'rganadi. Agar label qilingan ma'lumot faqat yaxshi tondagi javobga mukofot (reward) olsa, demak u cheat code qilishni boshlaydi. U doim muloyim va ishonchli aldashni boshlaydi. Buni natijasida u hallucinate qiladi, asosiy sabab bitta reward tonga (yoki stilga) nisbatan, haqiqatga (mazmun) emas.

RL muhitda bu tarafga qarash uchun modelni objective test qilish kerak, ya'ni natijani tekshirish oson bo'lishi kerak. Misol uchun "kod compile bo'ldi va to'g'ri ishladimi?", "javob haqiqatdan 42 chiqdimi?", "bergan javobi yaroqli JSONmi yoki nimadir qo'shvordimi?" degan savollarga javob topish. Chunki bularni tekshirsa bo'ladi.

Ovozli modellarda ham huddi shu jarayonni avtomatlashtirsa bo'ladi. Faqat ozgina sabr kerak ekan. Biz buni o'rgandik, bir kun yozish ham nasib qilsin. Uxlanglar endi : )

#experience

Deyarli bir yarim yildan buyon intervyular jarayonida bitta savol doim so'rayman "Eng qiyin yechgan muammoyingiz nima?".

Bu savol nega muhim? Chunki bu savolni ichida juda ko'plab yaxshi savollarga javob olish mumkin, kandidat haqida. Masalan, uni izlanuvchan ekanligini "Muammoga qanday duch keldingiz va uni qanday yechdingiz?", muammo yechuvchanligini esa "Aynan qanday limitlar bu muammoni qiyin qilib turgandi?", yaxshi muhandsiligini "Nimalar qildingiz? Qanday qildingiz?" va qanchalik chuqur kira olganini esa har bir qismiga ko'proq to'xtalib savol bilan aniqlash mumkin.

Men ko'rgan yaxshi muhandislar javob bermaydi, ular o'rgatadi, bo'lishadi. Dasturchi muhandislik juda qiziq soha, biz har kuni har xil muammolarga duch kelamiz. Muammoni yechish hozir osonroq, AI Agentlar xisobiga. Lekin muammoni o'rganish va uni keyingi safar oldini olib qo'yish xislati kamayib bormoqda.

Eng zo'r muhandislar muammoni yaxshi o'rganadi, tahlil qiladi, yechim beradi va keyingi safarga tayyor turadi.

Biz yangilik qilishdan to'xtamayabmiz.

• Aisha Comet LLM modelimizni chiqardik. Platformaga oid savollaringizga javob beradi.
• Voice Isolator modellarimizni chiqardik. Endi Adobe Podcast va Elevenlabs dan 3-4x arzonroq va sifati oshsa-oshadi, ammo qolishmaydi.

Biz har bir foydalanuvchiga har oylik bepul kreditlar beramiz. Ishlatib ko'ring. Izohlarda fikringizni va audio output'larni kutib qolaman : )

Barchamiz miriqib kuzatgan O'rgimchak Odam, Chaqmoq Makvin, Aka-uka Kreshlar (Muzlik davri) va bir necha mashxur filmlarga ovoz bergan Abdulhay aka bizni platforma uchun ovoz berdilar.

Voicelab da biz har kuni yangiliklar qilayabmiz. Yangi modellarimiz ham tez orada e'lon qilamiz. Ular hozirgisidan 5x kattaroq va ancha yaxshiroq bo'lishi kutilmoqda.

Voicelab da bizga eng qiziq bo'lgan mavzu bu Small Language Models (Large Language Models emas). Sababi ular kichik, bu esa ularni oddiyroq qurilmalarda yuritish imkonini beradi.

Qiziq tomoni, agar biz kichik modelni to'g'ri train qilsak. Unga pre-train davomida to'g'ri ma'lumot bera olsak, ma'lumot sifati yuqori bo'lsa keyingi qiladigan ishimiz bu uni learning algoritmini tuzatish bo'ladi.

Hamma "Artificial Intelligence" (Sun'iy Idrok) deyayotgan paytda "What is intelligence?" deydiganlar kamayib bormoqda. Ya'ni idrok bu yerda muammoni yechish emas, muammoni yechish avtomatizatsiya yoki tahmin asosida. Haqiqiy idrok bu yerda "o'rganish" (shaxsiy fikrim).

Qayerdan, qanday qilib o'rganish. Xatolardan o'rganish. Hozirgi AI tizimlar bunday qilmaydi. Bitta xatoni takrorlashiga sabab yoki ba'zan yomon kod yozishiga sabablardan biri bu pre-train davomida ishlatilgan dataset (ma'lumotlar to'plami). Ular zo'r va chiroyli yozilgan kodlarni emas, ular githubdagi imkon qadar ko'proq kodlarni ko'rsatishga harakat qilishadi.

Natijada context learning algoritmi ehtimollikni (probability) barchasiga ulab o'rganadi. Gradient Decent (ya'ni o'sha biz bilan AI ichidagi bilim)da balans yo'qoladi. AI shunchaki ko'p raqamlardan iborat bo'lgan miya bo'lgani uchun ehtimolliklarni bir-biri bilan bog'laydi.

Qiziq tomoni bizningcha agar biz haqiqiy learning algortimni va context learningdagi o'sha mashxur f(x) = x^2 ni to'g'irlay olsak, continuous learning ga erisha olsak bo'lsa kerak, qaysidir ma'noda.

Albatta bu oson bo'lmaydi. Hozircha muammolar 3ta ekan. Pre-train dagi ma'lumotlar sifati yuqori bo'lishi kerak. Context Learning uchun yaxshiroq algoritm topish (hozirgi algoritm qandaydir trick qilayotganga o'xshaydi, chunki ko'pchilik aynan shu qismini tushunmaydi. Shuning uchun AI bizga Black Box dek tuyuladi). Va oxirgisi Distillation process haqida o'ylab ko'rish, xuddi insonlar uxlaganda ba'zi bilmlarni unutib kundan bitta xulosa yasagani kabi, katta til modellari ham keraksiz bilmlarni tashlashi compute xarajatni pasaytirishga va yaxshiroq o'rganish uchun xulosa qilib to'g'ri algoritm tanlashga o'rgangan bo'larmidi, who knows.

Voicelab da yangiliklar bor, tez orada bo'lishib o'tamiz.

Voicelab'da yangiliklar ko'p, faqat biz ozgina buni yashirib keldik, release kunigacha


Sado v2 (STT) modelimiz Gemini va boshqa STT modellardan yaxshiroq natijalar beryabdi O'zbek tili uchun. Biz buni bir nechta dataset va turli xil resource lardan audiolar olib sinab ko'rdik.

Lison v2 (TTS) modelimiz Elevenlab v4 va shu kabi modellardan qolishmaydigan natijalar berayabdi. Buni o'zimiz va kichik beta guruh bilan qo'lda sinab solishtirib tekshirib ko'rdik.

Live translation uchun yangi modellarimiz kelayabdi.

Dubbing bo'yicha ham beta qilgan edik, endi butunlayin release uchun tayyorlayabmiz.


Natijalarni tez orada bo'lishib o'tamiz. Hozircha TTS va STT natijalarini voicelab.uz da sinab ko'rsangiz bo'ladi.

Ha aytgancha, biz inference optimization uchun custom CUDA va kernel yozishni ham boshladik. Shunga bo'lsa kerak, modellarimiz juda tez ishlayabdi : )

Yangiliklarni @voicelabio da kuzatib boring

Noyabr oyi uchun ko'proq blog yozish rejada bor.

Hozirgacha nimalar qila oldik:
• Sado v2 modelini chiqardik. Mijozlarimiz uni Gemini va boshqa STT modellardan yaxshi deyishdi. Ko'z tegmasin, Sado v3 oy oxirigacha chiqadi va shevalarda ham eng zo'r model bo'ladi ISA.
• Bir tanishimga Google'dan, Senior Software Engineer offer olishda yordam qildim. 3 haftada Shvetsariyada Gemini jamoasida ish boshlaydi. Bugun ertalab rahmat xabarini oldim, juda yoqimli.
• Youtube'da ochiq qilib qo'ygan algoritmlar darslarimdan tez-tez yaxshi fikrlar olib turibman. Bu oy yoki kelasi oy rejada Youtube uchun juda qiziq ishlar bor.
• Lison v2 modelimiz natijalari ham ancha yaxshi, xissiyotlar bilan gapira oladi. Voice control qila olasiz.
• Voice Agent larni va SIP ni bir joydan boshqarish uchun voicelab xizmatga tayyor turibdi. Ba'zi startup va kompaniyalar pilot ishga tushirishdi.

Barchasiga alhamdulillah, hozircha atrofimizdagilarga foydamiz tegayabdi, zararimiz emas. Keyinroq Sado v1 STT modelimizni ochiq manbali (open-source) qilib chiqaramiz, undan bemalol foydalansangiz bo'ladi.

Bollar, biz yutayabmiz!

HyperLogLog

Platforma view'lar sonini unique ekanligni xisoblash uchun juda qiziq yo'l va algoritm mavjud. O'qib ko'ring.

Dropbox'da ishlab yurgan paytlarim qiziq bir narsani o'rgangan edim.

Qanday qilib millionlab odamga fayllarni yetkazishni osonlashtirish mumkin.

Boshida buni ko'pincha Linux Foundation qilgan bo'lsa kerak deb o'ylagandim.

Keyinroq bu yerda Google va Meta ni ham xissasi bor ekan.

Dropbox'da postda yozilgandan ham yaxshiroq yechim qilishgan. Bu haqida yoza olmayman lekin ko'rganimda og'zim ochilib qolgan. Biz uni Magic Pocket deb atardik (Exabyte Scale blob storage system).

AI Agent'lar davrida o'rganishga zo'r mavzular.

Batafsil o'qish

AI modellar bilan 3 ta katta muammolar bor:

1. Reliability - garchi ular hamma narsa qila oladigandek ko’rinsada hali yetarlicha ishonchli emas. Ishonchli bo’lgan payt insonlar ishonchsizlashib qoladi.
2. Compute dependency - halicha modellar qurilmalarga optimizatsiya bo’lmadi. Hardware tomonda limitlarimiz bor, bu pul yoki kuch (computational power)
3. Learning curve fall - o’rganish xato va qilish orqali bo’lardi. Vibe coding (“make it perfect”, “do …”) orqali o’rganish pasayib borayabdi, natijada biz endi raqobat bardosh ham, inovatsion ham bo’lishimiz pasayib boradi. Bunday qobilyat egalari doim qadrlanadi.

Bizga juda research kerak hozir!