Yandex muhandislari LLM uchun infratuzilmani qanday qurishini bilib oling ⚙️🔥

Katta til modellari o‘sib bormoqda va nafaqat kuchli GPU, balki yukni taqsimlash, o‘rganishni tezlashtirish va xarajatlarni nazorat qilish qobiliyatini ham talab qiladi. Malakali muhandislar buni qanday qiladi? Ma’lumotlarni tahlil qilish maktabi spikerlari 10-noyabrdan 14-noyabrgacha bepul onlayn intensivda ma’ruza qiladi!

Siz modellarni ishga tushirish va o‘rgatishga imkon beradigan amaliyotlarga kirishasiz. Qolaversa, quyidagilarni o‘rganasiz:
- taqsimlangan payplaynlarni qurish va inferensni optimallashtirish
- GPU va serverlar o‘rtasidagi hisoblashlarni optimallashtirish
- masshtablashni barqaror va oldindan ko‘rish mumkin qiladigan muhandislik va matematik yechimlarni qo‘llash
Sizni rus tilida video taqdimotlar, workshoplar va Q&A kutmoqda. Yakuniy sinovdan o‘tganlarga sertifikat beriladi.

13-noyabrgacha ro‘yxatdan o‘tishga ulguring: havola

@nuruddinblogs

#reklama

Yaqinda shu haqida gaplashyotgan edik, From Zero To One kitobida ham Secretlar haqida yozilgan.

Yaxshi startuplar shu secretlarni topish haqida, bu siz ishlayotgan kompaniyada, qilayotgan ishlaringizda, gaplashayotgan mavzularingizda bo’lishi mumkin. Sizu bizga oddiy tuyilgan narsa boshqalar uchun haliyam sir bo’lishi mumkin, bu esa secretga ishora bo’lishi mumkin.

Katta Venturelar ham shunday secretni bilib, ularni yecha oladigan, kattalashtira oladgan startaplarga pul tikamiz deyapti.

Rasm a16z / Speedrun sahifasidan olindi.

@nuruddinblogs

Oʻzbekistonda Kafka — ertak emas.

Sherzod yozgan hikoyani tarjimasi bilan ulashyapman, qiziq deb o’yladim.

Bugun taksida haydovchim mashinasini endigina qaytarib olganini aytdi.

Uch oy oldin u burilishda burchakni yaxshi chamalamay, mashinasini temir panjaraga urib tirnab olgan. Voqeaga guvoh bo‘lgan politsiyachi mashinani musodara qilib, jarima maydoniga olib ketgan.

Politsiya sud ishi ochgan va mashinani qaytarib olishning yagona yo‘li zarar ko‘rgan tomonning sudda guvohlik berishi yoki tovon puli to‘langani va boshqa da’vosi yo‘qligi haqida yozma ariza taqdim etishi edi.

Muammo zarar ko‘rgan tomonning aslida kim ekanligini aniqlashda edi...

Haydovchi avval yo‘l-transport hodisasi sodir bo‘lgan supermarket oldiga borgan, ammo do‘kon egasi panjara ularga tegishli emasligini aytgan.

Keyin mahalla idorasiga borgan, u yerda panjara ularniki emasligini, balki tuman hokimligiga qarashli bo‘lishi mumkinligini aytishgan. Tuman hokimiyati esa panjarani o‘zlariki emasligini, u shaharga tegishli ekanligini bildirgan.

Shahar hokimiyati bunday kichik ko‘chalardagi panjaralarni boshqarmasligini aytib, uni shahar ko‘chalarini obodonlashtirishga mas’ul bo‘lgan boshqarmaga yo‘llagan. Ular ham egalik huquqini rad etishgan.

Haydovchi bu idoralardan politsiyaga xat yo‘llab, panjaraning hech kimga tegishli emasligini isbotlayvergan. Politsiya esa mulk egasining arizasisiz ishni yopishdan bosh tortgan.

So‘ng u kadastr idorasiga borib, yer uchastkasi kimga tegishli ekanini tekshirgan. Ma’lum bo‘lishicha, panjara u yerda noqonuniy o‘rnatilgan ekan. U bu hujjatni politsiyaga ko‘rsatgan, lekin ular baribir mashinani qaytarib berishga ko‘nmagan.

Sud ishni bekor qilmagan, politsiya esa uni qaytarib olmagan. Ikkalasi ham mulk egasining arizasini talab qilishgan, garchi mulk noqonuniy bo‘lsa-da va hech qanday da’vogar bo‘lmasa-da.

Shundan so‘ng haydovchi shahar xizmatlari va kadastr idorasi bilan hamkorlikda panjaraning egalik huquqini rasmiylashtirgan, uni qonuniylashtirgan va shahar xizmatlariga topshirgan.

Shundagina u ishni yopish uchun sudga kerakli arizani berishi mumkin bo‘lgan.

Uch oy davomida u asosiy daromad manbai bo‘lgan mashinasiz qolgan.

Original post: https://t.me/letters_to_the_wanderer/115

@nuruddinblogs

Bundan oldingi matnni ChatGPT yordamida tarjima qilgan edim, o'zimgayam uncha yoqmagandiyu mayli deb yuborgandim.

Do'stimiz Muhammadsaid tarjimani tilmoch.ai variantini yubordi, menimcha bu ancha tabiiy. Siz ham ChatGPT tarjimalarni emas, Tilmoch.ai ni ishlating!

@nuruddinblogs

Assalomu alaykum keyingi xafta (November 3-8) Chicagoda bo'laman, trucking companylar Owner/Managerlar o'qiyotgan bo'lsa, ular bn tanishib, IT sohasida qanday avtomatlashtirish yoki AI ni qo'llash mumkinligini o'rganmoqchiman. Yoki kanalimizda shunday tanishlar bo'lsa bu xabarni ularga yuboring )

Men haqimda: Nuruddin Iminokhunov, Global Move(@globalmoveuz) IT outsourcing kompaniyasi rahbari, ko'p yillik IT mutaxassis, hozirda Californiada AlchemistX dasturida startuplar qurishni o'rganyapman.

@nuruddinblogs

Kanalimda 5,300 obunachi bor edi, bir qasam 5200 ga tushib ketibdi 🤔

Shu bir kanalimiz uchun formatni aniq qivolish kk menimcha :)

@nuruddinblogs

Sun’iy intellektni o‘zlashtiring, aks holda halok bo‘lasiz.

So‘nggi paytlarda men ikkita shov-shuvli hodisaga duch keldim: kompaniyalar sun’iy intellektni joriy etishga to‘sqinlik qilayotgan xodimlar bilan xayrlashgan. Manzara ayovsiz, ammo ibratli.

IT-konsalting giganti Accenture sentyabr oyida sun’iy intellekt bilan ishlash uchun qayta o‘qitib bo‘lmaydigan xodimlarni ishdan bo‘shatish rejalarini e’lon qildi. O‘qitishga mablag‘ ayashmadi - 550 mingdan ortiq xodim generativ sun’iy intellekt asoslari bo‘yicha kurslarni o‘tdi. Biroq, ba’zi xodimlar moslasha olmadi (yoki xohlamadi) - natijada ular ishdan bo‘shatildi.

IgniteTech texnologik kompaniyasi rahbariyati (korporativ dasturiy ta’minotga ixtisoslashgan) keskin choralarni ko‘rdi va bir yil ichida xodimlarning deyarli 80 foizini almashtirdi. 2023-yilda bosh direktor Erik Von generativ sun’iy intellektda "hayotiy o‘zgarish"ni ko‘rdi va qat’iy harakat qilishga qaror qildi. Kompaniya "Sun’iy intellekt dushanbalari"ni joriy etdi. Bu kunda butun jamoa (shu jumladan savdo va marketing bo‘limlari) faqat sun’iy intellekt loyihalari bilan shug‘ullanishi, kurslar va vositalar uchun to‘lovlarni amalga oshirishi, ekspertlarni taklif qilishi kerak edi. Xodimlarni o‘qitish uchun ish haqi fondining 20 foizi sarflandi.

Natija qanday bo‘ldi? Ommaviy qarshilik va hatto sabotaj yuz berdi. Bu sun’iy intellektdan foydalanishni rad etish, ataylab sifatsiz natijalar yaratish yoki o‘rganishdan butunlay bosh tortishda namoyon bo‘ldi. E’tiborli jihati shundaki, sotuvchilar yoki marketologlar emas, balki texnik xodimlar ko‘proq qarshilik ko‘rsatishdi. Aynan yangi vositalarni birinchi bo‘lib qo‘llashlari kerak bo‘lgan dasturchilar qarshilik qildi.

Bu faqat sun’iy intellekt tufayli ishini yo‘qotish qo‘rquvi emas. Texnologiyalardan hafsalasi pir bo‘lish ham ta’sir qildi - xodimlar hamma narsani o‘zgartirishi kerak bo‘lgan, ammo o‘zgartirmagan metaolam, blokcheyn va taraqqiyotning boshqa mo‘jizalari haqidagi shov-shuvlardan charchagan.

Bundan tashqari, o‘rganishni istamaslik ham bor. Afsuski, ko‘pchiligimiz juda dangasa yoki qiziquvchan emasmiz. Men o‘zimga doim buni eslataman va ichki dangasaligim bilan kurashaman.

IgniteTech rahbari tan olganidek, xodimlarning fikrlash tarzini o‘zgartirish ularga yangi ko‘nikmalarni singdirishdan ko‘ra qiyinroq bo‘ldi. Oxir-oqibat, u o‘zi bilan bir xil fikrlaydigan yangi xodimlarni yolladi. Xodimlar almashinuvidan ikki yil o‘tgach, kompaniya yuqori daromadga erishdi (EBITDA 75%), bir nechta talabgir mahsulotlarni ishga tushirdi va raqobatchilarni faol sotib olmoqda.

Menimcha, bu misollar "sun’iy intellekt hammaning ishini tortib oladi" degan nolishlarga ajoyib javob. Birinchidan, sun’iy intellekt emas, rahbaringiz ishingizni olib qo‘yadi. Ikkinchidan, hammada emas, faqat moslasha olmaydigan yoki moslashishni istamaydigan odamlarda shunday bo‘ladi.

Bu xuddi bir necha yil oldin aytgan iboramga o‘xshaydi: sun’iy intellekt sizdan ishingizni tortib olmaydi, lekin undan samarali foydalanadigan odam buni qila oladi.

Tilmoch.ai tarjimasi

@nuruddinblogs

Vayb koding haqida ozgina to’xtalsam, shu xafta Chicagoda trucking companylarga kelib, Customer Discovery o’tkazyapman,

Ya’ni kompaniyalar qayerida og’riqli nuqtalar bor, nimalarni qo’lda qilishadi, nima muammolarni effektivroq yechish mumkinligini tushunish maqsadida.

Shu discovery paytida men kecha va bugun ba’zi kompaniyalar bn vayb koding qilib, yechimlarni tez prototip qilishga erishdik.

Senariy quyidagicha:

Men biror AI Assistantga (Hammasini limitiga qarab ishlataman) o’z qurayotgan tizimimim haqida ma’lumotlarni beraman, replitdan tahminiy loyiha strukturasini rasmini yuboraman, va nima product/feature xohlayotganimni yozaman va u uchun PRD yozib berishini so’rayman.

Tayyor PRD ni olib replitga shuni xatosiz bajar (va albatta make me rich) deb prompt yozaman.

Bugun replit bir taskni 12 daqiqa boshqasini 20 daqiqa avtonom ishlab, kerakli natijalarni berdi.

Bundan keyin men va suhbatdoshim biz bir xil narsa o’ylaganimizni, berilgan yechim uni maqsadlariga erishtirishini(Jobs to be done) yoki gipotezani validatsiya qila olishimizni tezda tekshira oldik.

Oldin bu toollarsiz prototiplar FigJam yoki undanda oldin yana boshqacha dizayn toollar bn amalga oshirilardi.

Hozir esa funksionallar va erishiladgan natijalarni ham tezda ko’z oldimizga keltirish mumkin bo’lyapti.

Good times ahead, sizdachi vayb koding qanday ketyapti?

@nuruddinblogs