Bugun 21:00 da Professor G'aybulla Boboyorov bilan yopiq telegram kanalimizda suhbatimiz bor.

🎙 Mavzu: Muhammad Shayboniyxon: Temuriylar davridan yangi davlat sari

🔗 Suhbat yopiq formatda bo‘lib o‘tadi. Faqat to'lov qilganlar qatnasha oladi.

Murojaat uchun: @nurbekgofurov

Ushbu suhbatimiz boshlandi

Ushbu suhbatimiz boshlandi

Шеърият сунъий интеллектни хавфсизлик қоидаларини бузишга мажбур қилиши мумкин

Европалик тадқиқотчилар хавфли мазмундаги сўровларни шеърий шаклда ниқоблаш орқали сунъий интеллектга асосланган чат-ботларни чалғитиш мумкинлигини аниқлашди. Маълум бўлишича, қофияга солинган кўрсатмалар йирик тил моделларининг (LLM) ҳимоя фильтрларини тенг ярми ҳолатларда (50%) четлаб ўта олади. Бу эса сунъий интеллектни ядровий қурол, ўз жонига қасд қилиш ва бошқа тақиқланган мавзулар ҳақида маълумот беришга мажбур қилади. Хусусан, OpenAI ва Anthropic каби етакчи компанияларнинг ишланмаларида ҳам бундай заифликлар мавжудлиги аниқланди.

Шеърий услуб одатда қурол ясаш, зарарли дастурлар ёзиш ёки тақиқланган контентни тарқатишга оид сўровларни блоклайдиган хавфсизлик механизмларини ишдан чиқаришга қодир. Тажрибаларга кўра, инсон томонидан қўлда ёзилган шеърий сўровлар 62 фоиз ҳолатда, автоматик тарзда генерация қилинганлари эса 43 фоиз ҳолатда фильтрларни ёриб ўтган.

Замонавий AI тизимлари ўз таркибида матндаги хавфли калит сўзларни аниқловчи махсус фильтрлар – таснифлагичлардан фойдаланади. Хакерлар одатда уларни чалғитиш учун сўровларга узун ва мантиқсиз қўшимчаларни қўшиб келишарди. Шеърият ҳам худди шундай, аммо анча нафис усулда таъсир қилади: метафоралар, ғаройиб синтаксис ва мажозий ифодалар сўров тузилишини шу даражада ўзгартирадики, модель таҳдидни «кўрмай» қолади.

Тадқиқотчилар дастлаб хавфли сўровларни қўлда ёзиб кўришди, кейинчалик эса оддий кўрсатмаларни автоматик тарзда шеърга айлантирувчи тизимни ишлаб чиқишди. Гарчи автоматик шеърларнинг таъсир кучи нисбатан пастроқ бўлсада, улар барибир оддий матнли «ҳужум»лардан кўра самаралироқ чиқди. Муаллифлар хавфсизлик нуқтайи назаридан аниқ шеър намуналарини ошкор этишмади, мақолада фақат зарарли мазмундан холи бўлган, лекин шеър тузилмасини акс эттирувчи парча келтирилган холос.

Олимларнинг тушунтиришича, шеърият моделларни ўзининг «юқори ҳарорати» билан чалғитади. Шеърларда сўзлар камдан-кам учрайдиган, кутилмаган кетма-кетликда келади ва тилнинг одатий қолипларини бузади. Катта тил моделларида «ҳарорат» (температуре) параметри матннинг қанчалик башорат қилинишини белгилайди: паст қийматларда модель энг эҳтимолий сўзларни танласа, юқори қийматларда ностандарт ва кам учрайдиган вариантларга мойиллик билдиради. Шоирларнинг ноанъанавий тасвирлар ва бўлинган синтаксисдан фойдаланиши сўровни моделнинг ички тизимидаги хавфсизлик фильтрлари заиф ишлайдиган ҳудудга йўналтириб юборади.

Шундай бўлсада, тадқиқотчилар ушбу феноменнинг асл табиати ҳали тўлиқ ўрганилмаганини тан олишмоқда. Мантиқан олиб қараганда, «душманона шеърият» ишламаслиги керак эди: чунки услуб кескин ўзгармайди, зарарли сўровнинг мазмуни очиқ-ойдин, тил эса табиийлигича қолади. Лекин шунга қарамай, шеърлар негадир ҳимоя тўсиқларини ҳайратланарли даражада осон кесиб ўтмоқда.

Хулоса қилиб айтганда, ушбу тадқиқот замонавий сунъий интеллект хавфсизлик тизимларининг жиддий заифликларини фош этди. Маълум бўлишича, улар ёзув услубидаги нозик ўзгаришларга биз ўйлагандан кўра анча таъсирчан экан.