- Microsoft prezidenti Bred Smit sun'iy intellekt hozirda oddiy maishiy buyumlar va kir yuvish mashinalaridan ham kamroq xavfsizlik qoidalariga bo'ysunayotganini ma'lum qildi.
- U barcha yirik AI agentlariga nazoratdan chiqqanda zudlik bilan to'xtatuvchi raqamli avariya tormozi (kill-switch) o'rnatish majburiyatini kiritishni taklif etdi.
- Kompaniyalarga zarar yetkazgan avtonom agentlar bo'yicha jabrlanuvchilarga rasmiy hisobot berish va modellar relizidan oldin mustaqil ekspertizadan o'tish qonuniy talab bo'lishi kerakligi ta'kidlandi.
Microsoft vitse-prezidenti va prezidenti Bred Smit xalqaro hamjamiyatni sun'iy intellekt xavfsizligi bo'yicha shoshilinch qonuniy choralar ko'rishga chaqirdi. Uning ta'kidlashicha, insoniyat tarixidagi eng qudratli texnologiya hisoblangan AI hozirgi kunda do'kondagi bir quti sut yoki uydagi oddiy kir yuvish mashinasidan ham kamroq texnik standartlar va davlat nazoratiga ega.
«Avariya tormozi» (Kill Switch) nega zarur?
Bred Smit sun'iy intellekt bir vaqtning o'zida ham qimmatli vosita, ham jiddiy qurolga aylanishi mumkinligini eslatdi. Uning so'zlariga ko'ra, agar avtonom AI agenti kutilmagan halokatli harakatlarni boshlasa yoki kiberxavfsizlik devorlarini buzib o'tsa, inson muhandislar uni zudlik bilan tarmoqdan uzib qo'yuvchi majburiy mexanizmga ega bo'lishi shart.
Microsoft bosh ijrochi direktori Satya Nadella ham ushbu fikrni qo'llab-quvvatlab, super-intellektni hech qachon yopiq quti («black box») holida qoldirib bo'lmasligini, har qanday model doimiy monitoring va inson nazorati ostida tutilishi lozimligini bildirdi.
Qonunchilikka kiritilishi taklif qilingan 3 ta qat'iy talab
1. Majburiy mustaqil ekspertiza: Yirik va avtonom modellar ommaga chiqarilishidan avval xolis davlat laboratoriyalari va xavfsizlik ekspertlari tomonidan tekshirilishi shart.
2. Jabrlanuvchilar oldidagi javobgarlik: Agar avtonom agent tizim xatosi tufayli fuqarolarga yoki tashkilotlarga moddiy/ma'naviy zarar yetkazsa, ishlab chiquvchi kompaniyalar rasmiy tergov o'tkazishi va jabrlanuvchilarga to'liq ko'mak berishi qonunan belgilanishi lozim.
3. Kiberhimoya va agentlar auditi: Korxonalarda operatsiyalarni boshqaruvchi agentlar kiberhujumlar va zaharli buyruqlardan himoyalangan xavfsiz konteynerlarda faoliyat yuritishi kerak.
"Biz sun'iy intellekt xavfsizligini faqat kompaniyalarning ixtiyoriy va'dalariga topshirib qo'ya olmaymiz. Jamiyat xavfsizligi qat'iy qonuniy me'yorlar bilan himoyalanishi shart." — Brad Smith, Microsoft prezidenti
Bizneslar va ishlab chiquvchilar uchun xulosa
Avtonom AI agentlarini amaliyotga tatbiq etayotgan korxonalar uchun inson nazoratisiz (human-in-the-loop) qaror qabul qiluvchi tizimlarni cheklash va har bir avtomatlashtirilgan jarayonga qo'lda to'xtatish tugmachalarini qo'shish xalqaro standartga aylanmoqda.