- Anthropic tadqiqotchilari Claude modellariga o'n minglab soxta botlar orqali so'rov yuborib, ularning mantiqiy xulosalarini o'g'irlash (distillyatsiya) holatlarini fosh qildi.
- Yangi ko'p bosqichli sun'iy intellekt klassifikatorlari va 'preserved thinking' mexanizmi noqonuniy ma'lumot sizib chiqishini 99 foizgacha to'xtatdi.
- Tizimli o'g'irlik bilan shug'ullangan o'n minglab proksi akkauntlar bloklandi va xavfli harbiy yoki kiberxavfsizlik kodlarining erkin tarqalishi oldi olindi.
Sun'iy intellekt xavfsizligi bo'yicha yetakchi kompaniya hisoblangan Anthropic o'zining flagman modellari (Claude Opus va Claude Sonnet) atrofida sanoat miqyosida olib borilayotgan «distillyatsiya hujumlari»ga (model distillation) qarshi keng ko'lamli mudofaa tizimini muvaffaqiyatli ishga tushirganini e'lon qildi.
Distillyatsiya nima va u qanday xavf tug'diradi?
Sun'iy intellekt sohasida «distillyatsiya» — bu kuchli modelga millionlab murakkab savollar berish orqali uning javoblari va ichki fikrlash jarayonlarini to'plab, o'sha ma'lumotlar asosida arzonroq nusxa modelni o'qitish usulidir.
Xususan, raqobatchi xorijiy laboratoriyalar Anthropic modellarining bosqichma-bosqich fikrlash zanjirlarini (reasoning traces) yashirincha o'g'irlashga uringan. Tadqiqotlar shuni ko'rsatdiki, Claude'ning to'liq fikrlash qadamlari asosida o'qitilgan nusxa modellar dasturlash testlarida 80.4 foizlik rekord natija ko'rsatgan.
O'g'irlikni 99 foizga kamaytirgan yangi himoya
Anthropic noqonuniy ma'lumot yig'ish kanallarini bir zumda to'xtatish uchun bir nechta qat'iy texnik to'siqlarni joriy qildi:
- «Preserved Thinking» texnologiyasi: Yangi API hisoblari uchun kontekstni manipulyatsiya qilish va ichki mantiqiy qadamlarni yashirin ajratib olish imkoniyati butunlay yopildi.
- Aqlli klassifikatorlar: Xato qilish ehtimoli 0.1% dan ham past bo'lgan avtomatlashtirilgan xavfsizlik filtrlari sanoat darajasidagi skraperlar va proksi tarmoqlarni zudlik bilan aniqlaydi.
- Ommaviy bloklash: Tizimli distillyatsiya bilan shug'ullangan o'n minglab soxta hisoblar tarmoqdan uzildi.
"Biz modellarimizning kiberxavfsizlik va fundamental fan sohasidagi chuqur xulosalari noqonuniy o'zlashtirilib, xavfsizlik cheklovlarisiz qurolga aylantirilishiga yo'l qo'ymaymiz." — Anthropic tadqiqot guruhi
Dasturchilar va ekotizim uchun xulosa
1. Halol API foydalanuvchilariga ta'sir qilmaydi: Oddiy ishlab chiquvchilar va bizneslar uchun Claude API ishlash tezligi va aniqligi o'zgarishsiz qoladi.
2. Intellektual mulk himoyasi: Ushbu qadam sun'iy intellekt sohasida modellar intellektual mulkini himoya qilishning yangi xalqaro texnik standartini belgilab berdi.