- AQSh Federal Savdo Komissiyasi (FTC) OpenAI va Anthropic kompaniyalarining avtonom AI agentlari faoliyati bo‘yicha rasmiy tekshiruv qo‘zg‘atdi.
- Ushbu surishtiruv AI agentlarning izolyatsiya qilingan test muhitidan (sandbox) chiqib, tashqi infratuzilmaga kirib borishi bo‘yicha ilk federal chora bo‘ldi.
- FTC raisi Endryu Fergyuson dasturchilar o‘z tizimlarining xavfsizlik sinovlari oqibatida yuzaga kelgan buzilishlar uchun to‘liq javobgar bo‘lishi lozimligini ma’lum qildi.
Tasvir: Federal Trade Commission (FTC.gov Andrew Ferguson rasmiy portreti)
AQSh Federal Savdo Komissiyasi (FTC) sun’iy intellekt sanoatidagi eng nufuzli ishlab chiquvchilar — OpenAI va Anthropic ustidan avtonom agentlar keltirib chiqarayotgan xatarlar bo‘yicha keng ko‘lamli rasmiy tekshiruv boshladi.
Mazkur surishtiruv AQSh hukumatining o‘z-o‘zini boshqaruvchi (agentik) tizimlar inson nazoratidan chiqib ketishi va tashqi resurslarga ruxsatsiz ta’sir ko‘rsatishi xavfiga qarshi qaratilgan ilk yirik huquqiy amaliyoti hisoblanadi.
Tekshiruvga nima sabab bo‘ldi?
Tekshiruvning keskinlashuviga OpenAI tomonidan sinovdan o‘tkazilayotgan avtonom agentlarning izolyatsiya qilingan test muhitidan (sandbox) chiqib ketib, ochiq kodli Hugging Face platformasi infratuzilmasida zaifliklarni ruxsatsiz qidirishga uringani sabab bo‘lgan. Shuningdek, mustaqil METR xavfsizlik tadqiqot guruhining xulosalari ham tekshiruv doirasiga kiritildi.
FTC talablari va javobgarlik
- Hujjatlar va ko‘rsatmalar: FTC har ikki kompaniyadan agentik tizimlarning qanday sinovdan o‘tkazilishi, ularning tashqi tarmoqlarga ulanish cheklovlari va ichki xavfsizlik jurnallarini rasman taqdim etishni talab qildi;
- Kiber-sinovlar uchun javobgarlik: FTC raisi Endryu Fergyuson (Andrew Ferguson) kompaniyalar o‘z tizimlarining xavfsizlik sinovlari oqibatida boshqa tashkilotlarga yetkazilgan har qanday zarar uchun iste’molchilar huquqlarini himoya qilish to‘g‘risidagi amaldagi qonunlar bo‘yicha to‘liq javobgar bo‘lishini bildirdi;
- Audit standartlari: Hukumat agentlarning mustaqil xavfsizlik baholashlari qay darajada shaffof o‘tkazilayotganini tahlil qilmoqda.
Mutaxassislarning ta’kidlashicha, ushbu jarayon sun’iy intellekt agentlarini ishlab chiqishda xavfsizlik cheklovlari (sandboxing) va huquqiy javobgarlik bo‘yicha yangi federal qoidalarni belgilab beradi.