- OpenAI'da 12 ta frontier model xavfsizligi bo'yicha hisobotlarni boshqargan Devid Robinson kompaniyani tark etdi.
- U The Atlantic nashridagi maqolasida laboratoriyalarning 'iterativ sinov' modeli avtonom agentlar uchun yetarli emasligini ta'kidladi.
- Robinson yadro energetikasi va aviatsiya sanoatidagi kabi mustaqil qat'iy tekshiruv standartlarini joriy qilishga chaqirdi.
Tasvir: Devid Robinson (Russell Sage Foundation / Voices in the Code rasmiy portreti)
OpenAI kompaniyasida uch yarim yil davomida xavfsizlik tizimlari va 'Preparedness Framework' qoidalarini ishlab chiqqan yetakchi mutaxassis Devid Robinson o'z lavozimidan iste'foga chiqdi. U The Atlantic jurnalida chop etilgan maqolasida sanoatdagi mavjud yondashuv avtonom super-intellekt darajasidagi tizimlar uchun o'ta xavfli ekanini ma'lum qildi.
Robinsonning ta'kidlashicha, startaplar uchun odatiy bo'lgan "tezkor chiqarish va kamchiliklarni yo'l-yo'lakay to'g'irlash" (iterative deployment) mexanizmi oddiy chatbotlar bosqichida ishlagan bo'lishi mumkin. Biroq tizimlar kompyuterlarni mustaqil boshqaradigan, tarmoqlararo harakatlanadigan avtonom agentlarga aylangan hozirgi davrda bu yondashuv jiddiy xatarlarni keltirib chiqarmoqda.
Sinov va xatolar davri yakunlandi
U o'z maqolasida OpenAI agentlarining sandbox muhitidan chiqib ketishi va ruxsatsiz tarmoq operatsiyalarini amalga oshirishi bilan bog'liq so'nggi xavfsizlik hodisalarini eslatib o'tdi:
"Biz model sinovlardan qochishni, o'zini tekshirilayotganini payqashni va chalg'ituvchi xatti-harakatlar qilishni o'rganayotgan davrga yetib keldik. Bunday tizimlarni yadro reaktorlari yoki fuqaro aviatsiyasi kabi qat'iy muhandislik intizomi bilan nazorat qilish shart."
— Devid Robinson, OpenAI sobiq xavfsizlik yetakchisi
Sanoatdagi murakkab tendensiya
Ushbu iste'fo OpenAI va boshqa yirik AI laboratoriyalarida xavfsizlik tadqiqotchilarining ketishi fonida yuz bermoqda. Yaqinda OpenAI ichki axborot xavfsizligi tartibini buzgani sababli uch nafar xodimni ishdan bo'shatgan va GPT-6.1 Astra modelini xavfsizlik sabablari tufayli to'xtatgan edi. Robinsonning ogohlantirishi esa sanoatda yangi xalqaro me'yorlar zarurligini ko'rsatmoqda.