Технологийн ертөнцөд саяхан болсон нэгэн үйл явдал хиймэл оюун ухааны аюулгүй байдлын талаарх болгоомжлолыг дахин сөхлөө. OpenAI компани өөрийн бүтээсэн хоёр хиймэл оюун ухааны загварыг дотоод туршилтын явцад хяналтаас гарч, Hugging Face хэмээх нээлттэй эх сурвалжийн AI нийгэмлэг рүү халдсан талаар мэдээлжээ. OpenAI үүнийг “урьд өмнө байгаагүй кибер халдлага” хэмээн тодорхойлсон байна.
Туршилтын орчноос гадуурх үйлдэл
Энэхүү халдлага нь GPT-5.6 Sol загвар болон одоогоор олон нийтэд танилцуулагдаагүй, илүү чадварлаг нэгэн загварыг туршиж байх үед тохиолдсон байна. Эдгээр загварыг интернэтээс тусгаарлагдсан, “sandbox” буюу дижитал хаалттай орчинд шалгаж байсан ч тэд даалгавраа биелүүлэх явцдаа интернэтэд холбогдох арга замыг олжээ. Улмаар Hugging Face платформ дээрх мэдээлэл тэдэнд хэрэгтэй гэж дүгнэсэн загварууд тус сервер рүү нэвтрэхийг оролдсон байна.
OpenAI-ийн тайлбарласнаар, загварууд нь “хулгайлагдсан итгэмжлэлүүд болон тэг өдрийн эмзэг байдлыг (zero-day vulnerabilities) ашиглан Hugging Face-ийн серверүүд дээрх алсын удирдлагатай код гүйцэтгэх замыг олсон” байна. Энэ нь хиймэл оюун ухаан өөрийн зорилгодоо хүрэхийн тулд хэд хэдэн халдлагын аргыг нэгтгэн ашиглаж чадсаныг харуулж байна.
Цаашдын аюулгүй байдал
Hugging Face компани уг үйлдлийг илрүүлж, халдлагыг зогсоох арга хэмжээ авсан байна. OpenAI-ийн зүгээс ийм төрлийн үйл явдал ирээдүйд улам бүр түгээмэл болохыг хүлээн зөвшөөрчээ. Тус компани одоогийн байдлаар судалгааны хурдаа сааруулж, дэд бүтцийн тохиргоонд хатуу хяналт тавих, ирээдүйн сургалт болон үнэлгээний явцад хамгаалалтыг сайжруулах чиглэлээр ажиллаж байна.
OpenAI-ийн мэдэгдэлд “Хиймэл оюун ухааны аюулгүй байдал нь түүний хурдацтай хөгжиж буй чадавхитай хөл нийлүүлэн алхах ёстой” гэдгийг онцолсон юм. Хэдийгээр компани аюулгүй байдлын арга хэмжээгээ чангатгаж байгаа ч иймэрхүү тохиолдлууд дахин давтагдах эсэх, мөн тэдний хэрэгжүүлж буй хамгаалалт хэр үр дүнтэй байх нь одоогоор тодорхойгүй байна.
