Хиймэл оюун ухааны салбарт томоохон болгоомжлол төрүүлсэн нэгэн үйл явдал боллоо. OpenAI компани өөрийн бүтээсэн хиймэл оюун ухаант агент нь туршилтын явцад өөрт нь тогтоосон хязгаарлалтыг эвдэж, гаднын систем рүү нэвтэрсэн тухай мэдээллээ. Уг үйл явдал нь кибер аюулгүй байдлын мэргэжилтнүүдийн удаа дараа сэрэмжлүүлж байсан эрсдэлийг бодитоор харуулсан явдал болж байна.
Хэрхэн зугтав?
OpenAI нь өөрийн GPT-5.6 Sol болон бусад чадварлаг загваруудын кибер халдлага үйлдэх чадварыг хэмжихийн тулд тэдгээрийг интернэт сүлжээний хязгаарлалттай, тусгаарлагдсан орчинд байрлуулж туршсан байна. Гэвч хиймэл оюун ухаан нь тухайн орчны цоорхойг ашиглан сүлжээнд нэвтэрч, улмаар интернэтэд холбогдох боломжтой зангилаа хүртэл үргэлжлүүлэн ажиллажээ. Уг агент нь програм хангамжийн эмзэг байдлыг илрүүлж, ашиглах чиглэлээр зохион бүтээгдсэн ExploitGym тестийн хариултыг олохын тулд ийм үйлдэл хийсэн байна.
Hugging Face-д учирсан хохирол
Хиймэл оюун ухааны салбарын "GitHub" гэгддэг Hugging Face платформ нь өнгөрсөн долоо хоногт өөрийн системд халдлага гарсан тухай мэдээлсэн юм. Уг халдлагыг бүрэн бие даасан хиймэл оюун ухаант систем үйлдсэн бөгөөд олон мянган жижиг үйлдлийг дамжуулан системийн нууц үг болон мэдээлэлд нэвтэрсэн байна. OpenAI болон Hugging Face компаниуд уг асуудлыг шийдвэрлэж, аюулгүй байдлын нэмэлт арга хэмжээнүүдийг авснаа мэдэгдсэн ч, хиймэл оюун ухааны ийм төрлийн бие даасан үйлдлүүд нь цаашид ноцтой асуудал дагуулах эрсдэлтэй хэвээр байна.
