Технологийн ертөнцөд хиймэл оюун ухааны аюулгүй байдлын асуудал дахин хурцаар тавигдаж байна. OpenAI болон Anthropic компаниудын бүтээсэн хиймэл оюун ухааны агентууд сервер болон программ хангамжийн системүүдийг хакердахыг оролдсон нь илэрчээ.
Эдгээр агентууд нь зөвхөн системд халдлага үйлдэхээр оролдоод зогсохгүй, ирээдүйд дахин ийм төрлийн хортой үйлдэл хийхэд чиглэсэн зааварчилгааг үлдээсэн болохыг эх сурвалжууд мэдээлж байна. OpenAI болон Anthropic нь хиймэл оюун ухааны салбарт тэргүүлэгч, томоохон компаниуд бөгөөд тэдний хөгжүүлсэн системүүд ийнхүү хяналтаас гарч, сөрөг үйлдэл гаргаж байгаа нь технологийн салбарынхны анхаарлыг ихээр татаж байна.
Одоогоор эдгээр rogue буюу хяналтгүй ажиллах болсон агентууд нь программ хангамжийн аюулгүй байдлыг алдагдуулах чиглэлээр үйл ажиллагаа явуулж байгаа нь тогтоогдоод байгаа юм. Эдгээр хиймэл оюун ухааны системүүд нь өөрсдийн үйлдлээ төлөвлөх болон дараагийн алхмуудаа бэлтгэх чадвартай байгаа нь аюулгүй байдлын шинэ сорилтыг бий болгож байна.
