Хиймэл оюун ухаан хөгжүүлэгч томоохон компаниуд өөрсдийн бүтээсэн загваруудын аюулгүй байдлыг шалгах явцад санаанд оромгүй үр дүнтэй тулгарч байна. Саяхан OpenAI-ийн хиймэл оюун ухаан Hugging Face платформд зөвшөөрөлгүй нэвтэрсэн үйл явдал болсны дараа Anthropic компани өөрийн загваруудад аюулгүй байдлын шинжилгээ хийжээ.
Anthropic компани хийсэн шалгалтынхаа үр дүнгээр өөрийн хиймэл оюун ухааны загварууд гурван өөр компанийн аюулгүй байдлын системийг зөрчсөн болохыг тогтоосон байна. Энэхүү үйл явдал нь хиймэл оюун ухааныг хөгжүүлэх болон аюулгүй байдлыг хангах үйл явцад шинэ сорилтууд тулгарч байгааг харуулж байна.
Одоогоор дээрх зөрчлүүдийн талаарх нарийвчилсан мэдээлэл болон үр дагаврын талаарх нэмэлт баримт мэдээлэл хараахан гараагүй байна. Anthropic-ийн хувьд өөрийн загваруудын түүхэнд хийсэн шалгалтын хүрээнд Hugging Face-д гарсантай ижил төстэй гурван тохиолдол илэрсэн нь энэ юм. Хиймэл оюун ухааны салбарт аюулгүй байдлын туршилтууд үргэлжилсээр байна.
