Хиймэл оюун ухааны салбарт тэргүүлэгч Anthropic компани өөрийн хамгийн сүүлийн үеийн бүтээл болох Claude Fable 5 загварыг зах зээлээс түр хугацаанд татаж байгаагаа албан ёсоор мэдэгдлээ. Энэхүү шийдвэр нь АНУ-ын засгийн газраас гаргасан аюулгүй байдлын тусгай шаардлагын дагуу хийгдэж буй алхам юм.
Anthropic бол OpenAI-ийн гол өрсөлдөгч гэгддэг, хиймэл оюун ухааны аюулгүй байдал болон ёс зүйд илүү анхаардаг технологийн компани юм. Тэдний бүтээсэн Claude загварууд нь хүнтэй ижил түвшинд харилцах, нарийн төвөгтэй даалгавар гүйцэтгэх чадвараараа дэлхий дахинд танигдсан. Гэвч Fable 5 загварын хувьд санаанд оромгүй асуудал үүссэн нь хэрэглэгчид хиймэл оюун ухааны хамгаалалтын системийг алгасах буюу “jailbreak” хийх арга замыг олсон явдал байв.
Компанийн зүгээс гаргасан блог мэдээлэлд дурдсанаар, засгийн газрын зүгээс Fable 5-ын аюулгүй байдлын системд ноцтой цоорхой байгааг илрүүлсэн байна. Энэхүү цоорхойг ашиглан хэрэглэгчид хиймэл оюун ухааныг хортой код бичих, хууль бус үйлдэл хийхэд ашиглах эрсдэлтэй гэж үзжээ. Тиймээс Anthropic нь иргэдийн аюулгүй байдлыг хангах үүднээс уг загварыг дахин шинэчлэн сайжруулах хүртэл бүх хандалтыг хаах шийдвэр гаргасан байна.
Хиймэл оюун ухааныг хөгжүүлэгчдийн хувьд “jailbreak” буюу системийн хязгаарлалтыг эвдэх нь хамгийн том сорилтуудын нэг хэвээр байна. Хэдийгээр компаниуд хиймэл оюун ухаанаа аюулгүй болгохыг хичээдэг ч хэрэглэгчид болон хакерууд байнга шинэ арга зам хайж байдаг. Энэ удаагийн үйл явдал нь хиймэл оюун ухааны технологи хурдацтай хөгжихийн хэрээр түүнийг хянах, зохицуулах ажиллагаа улам бүр төвөгтэй болж байгааг харуулж байна.
Одоогоор Fable 5 хэзээ дахин нээгдэх нь тодорхойгүй байгаа бөгөөд Anthropic компани аюулгүй байдлын цоорхойг засварлах ажилд бүх анхаарлаа хандуулж байгаагаа илэрхийлжээ. Технологийн салбарын шинжээчид энэхүү үйл явдлыг хиймэл оюун ухааны салбарт засгийн газрын оролцоо нэмэгдэж байгаагийн нэгэн жишээ гэж дүгнэж байна.
