Хиймэл оюун ухааны салбарт тэргүүлэгч Anthropic компани өөрсдийн бүтээсэн хамгийн хүчирхэг загварынхаа аюулгүй байдлын талаар ил тод мэдээлэл өгсөн нь эсрэгээрээ эргэж, засгийн газрын хатуу арга хэмжээтэй тулгарлаа. Anthropic нь хиймэл оюун ухааны аюулгүй байдлыг хангах, ёс зүйтэй хөгжүүлэлтийг дэмжих зорилготой, OpenAI-ийн гол өрсөлдөгч гэгддэг томоохон технологийн компани юм.
Асуудал нь тус компанийн хөгжүүлэгчид өөрсдийн загварт “jailbreak” буюу хиймэл оюун ухааны тогтоосон хязгаарлалтыг давах боломжтой нарийн сул тал байгааг илрүүлж, үүнийгээ олон нийтэд ил тод зарласнаас эхэлжээ. Гэтэл энэхүү ил тод байдал нь эрх баригчдын анхаарлыг татаж, улмаар тус хиймэл оюун ухааныг олон нийтийн хэрэглээнээс татан авах, ашиглалтыг нь зогсоох шийдвэрт хүргэсэн байна.
Anthropic компани энэ шийдвэрийг эрс эсэргүүцэж байна. Тус компаниас гаргасан мэдэгдэлд: “Хэдэн зуун сая хүнд хүрч байгаа арилжааны бүтээгдэхүүнийг ийм өчүүхэн сул тал илэрсний төлөө шууд зогсоох нь үндэслэлгүй” гэж дурджээ. Тэдний үзэж буйгаар, технологийн салбарт бүх программ хангамж тодорхой хэмжээний эрсдэл, сул талтай байдаг бөгөөд үүнийг засч залруулахын оронд бүхэлд нь хаах нь инновацийг боомилсон алхам болж байна.
Энэхүү үйл явдал нь хиймэл оюун ухааныг хөгжүүлэгчид болон төр засгийн байгууллагуудын хоорондох итгэлцлийн хямралыг дахин харууллаа. Нэг талаас технологийн компаниуд ил тод байдлыг эрхэмлэхийг хүсч байгаа ч, энэ нь эргээд тэдний бүтээгдэхүүнийг зах зээлээс арчих эрсдэлийг дагуулж байна. Технологийн салбарын шинжээчид энэ тохиолдол нь ирээдүйд хиймэл оюун ухааныг зохицуулах эрх зүйн орчин хэрхэн бүрдэхийг харуулсан чухал жишээ болно гэж дүгнэж байна.
Одоогоор Anthropic компани уг хоригийг цуцлахаар ажиллаж байгаа ч, хиймэл оюун ухааны аюулгүй байдлын стандарт болон төрийн хяналт хоёрын тэнцвэрийг хэрхэн олох вэ гэдэг асуулт нээлттэй хэвээр үлдлээ.
