Хиймэл оюуны салбарын тэргүүлэгч OpenAI компани өөрийн бүтээгдэхүүн ChatGPT-ийн аюулгүй байдлыг сайжруулах шинэ алхам хийлээ. Тодруулбал, хэрэглэгчийн нууц мэдээлэл алдагдахаас сэргийлэх 'Lockdown Mode' буюу хязгаарлалтын горимыг танилцуулсан байна. Энэхүү шинэчлэл нь сүүлийн үед ихээхэн анхаарал татаж буй 'prompt injection' буюу хиймэл оюуныг хуурч, нууц мэдээллийг нь гаргуулах халдлагаас хамгаалах зорилготой юм.
'Prompt injection' гэдэг нь хэрэглэгч хиймэл оюунд хортой тушаал өгөх эсвэл системийн тохиргоог алдагдуулах замаар нууцлагдсан өгөгдлийг нь олж авах оролдлого юм. Хэдийгээр ChatGPT нь өндөр хамгаалалттай ч, ийм төрлийн халдлагад өртөх эрсдэл байсаар ирсэн. OpenAI-ийн шинэ горим нь хиймэл оюуны хариу үйлдэл үзүүлэх хүрээг хумьж, эмзэг мэдээлэл задрах магадлалыг эрс бууруулах юм.
Гэсэн хэдий ч технологийн мэргэжилтнүүд энэхүү горим нь бүрэн төгс хамгаалалт биш гэдгийг сануулж байна. Хиймэл оюуны хөгжил хурдацтай байгаатай зэрэгцэн халдагчид ч мөн адил арга барилаа боловсронгуй болгосоор байгаа тул 'Lockdown Mode' нь эрсдэлийг багасгах нэгэн давхар хамгаалалт болохоос биш, 100 хувь баталгаа биш юм.
Энэхүү шинэчлэл нь ялангуяа байгууллагын нууцлалтай мэдээлэл дээр ажилладаг хэрэглэгчдэд нэн тустай. Хэрэглэгчид өөрсдийн өгөгдлөө хиймэл оюунд итгэж өгөхдөө илүү тайван байх боломжийг энэ горим олгож байна. OpenAI цаашид хиймэл оюуныг илүү аюулгүй, найдвартай болгох чиглэлээр судалгаагаа үргэлжлүүлсээр байх болно.
Технологийн ертөнцөд хиймэл оюуны аюулгүй байдал улам бүр чухал сэдэв болж байна. Та ChatGPT ашиглахдаа хувийн болон байгууллагынхаа чухал мэдээллийг оруулахдаа үргэлж сонор сэрэмжтэй байж, шинээр нэвтэрч буй аюулгүй байдлын тохиргоонуудыг идэвхжүүлж байхыг зөвлөж байна.
