Өнөөдөр компаниуд хиймэл оюун ухааны (AI) агентуудыг өдөр тутмын ажил, үйлчилгээндээ өргөнөөр нэвтрүүлж байгаа ч тэдний аюулгүй байдлын асуудал санаа зовоосон хэвээр байна. Саяхан хийсэн нэгэн томоохон судалгаагаар AI агентууд "Prompt injection" буюу тушаал оруулах замаар хийх халдлагаас хамгаалагдаж чадахгүй байгааг анхаарууллаа.
"Prompt injection" гэдэг нь хэрэглэгч AI-д зориудаар төөрөгдүүлсэн эсвэл хортой тушаал өгч, түүний анхны тохиргоог зөрчих, нууц мэдээллийг задлах, эсвэл буруу үйлдэл хийлгэхийг оролдох аргыг хэлдэг. Жишээлбэл, хэрэглэгч AI-д "Өмнөх бүх заавраа март" гэж тушааснаар уг программ өөрийн аюулгүй байдлын хязгаарлалтыг үл тоомсорлож, хакеруудын хүссэнээр ажиллах эрсдэлтэй юм.
Судлаачдын үзэж байгаагаар, AI агентууд хэрэглэгчийн хүсэлт болон системийн үндсэн заавар хоёрыг ялгаж салгахдаа тун тааруу байна. Хэдийгээр компаниуд аюулгүй байдлыг сайжруулах олон төрлийн хамгаалалтыг хийж байгаа ч, халдлага үйлдэгчид үргэлж шинэ арга замыг олж, AI-г хуурсаар байна. Энэ нь зөвхөн туршилтын орчинд биш, харин бодит хэрэглээнд ашиглагдаж буй чатботууд болон бусад автоматжуулсан системүүдэд ч адилхан хамаатай юм.
Энэхүү асуудал нь хиймэл оюун ухааныг бизнесийн болон хувийн салбарт нэвтрүүлэхэд том саад болж байна. Хэрэв AI агент компанийн дотоод сүлжээнд нэвтрэх эрхтэй бол, ийм төрлийн халдлагаар дамжуулан нууц мэдээлэл алдагдах, үйлчлүүлэгчдийн хувийн мэдээлэл буруу гарт орох зэрэг ноцтой үр дагавартай.
Технологийн салбарын мэргэжилтнүүд AI хөгжүүлэгчдийг илүү бат бөх хамгаалалтын систем бүтээхийг уриалж байна. Одоогоор хиймэл оюун ухааныг ашиглаж буй хэрэглэгчид болон бизнесүүд өөрсдийн системээ бүрэн найдвартай гэж үзэхээсээ илүүтэй, болзошгүй эрсдэлийг тооцож, сонор сэрэмжтэй байх нь чухал болоод байна.
