Хиймэл оюун ухаан дэлхий ертөнцийг сүйрүүлнэ гэх онолууд яригдаж буй энэ үед дэлхийн тэргүүлэгч санхүүгийн байгууллагууд илүү бодит аюул болох залилан мэхлэлтийн асуудалд санаа зовниж эхэллээ. Мягмар гарагт олон улсын томоохон банкуудын нэгдэл худалдааны салбарт нэвтэрч буй хиймэл оюуны туслахуудтай холбоотой эрсдэлүүдийг дурдсан баримт бичгийг танилцуулсан байна.
Шинэ технологийн дагуулж буй эрсдэлүүд
Bank of America, Capital One, ASB Bank, Commonwealth Bank of Australia, ING Group болон NatWest Group зэрэг банкууд хамтран «Building Trust in Agentic Commerce» нэртэй тайланг гаргажээ. Тэд хэрэглэгчийн өмнөөс бие даан шийдвэр гаргаж, худалдан авалт хийх эрхтэй хиймэл оюуны агентууд залиланд өртөж, мөнгөө алдах магадлалтай бөгөөд энэ нь цаашлаад худалдаа эрхлэгчдэд ч сөргөөр нөлөөлж болзошгүй гэж үзэж байна.
Уг баримт бичигт хэрэглэгчид хиймэл оюуны төлөөлөгч тэдний ашиг сонирхлын төлөө ажиллах эсэхэд эргэлзэж буйг онцолжээ. Тухайлбал, хиймэл оюун ухаан буруу бараа авах, хэт их мөнгө үрэх, эсвэл бүр залилангийн золиос болох вий гэсэн айдас байгаа юм. Мөн ямар нэгэн зүйл буруутвал хэнд хандах нь тодорхойгүй байна.
Аюулгүй байдал ба шинэ төрлийн халдлагууд
Банкуудын мэдээлснээр зарим үйлчилгээ үзүүлэгчид хэрэглэгчийн картын мэдээллийг шууд вэбсайтуудад оруулах, хамгаалалт сул төлбөрийн хэрэгслийг ашиглах зэрэг аюултай алхмууд хийж байж болзошгүй аж. Түүнчлэн кибер гэмт хэрэгтнүүд хиймэл оюуны агентууд болон худалдаачдын нэрийг барьж, шинэ төрлийн залилан үйлдэх эрсдэл үүсэж байна. Энэ нь эргээд картын маргаан, буцаан олголтыг нэмэгдүүлж, бизнес эрхлэгчдэд дарамт учруулах магадлалтай.
Эдгээр эрсдэлээс сэргийлэхийн тулд банкууд AI хөгжүүлэгч компаниудад хандан ил тод байдал, аюулгүй байдал, нууцлал ба өгөгдөл хамгаалал, сонголт хийх эрх чөлөө, харилцан ажиллах чадвар гэсэн таван үндсэн зарчмыг баримтлахыг уриаллаа.
Энэхүү баримт бичиг нийтлэгдэхтэй зэрэгцэн Meta компанийн Muse нэртэй хиймэл оюуны агент туслахаас аюулгүй байдлын ноцтой цоорхой (zero-day vulnerability) илэрсэн тухай мэдээлэл цацагдсан юм. Мөн цахим худалдааны аварга Amazon компани Muse туслахыг өөрийн платформ дээрээс худалдан авалт хийхийг хориглохоо мэдэгдээд байна.
