Сүүлийн жилүүдэд дэлхий даяар сургууль, цэцэрлэг зэрэг олон нийтийн газрын аюулгүй байдлыг хангах зорилгоор хиймэл оюун ухаанд (AI) суурилсан хяналтын камеруудыг өргөнөөр ашиглах болсон. Гэвч технологийн энэхүү дэвшил бодит амьдрал дээр төсөөлж байснаас дутуу ажиллаж байгаа нь ноцтой асуудал дагуулаад байна.
АНУ-ын сургуулийн буудлагын халдлагад өртөж амьд үлдсэн нэгэн хохирогч “ZeroEyes” хэмээх хиймэл оюун ухааны технологийн компанийг шүүхэд өгчээ. Тус компани нь хяналтын камерын дүрслэлийг бодит цаг хугацаанд шинжилж, зэвсэг илэрсэн даруйд аюулгүйн албаныханд дохио өгөх программ хангамж хөгжүүлдэг юм. Нэхэмжлэгчийн зүгээс тус системийг халдлага үйлдэгчийн барьж явсан зэвсгийг илрүүлж чадаагүй, улмаар аюулгүй байдлын хуурамч мэдрэмж төрүүлсэн гэж буруутгаж байна.
Энэхүү хэрэг нь “Хиймэл оюун ухаан хэр найдвартай байх ёстой вэ?” гэсэн асуултыг технологийн салбарынхны өмнө хөндөж байна. Одоогийн байдлаар хиймэл оюун ухааны системүүд нь бүрэн төгс ажиллах боломжгүй бөгөөд гэрэлтүүлэг муутай орчин, хөдөлгөөний хурд, эсвэл зэвсгийн хэлбэр дүрсээс шалтгаалан алдаа гаргах магадлал өндөр байдаг. “ZeroEyes” зэрэг компаниуд нь уг системийг хүмүүсийг орлох биш, харин дэмжих хэрэгсэл гэж тайлбарладаг ч, сургуулийн аюулгүй байдал гэх мэт хүний амь нас хамаарах салбарт технологийн алдаа гарах нь хүлээн зөвшөөрөгдөхгүй нөхцөл байдал юм.
Шүүхийн энэ хэрэг нь ирээдүйд хиймэл оюун ухааныг аюулгүй байдлын системд нэвтрүүлэхэд тавигдах стандартыг чангатгахад нөлөөлж болзошгүй. Технологи хөгжихийн хэрээр бид түүнийг хэрхэн хянах, хариуцлагыг хэн хүлээх вэ гэдэг асуудлыг илүү нухацтай авч үзэх шаардлагатай байна. Хиймэл оюун ухаан бол ид шид биш, харин тооцоолол дээр суурилсан алгоритм гэдгийг энэ үйл явдал дахин санууллаа.
