Өнөөгийн сошиал медиа ертөнцөд хиймэл оюун ухаан (AI) ашиглан бүтээсэн чанаргүй контент болон үзэн ядалтын шинжтэй мэдээлэл олширч байгаа нь платформуудын аюулгүй байдал болон үнэ цэнийг бууруулж байна. Олон нийтийн сүлжээг аюулгүй байлгахын тулд хиймэл оюун ухааныг ашиглах нь "галыг галаар унтраах" оролдлого мэт боловч, энэ нь зарим тохиолдолд нөхцөл байдлыг улам дордуулж байгааг шинжээчид анхааруулж байна.
Сошиал медиа нь хамгийн сайн байх үедээ хүмүүс өөрийн туршлага, мэдлэгээ хуваалцдаг тав тухтай орчин байдаг. Хэрэглэгчид өөрсдийн бодол санааг шингээсэн блог эсвэл компьютерийн эд анги угсрах зэрэг хэрэгцээтэй бичлэгүүдийг оруулах нь платформын жинхэнэ үнэ цэнийг бүрдүүлдэг. Харин агуулгыг хянахдаа зөвхөн хиймэл оюун ухаанд найдвар тавих нь сошиал медиаг сонирхолтой болгодог гол хүчин зүйл болох "хүн" гэдэг ойлголтыг үгүйсгэж байна.
Алдаатай устгалууд
Хиймэл оюун ухааны хяналтын системүүд хэрхэн алдаа гаргаж болохыг Reddit сүлжээний r/AskHistorians бүлгэмийн жишээ харуулж байна. Энэхүү бүлгэм нь түүхчдийн хэлэлцүүлэг өрнөдөг томоохон талбар бөгөөд модераторууд нь хэлэлцүүлгийг хянадаг. Гэтэл дөрөвдүгээр сард тус бүлгэмийн модераторуудын Slack сувагт олон тооны анхааруулга иржээ. Үүний шалтгаан нь сүүлийн 10 жилийн хугацаанд нийтлэгдсэн олон арван сэтгэгдэл болон постууд хиймэл оюун ухааны автомат системийн тусламжтайгаар үндэслэлгүйгээр устгагдсантай холбоотой байв.
Энэхүү үйл явдал нь сошиал медиа платформ дээрх агуулгыг хянахдаа хиймэл оюун ухаанд хэт найдах нь үнэн зөв мэдээллийг устгах, хэрэглэгчдийн бүтээсэн үнэ цэнтэй контентыг гэмтээх эрсдэлтэйг сануулж байна.
