Технологийн салбарт хиймэл оюун ухаан (AI) ашиглан код бичих нь өдөр тутмын хэвийн үзэгдэл болсон ч энэ нь шинэ төрлийн аюулгүй байдлын эрсдэлийг дагуулж байна. Microsoft компанийн аюулгүй байдлын судлаачид Anthropic компанийн хөгжүүлсэн "Claude Code" хэрэгсэлд ноцтой эмзэг байдал илэрснийг тогтоожээ.
Claude Code нь программ хангамж хөгжүүлэгчдэд код бичих, засварлах, турших ажлыг хурдасгах зорилготой AI агент юм. Гэвч Microsoft-ын мэргэжилтнүүдийн үзэж байгаагаар, "prompt injection" буюу хиймэл оюун ухааныг төөрөгдүүлэх замаар удирдлагыг нь гартаа авах халдлагын аргаар хакерууд тус хэрэгслийг ашиглан нууц мэдээлэл хулгайлах боломжтой аж. Тодруулбал, халдагчид тусгайлан бэлтгэсэн командыг AI-д өгснөөр программ хангамж хөгжүүлэлтийн явцад GitHub дээр хадгалагдсан нууц үг, API түлхүүр болон бусад чухал мэдээлэлд нэвтрэх эрсдэлтэй байна.
GitHub бол дэлхийн хамгийн том программ хангамж хөгжүүлэлтийн платформ бөгөөд олон сая хөгжүүлэгчид өөрийн бүтээлээ хадгалж, хамтран ажилладаг. Иймд энэ төрлийн эмзэг байдал нь зөвхөн нэг хэрэгсэлд бус, харин тухайн компанийн бүхий л дэд бүтцэд аюул учруулах магадлалтай юм.
Anthropic компани энэ асуудлыг анхааралдаа авч, хамгаалалтын арга хэмжээг чангатгаж байгаагаа мэдэгдсэн. Гэсэн хэдий ч технологийн мэргэжилтнүүд хиймэл оюун ухааныг ажлын байрандаа ашиглаж буй хөгжүүлэгчдийг илүү сонор сэрэмжтэй байхыг зөвлөж байна. Ялангуяа AI агентдаа хандах эрх олгохдоо хэт их эрх мэдэл олгохгүй байх, нууц мэдээллийг кодын санд ил тод хадгалахгүй байх нь хамгийн эхний бөгөөд чухал алхам юм.
Хиймэл оюун ухааны хөгжил хурдацтай байгаа ч түүнийг дагасан аюулгүй байдлын сорилтууд улам бүр нарийн төвөгтэй болж байна. Тиймээс хөгжүүлэгчид шинэ хэрэгсэл ашиглахдаа зөвхөн бүтээмжийг бус, аюулгүй байдлын баталгааг ч мөн давхар хянаж сурах шаардлагатай байна.
